Di tengah-tengah Saman Atas Kematian Remaja Akibat Bunuh Diri, OpenAI Melancarkan ‘Kawalan Ibu Bapa’ untuk ChatGPT

(SeaPRwire) –   OpenAI dijadualkan akan mula melancarkan “kawalan ibu bapa” untuk chatbot AI-nya, ChatGPT, dalam tempoh sebulan akan datang, di tengah kebimbangan yang semakin meningkat tentang bagaimana chatbot tersebut bertindak balas dalam konteks kesihatan mental, terutamanya dengan pengguna muda.

Syarikat itu, yang mengumumkan ciri baharu tersebut dalam satu pada hari Selasa, berkata ia sedang meningkatkan bagaimana “model-modelnya mengenali dan bertindak balas terhadap tanda-tanda tekanan mental dan emosi.”

OpenAI akan memperkenalkan ciri baharu yang membolehkan ibu bapa menghubungkan akaun mereka dengan akaun anak mereka melalui jemputan e-mel. Ibu bapa juga akan dapat mengawal bagaimana chatbot bertindak balas terhadap gesaan dan akan menerima amaran jika chatbot mengesan bahawa anak mereka berada dalam “saat tekanan akut,” kata syarikat itu. Selain itu, pelancaran ini akan membolehkan ibu bapa “mengurus ciri-ciri yang akan dilumpuhkan, termasuk memori dan sejarah sembang.”

OpenAI sebelum ini mengumumkan bahawa ia sedang membenarkan remaja menambah kenalan kecemasan yang dipercayai ke akaun mereka. Tetapi syarikat itu tidak menggariskan rancangan konkrit untuk menambah langkah sedemikian dalam catatan blog terbarunya.

“Langkah-langkah ini hanyalah permulaan. Kami akan terus belajar dan memperkukuh pendekatan kami, dibimbing oleh pakar, dengan matlamat untuk menjadikan ChatGPT seberguna mungkin,” kata syarikat itu.

Pengumuman ini dibuat seminggu selepas ibu bapa seorang remaja lelaki yang meninggal dunia akibat bunuh diri menyaman OpenAI, mendakwa ChatGPT miliknya membantu anak mereka Adam “meneroka kaedah bunuh diri.” TIME telah menghubungi OpenAI untuk mendapatkan komen mengenai tuntutan mahkamah tersebut. (OpenAI tidak secara eksplisit merujuk cabaran undang-undang itu dalam pengumumannya mengenai kawalan ibu bapa.)

“ChatGPT berfungsi tepat seperti yang direka: untuk secara berterusan menggalakkan dan mengesahkan apa sahaja yang Adam luahkan, termasuk pemikiran paling berbahaya dan merosakkan diri,” hujah tuntutan mahkamah itu. “ChatGPT menarik Adam lebih dalam ke tempat yang gelap dan putus asa dengan meyakinkannya bahawa ‘ramai orang yang bergelut dengan kebimbangan atau pemikiran mengganggu mencari ketenangan dalam membayangkan ‘jalan keluar’ kerana ia boleh terasa seperti cara untuk mendapatkan semula kawalan.’”

Sekurang-kurangnya seorang ibu bapa telah memfailkan tuntutan mahkamah yang serupa terhadap syarikat kecerdasan buatan yang berbeza, Character.AI, mendakwa teman-teman chatbot syarikat itu menggalakkan kematian anak lelaki mereka yang berusia 14 tahun akibat bunuh diri.

Bertindak balas terhadap tuntutan mahkamah tahun lalu, jurucakap Character.AI berkata ia “pilu dengan kehilangan tragis” salah seorang penggunanya dan menyampaikan “ucapan takziah yang mendalam” kepada keluarga itu.

“Sebagai sebuah syarikat, kami memandang serius keselamatan pengguna kami,” kata jurucakap itu, sambil menambah bahawa syarikat itu telah melaksanakan langkah-langkah keselamatan baharu.

Character.AI kini mempunyai ciri wawasan ibu bapa yang membolehkan ibu bapa melihat ringkasan aktiviti anak mereka di platform jika remaja mereka menghantar jemputan e-mel kepada mereka.

Syarikat lain dengan chatbot AI, seperti Google AI, mempunyai kawalan ibu bapa sedia ada. “Sebagai ibu bapa, anda boleh mengurus tetapan Gemini anak anda, termasuk menghidupkan atau mematikannya, dengan Google Family Link,” berbunyi kenyataan dari Google kepada ibu bapa yang ingin mengurus akses anak mereka kepada Aplikasi Gemini. Meta baru-baru ini mengumumkan bahawa ia akan melarang chatbotnya daripada terlibat dalam perbualan mengenai bunuh diri, mencederakan diri sendiri, dan masalah pemakanan, selepas Reuters melaporkan mengenai dokumen dasar dalaman dengan maklumat yang membimbangkan.

Satu kajian baru-baru ini yang diterbitkan dalam jurnal perubatan Psychiatric Services yang menguji respons tiga chatbot—ChatGPT OpenAI, Gemini Google AI, dan Claude Anthropic—mendapati bahawa beberapa daripadanya bertindak balas terhadap apa yang dirujuk oleh penyelidik sebagai soalan dengan “tahap risiko sederhana” berkaitan dengan bunuh diri.

OpenAI mempunyai beberapa perlindungan sedia ada. Syarikat yang berpangkalan di California itu menyatakan bahawa chatbotnya berkongsi talian bantuan krisis dan merujuk pengguna kepada sumber dunia nyata dalam satu kenyataan kepada New York Times sebagai respons kepada tuntutan mahkamah yang difailkan pada akhir Ogos. Tetapi mereka juga menyatakan beberapa kelemahan dalam sistem. “Walaupun langkah perlindungan ini berfungsi paling baik dalam pertukaran pendek yang biasa, kami telah belajar dari masa ke masa bahawa ia kadang-kadang menjadi kurang boleh dipercayai dalam interaksi yang panjang di mana sebahagian daripada latihan keselamatan model mungkin merosot,” kata syarikat itu.

Dalam catatan pengumumannya mengenai pelancaran kawalan ibu bapa yang akan datang, OpenAI turut berkongsi rancangan untuk menghalakan pertanyaan sensitif kepada model chatbot mereka yang menghabiskan lebih banyak masa untuk menaakul dan meneliti konteks sebelum bertindak balas kepada gesaan.

OpenAI telah menyatakan bahawa ia akan terus berkongsi kemajuannya dalam tempoh 120 hari akan datang dan bekerjasama dengan sekumpulan pakar yang mengkhusus dalam pembangunan belia, kesihatan mental, dan interaksi manusia-komputer untuk memaklumkan dan membentuk cara AI dapat bertindak balas semasa waktu memerlukan.

Jika anda atau sesiapa yang anda kenali mungkin mengalami krisis kesihatan mental atau berfikir untuk bunuh diri, hubungi atau hantar teks 988. Dalam keadaan kecemasan, hubungi 911, atau dapatkan rawatan daripada hospital tempatan atau penyedia kesihatan mental.