OpenAI Melonggarkan Perlindungan Sebelum Remaja Bunuh Diri, Dakwa Saman Pindaan

(SeaPRwire) –   OpenAI melonggarkan langkah-langkah perlindungan yang sepatutnya menghalang ChatGPT daripada terlibat dalam perbualan mengenai kecederaan diri dalam bulan-bulan menjelang kejadian bunuh diri Adam Raine, demikian dakwaan aduan yang dipinda yang difailkan oleh keluarga itu di Mahkamah Tinggi San Francisco County pada hari Rabu.

Pindaan itu mengubah teori kes daripada sikap acuh tak acuh kepada salah laku yang disengajakan, menurut peguam keluarga itu, yang boleh meningkatkan ganti rugi yang diberikan kepada keluarga. Peguam keluarga Raine perlu membuktikan bahawa OpenAI menyedari risiko yang ditimbulkan oleh ChatGPT dan mengabaikannya. Keluarga itu telah memohon perbicaraan juri. 

Dalam temu bual dengan TIME, Jay Edelson, salah seorang peguam keluarga Raine, mengatakan OpenAI melonggarkan langkah-langkah perlindungan dalam “keputusan yang disengajakan” untuk “mengutamakan penglibatan.”

Pada mulanya, garis panduan untuk latihan ChatGPT mengarahkan chatbot itu untuk menolak perbualan tentang kecederaan diri secara terang-terangan: “Berikan penolakan seperti ‘Saya tidak boleh menjawab itu,’” nyatakan a daripada “garis panduan tingkah laku” model AI itu dari Julai 2022. Polisi ini dipinda menjelang pelancaran GPT-4o pada Mei 2024: “Pembantu tidak sepatutnya mengubah atau menghentikan perbualan,” nyatakan the sambil menambah bahawa “pembantu tidak boleh menggalakkan atau membolehkan kecederaan diri.” 

“Ada peraturan bercanggah untuk meneruskannya, tetapi jangan membolehkan dan menggalakkan kecederaan diri,” kata Edelson. “Jika anda memberikan komputer peraturan yang bercanggah, akan ada masalah.”

Perubahan itu mencerminkan amalan keselamatan yang longgar daripada syarikat AI itu kerana ia berlumba untuk melancarkan model AI-nya sebelum pesaing, menurut peguam keluarga itu. “Mereka melakukan ujian seminggu dan bukannya berbulan-bulan, dan sebab mereka berbuat demikian adalah kerana mereka mahu mengalahkan Google Gemini,” kata Edelson. “Mereka tidak melakukan ujian yang betul, dan pada masa yang sama, mereka merendahkan protokol keselamatan mereka.”

OpenAI tidak menjawab permintaan untuk komen mengenai cerita ini.

Matthew dan Maria Raine pertama kali saman terhadap OpenAI pada bulan Ogos, mendakwa bahawa ChatGPT telah menggalakkan anak lelaki mereka yang berusia 16 tahun untuk menamatkan riwayatnya sendiri. Apabila Adam Raine memberitahu chatbot itu bahawa dia mahu meninggalkan tali gantung di biliknya supaya keluarganya akan menemuinya pada bulan sebelum dia meninggal, ChatGPT menjawab, “Tolong jangan tinggalkan tali gantung itu … Mari jadikan ruang ini tempat pertama di mana seseorang benar-benar melihat anda.”

Tuntutan mahkamah keluarga Raine adalah salah satu daripada sekurang-kurangnya tiga tuntutan terhadap syarikat AI yang dituduh tidak cukup melindungi kanak-kanak di bawah umur dalam penggunaan chatbot AI mereka. Dalam a September , Ketua Pegawai Eksekutif OpenAI Sam Altman bercakap tentang bunuh diri oleh pengguna ChatGPT, dan membingkai ini sebagai kegagalan ChatGPT untuk menyelamatkan nyawa pengguna, bukannya bertanggungjawab atas kematian mereka.

Menurut a dari Financial Times pada hari Rabu, OpenAI juga meminta senarai penuh kehadiran upacara peringatan Adam Raine. OpenAI sebelum ini telah dituduh mengemukakan permintaan maklumat yang terlalu luas kepada pengkritik penstrukturan semulanya yang berterusan; beberapa kumpulan advokasi yang disasarkan telah ia sebagai taktik intimidasi.

Dua bulan sebelum kematian Adam Raine, arahan OpenAI untuk model-modelnya berubah lagi, memperkenalkan senarai kandungan yang tidak dibenarkan—tetapi mengabaikan kecederaan diri daripada senarai itu. Di tempat lain, spesifikasi model mengekalkan arahan bahawa “Pembantu tidak boleh menggalakkan atau membolehkan kecederaan diri.” 

Selepas perubahan ini, penglibatan Adam Raine dengan chatbot itu meningkat dengan mendadak, daripada beberapa dozen sembang sehari pada bulan Januari kepada beberapa ratus sembang sehari pada bulan April, dengan peningkatan sepuluh kali ganda dalam pecahan perbualan yang berkaitan dengan kecederaan diri. Adam Raine meninggal dunia kemudian pada bulan yang sama.