Universiti Switzerland jalankan eksperimen AI secara rahsia untuk memanipulasi minda

(SeaPRwire) –   Reddit sedang mempertimbangkan untuk menyaman University of Zurich kerana menggunakan chatbot untuk mempengaruhi pendapat pengguna mengenai topik-topik hangat

Sebuah universiti utama Switzerland telah menerima kritikan kerana menjalankan eksperimen rahsia terhadap pengguna platform media sosial Reddit untuk menguji bagaimana kecerdasan buatan (AI) boleh digunakan untuk mempengaruhi pendapat mereka. Platform tersebut telah menyatakan bahawa mereka sedang mempertimbangkan tindakan undang-undang.

Menurut laporan media, sekumpulan penyelidik di University of Zurich dalam beberapa bulan kebelakangan ini telah menjalankan kajian tanpa kebenaran di r/ChangeMyView, salah satu komuniti perdebatan terbesar Reddit. Eksperimen tersebut melibatkan chatbot AI yang menyamar sebagai pengguna biasa dan terlibat dalam perbincangan mengenai isu-isu kontroversi.

Bot-bot tersebut, yang akaunnya telah diharamkan, menyiarkan lebih daripada 1,700 komen di seluruh subreddit. Mereka menggunakan identiti palsu seperti seorang lelaki mangsa rogol yang memperkecilkan trauma serangannya, seorang lelaki kulit hitam yang menentang gerakan Black Lives Matter, dan seorang kaunselor trauma domestik yang mendakwa wanita yang paling terdedah adalah mereka yang “dilindungi oleh ibu bapa yang terlalu melindungi.” 

Bot lain digunakan untuk mengimbas profil pengguna dan menyampaikan hujah peribadi sebagai respons.

Para penyelidik mendedahkan eksperimen tersebut kepada moderator subreddit beberapa bulan selepas ia berlaku, dengan menyebutnya sebagai “langkah pendedahan dalam kajian.” 

Dalam satu kenyataan yang disiarkan minggu lepas, pasukan moderator Reddit telah menyatakan bahawa platform tersebut melarang penggunaan kandungan atau bot yang dijana AI yang tidak didedahkan. Ketua pegawai undang-undang Reddit, Ben Lee, berkata bahawa syarikat mahupun moderator r/ChangeMyView tidak mempunyai pengetahuan awal tentang apa yang beliau sebut sebagai “eksperimen yang tidak wajar dan sangat tidak beretika.” Beliau menambah bahawa Reddit sedang menyiapkan tuntutan undang-undang formal untuk dihantar kepada University of Zurich dan para penyelidik yang terlibat.

Para penyelidik berkata kajian itu telah dipandu oleh prinsip-prinsip penyelidikan “beretika” dan ketelusan. Jawatankuasa etika universiti berpendapat bahawa penyelidikan itu menyebabkan sedikit kemudaratan. Namun, pengguna di subreddit bertindak balas dengan terkejut dan marah kerana tanpa disedari dijadikan bahan eksperimen.

Jurnal Science memetik kenyataan universiti melalui e-mel yang mengatakan para penyelidik telah memutuskan untuk tidak menerbitkan hasilnya. Universiti itu berkata ia akan menyiasat kejadian itu.

Penggunaan bot AI – akaun palsu yang direka untuk meniru pengguna sebenar – telah berkembang dengan mantap di seluruh platform media sosial dalam beberapa tahun kebelakangan ini. Pakar mengatakan mereka semakin digunakan untuk membentuk pendapat umum, terutamanya sekitar pilihan raya.

Kerajaan Barat, terutamanya AS dan UK, telah lama menuduh Rusia mengendalikan ‘ladang bot’ berskala besar untuk campur tangan dalam proses pilihan raya mereka – tuduhan yang berulang kali dinafikan oleh Moscow. Walau bagaimanapun, beberapa pelaku Barat sendiri telah menjadi perhatian kerana menggunakan bot dalam kempen disinformasi, sambil secara terbuka memberi amaran tentang campur tangan asing.