Prinsip Purba Yang Boleh Membantu Kita Mengenalpasti Kepalsuan AI

(SeaPRwire) –   Anda tidak memerlukan teknologi canggih untuk menipu orang dalam talian. Kami menunjukkan kepada lebih 3,000 pelajar sekolah menengah video kabur pekerja pengundi membuang undi untuk menipu pilihan raya. Kapsyen yang dilekatkan, menyala dengan fon merah dan huruf besar, cukup untuk menipu pelajar agar mempercayai penipuan pengundi A.S.—walaupun rakaman itu dari Rusia. Hanya tiga pelajar yang menyedarinya.

Kami telah lama berpendapat bahawa penipuan murah lebih berbahaya daripada deepfake: hampir sama berkesan tetapi jauh lebih mudah dibuat. Pilihan raya lalu, walaupun dengan alat AI tersedia kepada orang ramai, ia disunting dengan ‘pita pelekat digital’ yang mencetuskan perdebatan tentang kesesuaian Presiden Joe Biden untuk berkhidmat.

Kini, era penipuan murah sedang berakhir. Kandungan yang dibuat dengan alat video baharu menandakan landskap maklumat yang lebih berbahaya. Terima kasih kepada produk seperti Google’s Veo 3, OpenAI’s Sora 2, dan Meta’s Vibes, ‘sampah AI’ kini sangat mudah dihasilkan sehingga ia merebak ke seluruh skrin kita, dibantu oleh pengabaian borong platform dari pengawasan. Untuk menavigasi internet hari ini, kita memerlukan panduan daripada kebijaksanaan kuno: penekanan agama Islam, Yahudi, Buddha, dan kepercayaan lain yang berusia berabad-abad tentang kepentingan reputasi.

Umat Islam yang taat menjejak kembali sabda-sabda Muhammad melalui “rantai narasi,” atau “isnad.” Orang Yahudi yang beragama menafsirkan ajaran Talmud dalam konteks rabi yang menyampaikannya. Penganut Buddha Tibet secara lisan menyampaikan ajaran dalam keturunan dari Buddha hingga kini. Semua tradisi ini menggalakkan kita untuk berfikir tentang maklumat, tetapi hanya selepas kita menjejakinya kembali ke asalnya dan menilai reputasi para bijak pandai yang berdiri di belakangnya.

Reputasi penting dalam konteks sekular juga: ia adalah mekanisme yang kita gunakan untuk membuat keputusan apabila kita kekurangan pengetahuan dan kepakaran. Kita bergantung pada reputasi ketika memilih ahli terapi atau tukang paip, restoran untuk dituju atau hotel untuk ditempah. Kita bertanya kepada orang yang kita percayai dan merujuk ulasan kerana kita sedar bahawa tiada siapa yang mungkin mendedahkan kelemahan atau motif tersembunyi mereka.

Reputasi sangat penting dalam banyak aspek kehidupan kita. Mengapa, di internet, kebanyakan orang mengabaikannya?

Penyelidikan kami telah menguji keupayaan ribuan orang muda untuk menilai maklumat dalam talian. Berulang kali, kami melihat mereka menilai kandungan tanpa mengira asalnya. Seorang pelajar dari kawasan luar bandar Ohio mempercayai video penipuan pengundi kerana mereka menyangka mata kasar mereka mampu mengesan “penipuan di pelbagai negeri yang berbeza.” Seorang pelajar dari Pennsylvania menulis bahawa video itu jelas “menunjukkan orang memasukkan undi palsu ke dalam kotak.”

Pola yang sama menjadi lebih hebat apabila melibatkan AI. Seorang guru yang berkongsi pengalaman mereka dengan kami menceritakan tentang bertanya kepada seorang pelajar bagaimana mereka tahu jika maklumat daripada ChatGPT adalah tepat. Pelajar itu menyodok telefon ke muka guru: “Lihat, ia tertulis di sini!'” Kajian rintis kami di bilik darjah sekolah menengah dan kolej menunjukkan trend yang sama: ramai pelajar meletakkan kepercayaan mereka kepada chatbot AI, walaupun chatbot tersebut mengabaikan konteks tentang dari mana maklumat itu berasal.

Terlalu ramai pengguna internet gagal mempertimbangkan reputasi atau tersilap media sosial atau laman berita untuk sumber yang disemak rapi dan bukannya sumber yang cacat. Apabila orang cuba menilai reputasi, mereka dipengaruhi oleh isyarat yang mudah dimanipulasi yang disediakan oleh sumber itu sendiri: domain yang sah, bahasa yang kedengaran rasmi pada halaman “tentang kami”, kuantiti data tanpa mengira kualiti, atau perasaan naluri tentang bagaimana sesuatu itu kelihatan.

Ciri-ciri ini berkilauan seperti emas palsu. Sesiapa sahaja boleh mendapatkan domain .org, termasuk kumpulan pembenci. Laman web penafian Holocaust mendakwa dalam halaman tentang mereka untuk “menyediakan maklumat fakta.” Siaran dengan carta menarik boleh mengandungi maklumat salah yang berbahaya. Dan laporan menunjukkan bahawa AI sangat realistik sehingga memaksa kita meragui deria kita sendiri: daripada audio yang kedengaran seperti ibu bapa kita kepada imej hiper-realistik api yang melanda Seattle’s Space Needle.

Landskap maklumat ini menyajikan pilihan tiada menang antara penyerahan dan solipsisme: tidak peduli apa yang benar, atau berkeras bahawa tiada apa yang benar. Yang pertama menjadikan kita terdedah kepada pelakon jahat yang mempergunakan klip realistik. Yang kedua menyebabkan kita kekurangan maklumat yang baik. Kedua-dua pilihan ini menghakis kewarganegaraan yang berpengetahuan pada masa ia semakin berkurangan.

Inilah yang boleh kita lakukan: daripada menumpukan perhatian kepada kandungan itu sendiri, tanya dahulu siapa di sebaliknya, sama seperti tradisi agama mempertimbangkan ajaran dalam konteks siapa yang mengatakannya.

Dan apabila digunakan dengan mahir, alat yang sama yang menyesatkan kita boleh membantu kita keluar dari dilema ini. Bukan dengan menyerahkan pemikiran kita kepada teknologi—tetapi dengan menggunakan teknologi untuk membina reputasi dan menajamkan pemikiran kita.

Tiga pelajar yang menyedari video penipuan pengundi itu dari Rusia tidak terlibat dalam sebarang keajaiban teknikal. Mereka hanya membuka tab baharu, memasukkan beberapa kata kunci pilihan, dan menemui artikel daripada sumber yang boleh dipercayai seperti BBC dan Snopes yang membongkarnya. Dan dengan beberapa petunjuk bijak tentang cara LLM berfungsi dan cara menyusun gesaan dengan berkesan, AI boleh sebenarnya membantu dalam mengesahkan siaran di media sosial dan menawarkan konteks yang hilang.

Alat AI utama menyertakan penafian ringkas yang memberitahu pengguna untuk mengesahkan maklumat. “Gemini boleh membuat kesilapan, jadi semak semula,” kata Google. “ChatGPT boleh membuat kesilapan. Semak maklumat penting,” nasihat OpenAI. Tetapi dari Generasi Alpha hingga generasi yang lebih tua, hampir semua orang bergelut dalam mengesahkan maklumat yang mereka temui.

Berita baiknya ialah kita semua boleh menjadi lebih baik. Walaupun beberapa jam pengajaran tentang cara mengukur reputasi boleh mengubah keadaan—seperti yang kami lihat dalam kajian yang kami jalankan di mana-mana dari bilik darjah sekolah menengah di Ohio dan California hingga kursus kolej di Arizona dan Texas. Sebelum ini, pelajar mempercayai mata mereka untuk mengetahui sama ada sesuatu itu boleh dipercayai. Selepas itu, mereka belajar untuk mendapatkan gambaran tentang reputasi sumber tersebut. Kajian di British Columbia, Jerman, Sweden, dan Belanda telah menemui hasil positif yang serupa.

Apabila kita tidak lagi dapat membezakan kandungan sebenar daripada kandungan yang dihasilkan AI, ia boleh terasa sangat sia-sia untuk cuba memutuskan apa yang perlu dipercayai. Tetapi kita boleh menangani ekosistem pengetahuan hari ini dengan lebih baik dengan menggandakan pelajaran kuno: kepentingan reputasi.