Kami semua telah melihat penyebaran kandungan yang sensasional, membahagi-bahagikan, dan palsu secara dalam talian yang berkaitan dengan konflik antara Israel dan Hamas. Sebagai tindak balas, wartawan, penguatkuasa, politikus dan kumpulan masyarakat awam telah menekan syarikat media sosial untuk meningkatkan usaha pengawalan kandungan, yang melibatkan penemuan dan menangani kes-kes perseorangan kandungan yang melanggar dasar platform. Selama 4+ tahun di Meta, saya bekerja untuk meningkatkan impak platform terhadap konflik berbeza. Sejak meninggalkan, saya telah memberi tumpuan kepada reka bentuk platform, sebahagiannya kerana batasan pengawalan kandungan adalah lebih ketara apabila taruhan adalah tertinggi.
Ini adalah contoh kandungan dari konflik semasa yang telah dikenal pasti sebagai palsu dalam New York Times.
Sebagai tindak balas kepada pos seperti ini, pegawai-pegawai gereja telah mengeluarkan kenyataan menyatakan bahawa “Gereja St. Porphyrius di Gaza tidak tersentuh”, tetapi itu hanya mungkin kerana dakwaan itu khusus dan retrospektif (beberapa hari kemudian, gereja sebenarnya dijangkiti serangan udara). Lebih umum dalam perbualan dalam talian adalah kenyataan-kenyataan yang lebih umum seperti pos yang mencadangkan penggunaan meluas dan tidak terpilih bom fosforus atau serangan seksual oleh pihak lawan. Jenis kandungan umum menakutkan ini adalah mustahil untuk mengawal dengan berkesan kerana:
- Anda tidak dapat membuktikan penafian umum. Bagaimana anda akan menyatakan bahawa sesuatu tidak pernah berlaku, apabila tiada dakwaan dibuat tentang sebarang insiden khusus? Membantah hanya mungkin apabila penulis membuat dakwaan khusus atau menggunakan imej yang digunakan semula, tetapi kebanyakan orang tidak akan melakukan itu.
- Anda tidak mahu menyekat kandungan penting. Kenyataan-kenyataan ini mungkin melanggar hak asasi manusia dan penting untuk didokumenkan. Orang juga boleh menggunakan maklumat sedemikian untuk menjaga keselamatan mereka – jika mereka boleh mempercayainya. Membuang kandungan sedemikian dengan silap boleh menjadi kesilapan mahal.
- Orang-orang bermotivasi untuk menyebarkan kandungan sedemikian. Dalam konteks konflik, menyebarkan maklumat provokatif tentang pihak lawan adalah taktik yang semua pihak secara semula jadi akan terlibat. Kandungan sedemikian akan dipaparkan sering dan disebarkan dengan cepat oleh orang-orang yang mahu menyokong pihak mereka, meninggalkan tiada masa untuk mendapatkan fakta dengan betul sebelum ia telah dibaca secara meluas.
- Orang-orang bersemangat untuk maklumat terkini. Keinginan ini untuk maklumat terkini bermakna orang-orang yang tidak mempunyai maklumat atau pendapat tentang konflik masih akan bermotivasi untuk mendapatkan perhatian, pengikut, dan pendapatan iklan, dengan bersaing untuk menjadi yang pertama dengan maklumat, maklumat, dan maklumat paling meyakinkan. Mereka mempunyai sedikit insentif untuk peduli sama ada maklumat itu benar, palsu atau berpotensi buruk untuk dunia. Jika sesuatu diambil, mereka boleh cuba lagi, mungkin dengan akaun baharu.
Untuk jelas, saya tidak mengatakan bahawa pengawalan kandungan tidak melakukan beberapa kerja yang baik dan penting. Tetapi meminta syarikat-syarikat untuk cuba lebih keras dalam pengawalan, seperti yang telah dilakukan oleh EU terhadap Meta dan Twitter, akan mempunyai kesan yang sangat terhad kepada kebanyakan kandungan membahayakan yang tidak melanggar dasar dan sering berlaku bersama-sama dengan ekspresi politik yang sah. Menurut dokumen dalaman Facebook ini, “sektor penting kandungan membahayakan, seperti kisah peribadi, soalan memimpin, atau derision, sering benar-benar tidak boleh dikuatkuasakan. Apabila kerja Integriti FB matang dan menjadi lebih dikenali, pelaku masalah beralih ke arah jurang ini.” Dan dalam jurang ini, pihak berkuasa mengakui bahawa kandungan sering diberi ganjaran dengan lebih banyak pengedaran untuk mendekati garis salah fakta dan kebencian.
Sebenarnya, apabila pihak berkuasa bergantung kepada pengawalan kandungan, mereka sering mencipta masalah baharu. Kita tahu daripada pengalaman terdahulu bahawa peningkatan penguatkuasaan terhadap konflik Israel-Palestin telah membawa kepada laporan yang boleh dipercayai tentang penapisan dan bias. Apabila diaplikasikan dengan teliti kepada kes jelas kandungan membahayakan yang terhad (contohnya imej yang salah dinyatakan), pengawalan kandungan adalah alat penting. Tetapi kebanyakan kes kandungan membahayakan tidak jelas, dan apabila pengawalan kandungan diperluaskan sebagai langkah kecemasan untuk menangani satu set kandungan membahayakan yang lebih luas, di mana penilaian memerlukan lebih banyak telitian dan subjektiviti, kesilapan cenderung untuk berlaku.
Itulah sebabnya syarikat-syarikat sering bergantung kepada langkah-langkah “pecah kaca” yang neutral kandungan untuk menangani krisis. Kita boleh belajar daripada usaha ini untuk mencadangkan alternatif kepada tumpuan kepada pengawalan kandungan yang tidak bergantung kepada peraturan kaku tentang kandungan yang baik atau buruk. Antara langkah-langkah yang boleh menangani salah fakta lebih berskala adalah menghadkan kadar semua akaun untuk menjadikannya lebih sukar bagi kumpulan kecil orang untuk memanipulasi sistem, mengeluarkan insentif penglibatan supaya orang tidak mendapat pengedaran lebih banyak dengan menjadi lebih sensasi, meningkatkan perlindungan privasi untuk sumber berwibawa membincangkan peristiwa dalam talian, dan memberi keutamaan kepada akaun yang mempunyai sejarah positif dan boleh dipercayai daripada akaun baharu yang baru dicipta yang cuba mendapatkan perhatian.