Mengapa Pelayar AI Seperti Perplexity’s Comet Boleh Menjadikan Web Lebih Berisiko

(SeaPRwire) –   Selamat kembali ke In the Loop, buletin dua kali seminggu baharu TIME tentang AI. Jika anda membaca ini dalam pelayar anda, mengapa tidak melanggan untuk mendapatkan yang seterusnya dihantar terus ke peti masuk anda?

Apa Yang Perlu Diketahui: Bahaya Pelayar AI

Minggu lalu, Perplexity mengumumkan bahawa pelayar berkuasa AI-nya, yang dipanggil Comet, akan disediakan secara percuma kepada semua pengguna selepas sebelum ini memerlukan langganan berbayar. Comet ialah jenis pelayar baharu, mengandungi chatbot AI bersepadu yang boleh melayari web bagi pihak anda, serta menjalankan tindakan autonomi seperti membuat pembelian, menghantar e-mel, atau mencipta acara kalendar.

Ada satu masalah sahaja. AI dalaman Comet sehingga baru-baru ini boleh digodam oleh pautan berniat jahat, yang menyebabkan pelayar menyedut maklumat peribadi daripada perkhidmatan yang bersambung seperti Gmail dan menghantarnya kepada penyerang tiruan, menurut baharu oleh firma keselamatan siber LayerX. Ini adalah petanda bahawa walaupun pelayar berkuasa AI mungkin menjadikan pengguna lebih produktif, ia juga boleh memperkenalkan kelemahan baharu.

Serangan itu — LayerX menemui kelemahan yang dipanggil “CometJacking,” di mana gesaan berniat jahat kepada AI pelayar tersembunyi di dalam URL. Apabila pengguna mengklik pautan itu, pelayar tersilap menganggap gesaan berniat jahat sebagai arahan daripada pengguna—dan mula melaksanakannya. Dalam contoh LayerX, penyerang tiruan berjaya mendapatkan Comet untuk mengekstrak data daripada akaun e-mel dan kalendar pengguna. Walaupun Comet mempunyai perlindungan terhadap kecurian data, penyerang dapat memintasnya dengan mengarahkan AI untuk mengekod maklumat yang dicuri dalam base64 (pada dasarnya mengacaukannya agar kelihatan seperti teks yang tidak berbahaya) sebelum menghantarnya ke pelayan jauh di bawah kawalan mereka.

Tanda-tanda apa yang akan datang—Hari ini, Google Chrome jauh merupakan pelayar paling popular. Tetapi sesetengah percaya bahawa “perang pelayar” baharu mungkin akan tiba tidak lama lagi, didorong oleh pemain baharu seperti Comet milik Perplexity. (OpenAI juga dipercayai sedang membangunkan pelayar berkuasa AI-nya sendiri, walaupun ia belum mengeluarkannya lagi.) Tetapi apabila pencipta pelayar bergegas untuk menambah ciri-ciri AI, mereka juga mungkin menambah kelas kelemahan baharu, kata Or Eshed, CEO LayerX. Kita mungkin akan memasuki “dunia di mana pelayaran menjadi lebih berisiko,” kata Eshed. “Kita akan melihat jenis serangan lama yang hampir pupus kembali, atau bahkan jenis serangan baharu seperti yang baru kita temui.”

Tindak balas Perplexity — Apabila LayerX memaklumkan Perplexity tentang kelemahan itu bulan lalu, syarikat itu “membalas bahawa ia tidak dapat mengenal pasti sebarang impak keselamatan,” tulis LayerX dalam catatan blog. Tetapi dalam kenyataan kepada TIME, jurucakap Perplexity berkata bahawa laporan pepijat LayerX telah ditulis dengan teruk, bahawa ia tidak membalas permintaan untuk penjelasan, dan bahawa Perplexity “kemudian mengenal pasti isu itu secara bebas dan menampalnya.” Jurucakap itu berkata kelemahan itu tidak pernah dieksploitasi, dan menyambung: “Kami berterima kasih kepada komuniti keselamatan yang mengambil bahagian dalam program ganjaran kami yang berkembang maju, dan kami sedang berusaha untuk memastikan jenis salah komunikasi ini tidak berlaku pada masa hadapan.”

Jika anda mempunyai seminit, sila ambil kami yang pantas untuk membantu kami memahami dengan lebih baik siapa anda dan topik AI mana yang paling menarik minat anda.

Siapa Yang Perlu Diketahui: Lisa Su, CEO AMD

Pada hari Isnin, pengeluar cip Advanced Micro Devices (AMD) mengumumkan ia telah memeterai perjanjian berbilion dolar dengan OpenAI, yang akan menyaksikan pembuat ChatGPT memperoleh cip AI terbarunya bernilai 6 gigawatt sepanjang beberapa tahun—atau bersamaan dengan penggunaan kuasa kira-kira 4 juta rumah di A.S. Ini hanyalah perjanjian mega terbaru untuk OpenAI, yang memeterai pengaturan $100 bilion dengan Nvidia bulan lalu, dalam usahanya untuk mendapatkan kuasa pengkomputeran yang diperlukan untuk melatih dan menjalankan model AI yang sangat besar—termasuk minggu lalu.

Apabila saya Lisa Su tahun lalu, beliau berada di tengah-tengah mengalihkan syarikatnya ke arah membina jenis cip pemecut AI baharu. Usahanya nampaknya telah membuahkan hasil. AMD kekal di tempat kedua yang jauh di belakang Nvidia dalam industri semikonduktor yang lebih luas, tetapi perjanjian OpenAI adalah undi keyakinan bahawa cip AMD sesuai untuk beban kerja AI teratas. Ia juga satu lagi tanda bahawa OpenAI berusaha untuk mengurangkan kebergantungannya kepada Nvidia, walaupun ia menarik syarikat Jensen Huang lebih dekat.

OpenAI dan AMD tidak mendedahkan nilai dolar perjanjian itu, walaupun mereka menyatakan bahawa ia memberi OpenAI hak untuk memperoleh sehingga 10% daripada syarikat itu. Saham AMD melonjak kira-kira 25% atas berita itu.

AI dalam Tindakan

Kira-kira seminggu selepas melancarkan aplikasi penjanaan video Sora, OpenAI membenarkan pengguna lebih banyak pilihan untuk menyekat bagaimana rupa mereka muncul dalam video. Sebelum ini, pengguna mempunyai pilihan sama ada untuk membenarkan atau tidak membenarkan rupa mereka (dipanggil “cameo” dalam bahasa OpenAI) dalam video Sora. Kini, pengguna boleh memberi arahan seperti “jangan masukkan saya dalam video yang melibatkan ulasan politik” atau “jangan biarkan saya mengatakan perkataan ini,” ketua Sora OpenAI, Bill Peebles.

Apa Yang Kami Baca

Breakneck, oleh Dan Wang

Bukan artikel kali ini, tetapi sebuah buku yang sangat mudah dibaca yang telah beredar tentang kebangkitan China yang tidak dapat dielakkan. Hujah utama Dan Wang ialah China adalah sebuah *negara kejuruteraan*, yang memberi tumpuan untuk membina dengan apa jua kos, manakala A.S. adalah *masyarakat peguam*, di mana lebih mudah untuk menghentikan sesuatu daripada dibina daripada membina ia. Hasilnya, seperti yang dijelaskan oleh Wang secara terperinci, China kini mempunyai infrastruktur awam yang berkilauan dan ekonomi pembuatan yang mantap, manakala A.S. tidak membina kerja-kerja awam utama selama beberapa dekad, dan melupakan kepakaran pembuatannya. *Breakneck* menimbulkan soalan serius tentang AI, apabila ekonomi A.S. menggandakan usaha dalam teknologi itu: Apakah gunanya kecerdasan digital yang melimpah jika ia tiba dalam ekonomi yang telah lupa cara untuk menggunakannya?