Moxie Marlinspike, itu pendukung privasi yang menciptakan aplikasi komunikasi aman Sinyal dan protokol enkripsi sumber terbuka yang banyak digunakan, dikatakan minggu ini platform AI miliknya yang berfokus pada privasi, Memberiakan mulai memasukkan teknologinya ke dalam sistem AI Meta.
Setiap hari, miliaran pesan obrolan yang dikirim melalui Signal, WhatsApp Meta, dan Pesan Apple dilindungi oleh enkripsi ujung ke ujung. Fitur ini, yang membuat perusahaan teknologi dan siapa pun selain pengirim dan penerima tidak mungkin mengintip pesan Anda, telah menjadi arus utama selama dekade terakhir. Namun, ketika platform AI generatif semakin populer, orang-orang kini juga bertukar miliaran pesan setiap hari dengan chatbot AI yang tidak menawarkan perlindungan enkripsi end-to-end—sehingga memudahkan perusahaan AI untuk mengakses apa yang Anda bicarakan.
Hal ini memang disengaja, mengingat platform sering kali ingin melatih model AI mereka pada sebanyak mungkin data pengguna dan telah berhasil melakukannya sulit untuk memilih keluar menggunakan informasi Anda sebagai data pelatihan. Tapi sebagai chatbots dan Agen AI telah menjadi lebih mampu, beberapa ahli teknologi dan perusahaan berupaya menciptakan sistem yang lebih terbatas dan berfokus pada privasi.
“Karena LLM terus mampu berbuat lebih banyak, kita harus mengharapkan lebih banyak data mengalir ke mereka,” tulis Marlinspike dalam sebuah postingan blog singkat tentang kolaborasinya dengan Meta yang dipublikasikan pada hari Selasa. “Saat ini, tidak ada data yang bersifat pribadi. Data tersebut dibagikan kepada perusahaan AI, karyawannya, peretas, panggilan pengadilan, dan pemerintah. Seperti yang selalu terjadi pada data yang tidak terenkripsi, data tersebut pasti akan jatuh ke tangan yang salah.”
Marlinspike menulis bahwa dia akan “bekerja untuk mengintegrasikan teknologi privasi Confer sehingga mendukung Meta AI.” Dia juga menekankan bahwa Confer, yang mana memulai debutnya pada awal tahun ini, akan terus beroperasi secara independen dari Meta. Tujuan proyek ini, tambah Marlinspike, adalah untuk menawarkan teknologi yang “memungkinkan semua orang mendapatkan kekuatan penuh AI serta privasi penuh dari percakapan terenkripsi.”
Pada tahun 2016, Marlinspike bekerja sama dengan WhatsApp, yang dimiliki oleh Meta, untuk meluncurkan enkripsi ujung ke ujung ke lebih dari a miliar akun secara bersamaan. Selama setahun terakhir, WhatsApp telah memperkenalkan chatbot Meta AI ke dalam aplikasinya, padahal sebenarnya tidak terlindung dari perusahaan dengan cara yang sama dengan obrolan individual.
“Orang-orang menggunakan AI dengan cara yang sangat pribadi dan memerlukan akses ke informasi rahasia,” kepala WhatsApp Will Cathcart menulis pada hari Rabu di platform media sosial X tentang kolaborasi dengan Confer. “Penting bagi kita untuk membangun teknologi tersebut sedemikian rupa sehingga memberikan orang kemampuan untuk melakukan hal tersebut secara pribadi.”
Adopsi AI terenkripsi masih terus bermunculan. Skema kriptografi yang digunakan dalam enkripsi ujung ke ujung untuk komunikasi digital tradisional tidak dapat dengan mudah atau langsung diterjemahkan ke dalam perlindungan data untuk AI generatif. Sementara itu, Confer masih merupakan proyek baru, dan postingan blog Marlinspike tidak memberikan rincian spesifik tentang bagaimana sebenarnya kolaborasi dengan Meta akan bekerja atau apa tujuan spesifik dari integrasi tersebut.
Baik Marlinspike maupun Meta tidak memberikan komentar tambahan kepada WIRED sebelum dipublikasikan.
Mallory Knodel, seorang peneliti kriptografi di Universitas New York, mengatakan ini akan “sangat bagus bagi orang-orang yang menggunakan chatbot yang menggunakan Meta AI untuk menjaga kerahasiaan dan privasi dalam pertukaran itu.” Yang terpenting, itu berarti Meta tidak akan dapat mengakses data obrolan AI untuk pelatihan, kata Knodel, yang bersama rekannya baru-baru ini menerbitkan a studi tentang enkripsi ujung ke ujung dan AI. “Saya sangat berharap lebih banyak chatbot AI yang mengadopsi pendekatan ini.”
Penilaian awal dan awal Knodel terhadap Confer menunjukkan bahwa platform ini tidak sempurna, namun merupakan contoh penting tentang cara membangun chatbot AI pribadi.
Kriptografer JP Aumasson, kepala petugas keamanan di platform cryptocurrency Taurus, sejauh ini sampai pada kesimpulan serupa tentang Confer. “Berunding mungkin merupakan solusi AI swasta terbaik, dengan mempertimbangkan semua hal,” katanya kepada WIRED. “Tentu saja ini tidak sempurna. Tidak ada dokumentasi mengenai arsitektur, model ancaman, dan rantai pasokannya. Namun Moxie tahu apa yang dia lakukan dan memiliki rekam jejak yang kuat.”
Kompleksitas pengembangan skema enkripsi untuk platform AI merupakan rintangan besar, dan sebagian besar upaya privasi sejauh ini berfokus pada model atau pembangunan sumber terbuka yang dapat diakses. lapisan privasi di antara Perusahaan AI dan pengguna akhir. Misalnya, seperti yang ditulis Marlinspike pada hari Selasa, “Teknologi Confer telah dibangun di atas model bobot terbuka. Meskipun banyak orang suka menggunakan Confer untuk berbagai macam tugas, yang lain kehilangan kemampuan terdepan dari model berpemilik.”
Kolaborasi dengan Meta memberikan Marlinspike kesempatan untuk bekerja secara langsung dengan model tertutup. “Meta sedang membangun model terdepan yang canggih, jadi ini akan menggabungkan teknologi obrolan AI paling pribadi di dunia dengan model AI paling mumpuni di dunia,” tulisnya.
Terlepas dari apakah proyek ini pada akhirnya akan memenuhi semua kriteria tersebut, para peneliti menekankan kepada WIRED bahwa kolaborasi ini penting.
“Usulan Moxie untuk menggunakan komputasi tepercaya, sebuah konsep yang sudah ada sejak tahun 1990an, masuk akal bagi saya,” kata Aumasson dari Taurus. “Asumsi dan batasan yang mendasarinya telah dipahami dengan baik. Sekali lagi, ini tidak sempurna, namun mungkin cukup untuk sebagian besar pengguna. Tantangannya adalah untuk mendukung model yang sama baiknya dengan model frontier terbaru dari Anthropic dan Google serta OpenAI.”
