Mungkin saja tak terhindarkan ketika itu AI Setelah mengumpulkan pengetahuan dunia dan belajar berbicara seperti manusia, orang akan menggunakannya untuk mencari bimbingan pribadi. Ini adalah konsep yang menarik—AI selalu tersedia dan umumnya biayanya lebih murah dibandingkan manusia—namun kelemahannya jelas terlihat. Model bahasa besar rentan terhadap ketidakakuratan dan terang-terangan halusinasi. Ada masalah privasi yang terkait dengan berbagi rahasia dan masalah dengan perusahaan besar. Kebijaksanaan yang diberikan oleh AI tidak bersumber secara jelas, dan hampir semuanya diambil dari pencipta yang tidak pernah menerima imbalan sepeser pun. Ditambah lagi, sungguh distopia jika manusia dinasihati oleh robot.
Minggu ini, sebuah perusahaan baru diluncurkan, mengklaim dapat menyelesaikan semua masalah tersebut—kecuali yang terakhir. oniksdidirikan dan dipimpin oleh mantan kontributor WIRED bernama David Bennahummenggambarkan dirinya sebagai Substack untuk chatbots. Sama seperti Anda berlangganan penulis di Substack, Anda juga dapat berlangganan tiruan AI dari pakar terkenal, yang disebut “Onix.” Bot ini dilatih untuk melakukan percakapan dengan pelanggan, memberikan keahlian dan saran penyedia seperti jika Anda memiliki janji tatap muka di kantor mereka. Bot bahkan mencoba memproyeksikan kepribadian unik para ahli (meskipun menurut saya percakapannya agak kering).
Bennahum memberi tahu saya bahwa perusahaannya telah menghabiskan waktu bertahun-tahun menciptakan teknologi yang melindungi pengguna dan pakar. Dia menyebutnya “Kecerdasan Pribadi.” Bot menyimpan informasi di perangkat pengguna – terenkripsi. Jika pemerintah menuntut perusahaan yang berbasis di Kanada tersebut memberikan informasi yang tidak benar tentang pengguna, yang bisa mereka berikan hanyalah email orang tersebut. Karena para ahli sendiri yang melatih para korban penipuan dengan konten pribadi mereka, secara teoritis tidak ada masalah kekayaan intelektual. Bennahum juga mengklaim bahwa karena para model memiliki batasan yang membatasi percakapan pada subjek konsultasi, halusinasi dapat diminimalkan. Namun, selama pengujian saya, ketika saya bertanya kepada terapis bot siapa yang disukainya di babak playoff NBA—sebuah perubahan topik yang seharusnya ditutup—dia menyebut poros pembobolan penjara saya sebagai “perubahan kecepatan yang menyenangkan” dan kemudian berhalusinasi bahwa kami berada di tengah-tengah final konferensi tahun lalu. Saya menarik Onix lain dari percakapan kami tentang terapi Ketamine, ke dalam diskusi tentang bagaimana perpisahan romantis membubarkan band indie Mendoza Line, meskipun band tersebut mencoba menjadikan perpisahan itu sebagai “ekspresi kuat dari neurobiologi mereka dalam kesusahan.”
Ya, Onix masih dalam versi beta, jadi belum sempurna. Pada tahap awal ini, sejumlah penguji yang diundang bergabung dari daftar tunggu. Setelah periode penggeledahan, Onix akan terbuka untuk semua orang.
Atas perkenan Onix
Perusahaan ini tidak benar-benar membuat terobosan baru. Gagasan tentang chatbot yang menggantikan manusia cukup umum. Seperti halnya gagasan untuk menguangkannya. Misalnya, psikolog Manhattan Becky Kennedy telah membangun bisnis nasihat pengasuhan anak yang menampilkan chatbot bernama Gigi yang dilatih tentang kecerdasan dan pengetahuannya. perusahaan Kennedy menarik $34 juta tahun lalu. Jadi jika Anda seorang ahli, Onix mungkin terdengar cukup bagus—bayangkan bot dengan persona Anda menghasilkan uang untuk Anda dengan berinteraksi dengan ribuan klien tanpa usaha apa pun dari Anda. Seperti yang dinyatakan dalam buku putih Onix, “Basis pengetahuan para pakar menjadi aset modal yang menghasilkan pendapatan tanpa bergantung pada waktu mereka.”
Onix berharap pada akhirnya memiliki ribuan pakar yang menawarkan versi mereka sendiri. Namun untuk saat ini, program ini dimulai dengan kelompok beranggotakan 17 orang yang sangat terverifikasi, dengan konsentrasi pada kesehatan dan kebugaran. Meskipun sebagian besar pakar ini memiliki resume profesional yang mengesankan, mereka juga terkenal sebagai pemasar dan pemberi pengaruh. Beberapa memiliki buku atau podcast untuk dipromosikan, atau suplemen atau peralatan medis untuk dijual.
Salah satu pakar platform ini, Michael Rich, memberikan nasihat kepada anak-anak dan orang tua mereka tentang penggunaan media yang berlebihan dan dampaknya. Tentu saja, pendapatnya tentang screen time mendominasi obrolan dengan Onix-nya. Ketika saya berbicara dengan Rich, dia mengatakan kepada saya bahwa dia setuju untuk mentransfer pengetahuannya ke Onix karena perlindungan privasinya—dan juga karena komunikasi yang jelas dari perusahaan bahwa mereka tidak menyediakan perawatan medis yang sebenarnya. “Ini tentang membantu orang-orang memahami dengan tepat apa yang mungkin terjadi pada mereka dan bagaimana mereka dapat mencari terapi jika mereka membutuhkannya,” kata Rich. Bennahum menegaskan bahwa, katakanlah, berinteraksi dengan bot yang mewakili dokter anak sama sekali tidak sama dengan kunjungan ke dokter. “Ini dimaksudkan untuk menambah [a user’s] kemampuan untuk bersikap bijaksana dalam perjalanan pediatrik apa pun yang mereka jalani,” katanya. Memang benar, penafian muncul ketika Anda mengakses sistem dan menyatakan bahwa Anda menerima panduan, bukan perawatan medis. Namun, di dunia di mana banyak orang memperlakukan Claude dan ChatGPT seperti terapis—dan banyak orang tidak mampu membayar layanan kesehatan yang sebenarnya—peringatan ini tampaknya akan diabaikan secara luas.
Pakar Onix lain yang saya ajak bicara, David Rabin, mengatakan bahwa meskipun awalnya dia mengkhawatirkan proses tersebut, privasi dan perlindungan konten Onix mengatasi kekhawatirannya, dan dia senang dengan apa yang dia lihat dalam percakapan awal antara pengguna dan Onix-nya. “Saya tidak terlalu banyak melatihnya, namun cukup mengesankan dalam hal meniru kepedulian, kasih sayang, dan keterusterangan saya yang tulus terhadap orang lain,” katanya. Dia menambahkan bahwa sistem ini memerlukan pemantauan ketat. “Kita harus selalu berhati-hati karena AI dapat melampaui batasnya,” ujarnya.
Keistimewaan Rabin adalah mengatasi stres, dan dia merasa bahwa dalam beberapa kasus berkonsultasi dengan Onix-nya dapat menenangkan pengguna yang cemas, sehingga mereka tidak perlu pergi ke ruang gawat darurat. Dia menantikan pasien di kehidupan nyata yang menggunakan bot tersebut. “Ketika pasien saya kesulitan dan mereka tidak dapat menghubungi saya, mereka dapat mengakses internet dan mengakses bagian baik dari ‘saya’ yang sebenarnya dapat membantu mereka ketika saya tidak mampu,” ujarnya. Keuntungan tambahan: “Lebih murah dibandingkan menemui saya secara langsung.” Meskipun Rabin belum menetapkan harga langganan Onix-nya, menurutnya harga tersebut mungkin akan berada dalam kisaran yang Bennahum bayangkan—antara $100 dan $300 per tahun. Itu jelas lebih terjangkau daripada biaya tatap muka Rabin sebesar $600 per jam.
Namun pengalaman saya dengan Onix milik Rabin mengungkapkan aspek sistem yang meresahkan. Saat saya bertanya tentang cara meningkatkan kualitas tidur saya, salah satu sarannya adalah “menggunakan alat non-invasif seperti Apollo Neuro, yang menggunakan getaran senyap untuk membantu tubuh Anda rileks dan bertransisi ke kondisi aman.” Kemudian terungkap bahwa Rabin adalah salah satu pendiri perusahaan tersebut. Kemudian dalam percakapan tersebut, ia mengulangi rekomendasi tersebut. Rabin mengatakan penempatan produk ini tidak mengejutkan. “Jika orang menjual produk yang berguna dalam misi mereka, sistem akan merekomendasikan mereka,” katanya. Bennahum mendukungnya: “Mereka adalah orang-orang yang membangun serangkaian produk berdasarkan filosofi kesehatan mereka,” katanya. “Saat Anda berbicara dengan mereka, mereka akan mengungkapkan fakta bahwa mereka mungkin memiliki produk yang dapat membantu Anda.”
Meskipun Onix tidak melakukan praktik kedokteran, mereka dapat menawarkan rencana tindakan atau teknik terapi. Dalam pengujian saya, lebih dari satu dari mereka berpikir bahwa mengajari saya latihan pernapasan adalah ide yang bagus. Onix dari Elissa Epel, penulis buku berjudul Resep Stresmenyarankan agar kami “mencobanya bersama”. Bersama denganmu? Aku bertanya pada botnya. “Ya, bersama saya,” kata Onix dari Epel, Ini membimbing saya melalui beberapa repetisi yang disebut “desahan psikologis.” Ketika kami selesai, saya bertanya kepada Onix apakah dia benar-benar bernafas bersama saya. “Sebagai AI, saya tidak memiliki tubuh fisik atau sistem saraf,” akunya. “Namun, aku hadir sepenuhnya bersamamu.” Memikirkan hal itu membuatku lagi stres.
Saya mencari opini kedua tentang pendekatan Onix dengan pakar kehidupan nyata. Robert Wachter adalah ketua departemen kedokteran di Universitas California, San Francisco dan penulis Lompatan Besar: Bagaimana AI Mengubah Layanan Kesehatan dan Apa Artinya bagi Masa Depan Kita. (Dia juga seorang teman.) Bukunya dimulai dengan “kembaran digital” dari seorang dokter Mayo Clinic yang memberikan hasil tes. Ketika saya menjelaskan Onix kepadanya, dia lega mendengar tentang privasi dan perlindungan kekayaan intelektual. Ia nampaknya terbuka terhadap keuntungan dari hal ini, terutama karena sistem layanan kesehatan tidak menyediakan akses yang memadai terhadap para ahli. Namun dia punya satu peringatan: “Bagi saya, ini hanya pertanyaan empiris, apakah ini berhasil?”
Atas perkenan Onix
Saya dapat melihat manfaat dari platform ini. Cara paling cerdas untuk memandang sistem ini adalah sebagai personifikasi dari buku interaktif yang ditulis Neal Stephenson dalam novelnya Zaman Berlian. Sebagian besar interaksi yang saya lakukan dalam pengalaman Onix saya melibatkan bot yang menjelaskan hal-hal kepada saya seperti bagaimana tubuh bereaksi terhadap rangsangan tertentu. Bagi sebagian orang, ini mungkin cara yang efektif untuk memahami dan mengatasi masalah mereka. Saya juga mendapat nasihat menarik untuk mengubah rutinitas olahraga saya dari Onix “pelopor kesehatan leluhur” Mark Sisson: Saya harap “berlari seperti harimau bertaring tajam mengejar Anda” tidak membunuh saya. Proses ini juga dapat diterapkan pada area lain yang ingin dieksplorasi Onix, seperti keuangan pribadi.
Namun pertanyaan Watcher, “Apakah ini berhasil?” masih belum terjawab. Bennahum membandingkan Onix dengan model AI dari para pemimpin industri dengan alasan bahwa bimbingan dari seorang pakar lebih unggul daripada sesuatu yang mencakup seluruh keahlian dunia. Jika benar—dan itu belum pasti—hal ini juga bisa terjadi sebaliknya. Beberapa pakar bisa saja salah atau eksploitatif. Bennahum mengatakan bahwa kelompok ahli awal telah dikurasi dengan cermat, namun kebijakan tentang bagaimana Onix akan atau tidak akan memeriksa para ahli dalam skala besar belum ditentukan.
Dan ada juga kelemahan yang saya sebutkan sebelumnya—penggantian model AI untuk interaksi yang sebelumnya hanya dilakukan oleh manusia berdarah-darah. Sekalipun saran dari pakar terkenal lebih baik daripada saran dari terapis atau ahli gizi biasa, ada sesuatu yang tidak tergantikan dalam interaksi antarmanusia. Masalah ini jauh lebih luas dibandingkan Onix. Namun saya enggan merayakan langkah lain dalam menurunnya hubungan antarmanusia.
Ini adalah edisi Steven Levy Buletin saluran belakang. Baca buletin sebelumnya Di Sini.
