Anthropic baru saja mengumumkan fitur baru yang disebut “bermimpi” pada konferensi pengembang perusahaan di San Francisco. Itu bagian dari Anthropic yang baru saja diluncurkan Saya punya agen infrastruktur yang dirancang untuk membantu pengguna mengelola dan menyebarkan alat yang mengotomatiskan proses perangkat lunak. Aspek “mimpi” ini memilah transkrip dari apa yang baru saja diselesaikan agen dan berupaya mengumpulkan wawasan untuk meningkatkan kinerja agen.
Orang yang menggunakan agen AI sering kali mengirimkannya dalam perjalanan multilangkah, seperti mengunjungi beberapa situs web atau membaca banyak file, untuk menyelesaikan tugas online. Fitur “bermimpi” baru ini memungkinkan agen untuk mencari pola dalam log aktivitas mereka dan meningkatkan kemampuan mereka berdasarkan wawasan tersebut.
Nama fitur ini langsung mengingatkan kita pada novel fiksi ilmiah karya Philip K. Dick, Apakah Android Memimpikan Domba Listrik?yang mengeksplorasi kualitas yang benar-benar membedakan manusia dari mesin yang canggih. Meskipun alat AI generatif kami saat ini masih jauh dari mesin yang ada di buku ini, saya siap menarik batasan di sini, sekarang juga: Tidak ada lagi AI generatif fitur dengan nama yang meniru proses kognitif manusia.
“Bersama-sama, ingatan dan mimpi membentuk sistem memori yang kuat untuk agen pengembangan diri,” demikian bunyinya Entri blog Antropis tentang peluncuran pratinjau penelitian ini untuk pengembang. “Memori memungkinkan setiap agen menangkap apa yang dipelajarinya saat cara kerjanya. Bermimpi memurnikan ingatan itu antar sesimenerapkan pembelajaran bersama antar agen dan selalu memperbaruinya.”
Atas perkenan Claude
Sejak percikan itu bot obrolan revolusi pada tahun 2022, para pemimpin di perusahaan AI telah berusaha keras untuk menamai aspek alat AI generatif dengan apa yang terjadi di otak manusia. OpenAI merilis yang pertama model “penalaran”. pada tahun 2024, ketika chatbot membutuhkan waktu “berpikir”. Itu perusahaan dijelaskan rilis ini pada saat itu sebagai “serangkaian model AI baru yang dirancang untuk menghabiskan lebih banyak waktu untuk berpikir sebelum merespons.” Banyak startup juga menyebut chatbot mereka memiliki “kenangan” tentang penggunanya. Daripada penyimpanan cepat yang biasanya disebut sebagai “kenangan” komputer, ini adalah kumpulan informasi yang lebih mirip manusia: Dia tinggal di San Francisco, menikmati pertandingan bisbol sore hari, dan benci makan melon.
Ini adalah pendekatan pemasaran yang konsisten yang digunakan oleh para pemimpin AI, yang terus bersandar pada branding yang mengaburkan batas antara apa yang dilakukan manusia dan apa yang bisa dilakukan mesin. Bahkan cara perusahaan-perusahaan ini mengembangkan chatbots, seperti Claudedengan “kepribadian” yang berbeda, dapat membuat pengguna merasa seolah-olah sedang berbicara dengan sesuatu yang mempunyai potensi untuk kehidupan batin yang mendalam, sesuatu yang akan berpotensi mengalami mimpi padahal laptop saya dalam keadaan tertutup.
Di Anthropic, antropomorfisasi ini berjalan lebih dalam dari sekedar strategi pemasaran. “Kami juga membahas Claude dalam istilah yang biasanya diperuntukkan bagi manusia (misalnya, ‘kebajikan’, ‘kebijaksanaan’),” demikian bunyi sebagian dari Konstitusi Antropis menggambarkan bagaimana ia ingin Claude berperilaku. “Kami melakukan ini karena kami berharap alasan Claude mengacu pada konsep manusia secara default, mengingat peran teks manusia dalam pelatihan Claude; dan kami pikir mendorong Claude untuk merangkul kualitas-kualitas tertentu yang mirip manusia mungkin diinginkan secara aktif.” Perusahaan bahkan mempekerjakan a filsuf penduduk untuk mencoba memahami “nilai” bot.
Dan ini bukan hanya karena saya rewel dalam memilih kata-kata. Cara kita membicarakan mesin ini berdampak pada apa yang menurut kami dapat dicapai oleh mesin tersebut. “Sebagai sebuah kekeliruan, antropomorfisme terbukti mendistorsi penilaian moral tentang AI, seperti penilaian mengenai karakter moral dan statusnya, serta penilaian tanggung jawab dan kepercayaan,” demikian bunyi sebuah makalah penelitian. diterbitkan di AI & Etika jurnal. Dengan tidak menggunakan bahasa yang lebih jauh tentang bot, pengguna berisiko terlalu mempercayai alat tersebut dan memproyeksikan kualitas yang sebenarnya tidak ada pada alat tersebut.
Sama seperti penguasa AI kita yang perlu menghabiskan lebih banyak waktu sebenarnya menonton film fiksi ilmiah yang mereka singgung, menurut saya orang-orang berkuasa yang memimpin perusahaan-perusahaan ini juga harus menghabiskan lebih banyak waktu untuk membaca novel fiksi ilmiah klasik ini.
Menjelang akhir buku Dick, sang protagonis kembali ke apartemennya dengan seekor katak langka yang ia yakini adalah hewan hidup, sampai istrinya membuktikan bahwa itu hanyalah sebuah mesin dengan membuka panel kendali. “Dengan kecewa, dia menatap dengan membisu pada hewan palsu itu; dia mengambilnya kembali darinya, memainkan kakinya seolah-olah sedang bingung—dia sepertinya tidak begitu mengerti,” demikian bunyi salah satu bagian dari novel tersebut. Demikian pula, para pemimpin teknologi tampaknya tidak mampu, atau setidaknya tidak mau, menerima keterbatasan alat mereka yang tidak manusiawi.
