Menggunakan chatbot AI karena bahkan hanya 10 menit saja dapat memberikan dampak negatif yang mengejutkan pada kemampuan orang untuk berpikir dan memecahkan masalah, menurut a studi baru dari peneliti di Carnegie Mellon, MIT, Oxford, dan UCLA.
Para peneliti menugaskan orang-orang untuk memecahkan berbagai masalah, termasuk pecahan sederhana dan pemahaman bacaan, melalui platform online yang membayar mereka atas pekerjaan mereka. Mereka melakukan tiga percobaan, masing-masing melibatkan beberapa ratus orang. Beberapa peserta diberi akses ke asisten AI yang mampu menyelesaikan masalah secara mandiri. Ketika asisten AI tiba-tiba diambil, orang-orang ini kemungkinan besar akan menyerah pada masalahnya atau gagal dalam menjawab. Studi ini menunjukkan bahwa penggunaan AI secara luas dapat meningkatkan produktivitas dengan mengorbankan pengembangan keterampilan dasar pemecahan masalah.
“Kesimpulannya bukanlah kita harus melarang AI di bidang pendidikan atau tempat kerja,” kata Michiel Bakker, asisten profesor di MIT yang terlibat dalam penelitian ini. “AI jelas dapat membantu orang-orang untuk bekerja lebih baik pada saat ini, dan hal ini dapat bermanfaat. Namun kita harus lebih berhati-hati dalam menentukan jenis bantuan yang diberikan oleh AI, dan kapan bantuan tersebut diberikan.”
Saya baru-baru ini bertemu dengan Bakker, yang memiliki rambut acak-acakan dan seringai lebar, di kampus MIT. Berasal dari Belanda, dia sebelumnya bekerja di Google DeepMind di London. Dia memberitahuku bahwa a esai terkenal bagaimana AI dapat melemahkan manusia dari waktu ke waktu menginspirasinya untuk memikirkan bagaimana teknologi dapat mengikis kemampuan manusia. Esai ini memberikan bacaan yang agak suram, karena menunjukkan bahwa ketidakberdayaan tidak bisa dihindari. Oleh karena itu, mungkin mencari tahu bagaimana AI dapat membantu manusia mengembangkan kemampuan mental mereka harus menjadi bagian dari bagaimana model diselaraskan dengan nilai-nilai kemanusiaan.
“Pada dasarnya ini adalah pertanyaan kognitif—tentang ketekunan, pembelajaran, dan bagaimana orang merespons kesulitan,” kata Bakker kepada saya. “Kami ingin mempertimbangkan kekhawatiran yang lebih luas tentang interaksi jangka panjang antara manusia dan AI dan mempelajarinya dalam lingkungan eksperimental yang terkendali.”
Penelitian yang dihasilkan nampaknya sangat memprihatinkan, kata Bakker, karena kesediaan seseorang untuk bertahan dalam pemecahan masalah sangat penting untuk memperoleh keterampilan baru dan juga memprediksi kapasitas mereka untuk belajar seiring berjalannya waktu.
Bakker mengatakan mungkin perlu memikirkan kembali cara kerja alat AI sehingga—seperti guru manusia yang baik—model terkadang memprioritaskan pembelajaran seseorang daripada memecahkan masalah mereka. “Sistem yang memberikan jawaban langsung mungkin memiliki efek jangka panjang yang sangat berbeda dari sistem yang berperan, melatih, atau menantang pengguna,” kata Bakker. Namun, ia mengakui bahwa menyeimbangkan pendekatan “paternalistik” semacam ini bisa jadi rumit.
Perusahaan AI sudah memikirkan dampak yang lebih halus dari model mereka terhadap pengguna. Ketertarikan beberapa model—atau seberapa besar kemungkinan mereka setuju dan mendukung pengguna—adalah sesuatu yang penting OpenAI telah berupaya untuk menguranginya dengan rilis GPT yang lebih baru.
Terlalu percaya pada AI akan menjadi masalah jika alat tersebut tidak berfungsi seperti yang Anda harapkan. Sistem AI agen sangat tidak dapat diprediksi karena mereka melakukan tugas-tugas rumit secara mandiri dan dapat menimbulkan kesalahan ganjil. Ini membuat Anda bertanya-tanya apa yang dilakukan Claude Code dan Codex terhadap keterampilan pembuat kode yang terkadang perlu memperbaiki bug yang mereka timbulkan.
Saya baru-baru ini mendapat pelajaran tentang bahayanya membuang pemikiran kritis ke AI. Saya telah menggunakan OpenClaw (dengan Codex di dalamnya) sebagai pembantu sehari-hari, dan menurut saya OpenClaw sangat bagus dalam memecahkan masalah konfigurasi pada Linux. Namun baru-baru ini, setelah koneksi Wi-Fi saya terus terputus, asisten AI saya menyarankan untuk menjalankan serangkaian perintah untuk mengubah driver yang berbicara ke kartu Wi-Fi. Hasilnya adalah mesin menolak melakukan booting apa pun yang saya lakukan.
Mungkin, daripada hanya mencoba menyelesaikan masalah untuk saya, OpenClaw seharusnya berhenti sejenak untuk mengajari saya cara memperbaiki masalah itu sendiri. Hasilnya, saya mungkin memiliki komputer—dan otak—yang lebih mumpuni.
Ini adalah edisi Will Knight Buletin Lab AI. Baca buletin sebelumnya Di Sini.
