Awal bulan ini, WIRED menerbitkan kutipan dari buku baru Steve Rosenbaum yang menarik, Masa Depan Kebenaranyang melihat caranya kecerdasan buatan membengkokkan perasaan orang terhadap kenyataan. Tak lama kemudian, The New York Times dilaporkan bahwa buku tersebut berisi lebih dari setengah lusin kutipan yang dibuat-buat atau disalahartikan. Dalam sebuah pernyataan, Rosenbaum, yang memiliki gelar master dalam bidang “kebenaran” dari Universitas New York, mengakui bahwa dia secara tidak sengaja memasukkan “segelintir” kutipan yang “diatribusikan secara tidak tepat atau sintetik”. Ironisnya, kebenaran sebuah buku tentang bagaimana AI memengaruhi kebenaran kini berada di bawah pengawasan ketat karena cara penulisnya menggunakan AI.
Setelah cerita Times tersebar, WIRED melihat kembali kutipan kami yang terdiri dari 1.450 kata. Tim pemeriksa fakta telah meninjaunya sebelum dipublikasikan, dan kami memastikan kembali bahwa kutipan dan faktanya akurat. Namun kebijakan editorial AI generatif WIRED melarang publikasi tulisan yang dibuat dan diedit oleh AI, dan email pembaca yang menyatakan bahwa kutipan tersebut “ditulis secara terang-terangan oleh AI” menimbulkan pertanyaan lebih lanjut tentang sejauh mana Rosenbaum telah menggunakan alat AI. Di dalam Masa Depan Kebenarandi bagian pengakuan, Rosenbaum menulis bahwa ChatGPT, Claude, NaturalReaders, ProWritingAid, dan Grammarly telah membantu “memperbaiki dan memoles presentasi [his] ide.” Apa sebenarnya maksudnya?
WIRED menjalankan kutipan tersebut melalui beberapa layanan deteksi AI, termasuk Pangram, GPTZero, dan ZeroGPT. Setiap layanan menyatakan bahwa layanan tersebut kemungkinan besar dihasilkan oleh AI, atau dihasilkan oleh AI dengan keyakinan tinggi. Namun alat pendeteksi AI bisa salah dan dapat menghasilkan pembacaan yang tidak akurat. Jadi kepala penelitian WIRED mengirim email langsung ke Rosenbaum untuk menanyakan apakah dan bagaimana dia menggunakan AI untuk menulis kutipan tersebut.
Dia membalas: “Seperti banyak penulis yang bekerja saat ini, saya menggunakan alat AI selama bagian dari penelitian dan proses pengembangan editorial untuk buku tersebut, termasuk penemuan sumber, curah pendapat, umpan balik struktural, dan penyempurnaan bahasa.” Namun, dia menekankan, “ide, pelaporan, argumen, dan penulis akhir adalah milik saya, dan kutipan WIRED tidak dihasilkan oleh AI dan kemudian diterbitkan begitu saja.” Dia mendesak editor WIRED untuk berhati-hati dalam mempercayai alat pendeteksi AI, mengingat bahwa hasil positif palsu dapat terjadi.
Pada titik ini, editor senior WIRED meminta saya untuk melihat episode tersebut, karena saya telah meliputnya AI kotor di dalamnya bermacam-macam formulir sejak tahun 2024. Langkah pertama saya adalah menjalankan seluruh teks buku melalui alat pendeteksi Pangram. (Meskipun semua alat pendeteksi AI memiliki keterbatasan, dan dapat menunjukkan hasil positif palsu, Pangram adalah standar emas saat ini.) Ternyata 53 persen dari buku tersebut dihasilkan oleh AI, dengan tambahan 9 persen yang terdaftar sebagai kemungkinan dibantu oleh AI.
Saya menelepon Rosenbaum dan menanyakan penjelasan lebih rinci tentang bagaimana dia menggunakan AI untuk menulis buku tersebut, dan apakah dia membantah hasil Pangram. (BenBella Books, yang cetakannya diterbitkan Masa Depan Kebenarantidak membalas permintaan komentar. Simon & Schuster, yang mendistribusikan buku-buku BenBella di Amerika Serikat, menolak berkomentar.)
Rosenbaum tidak akan mempertimbangkan keakuratan hasil Pangram. Sebenarnya, dia sama sekali tidak ingin membicarakannya. “Saya tidak berpartisipasi dalam percakapan itu,” katanya. “Ini seperti mengatakan, apakah kamu memukul istrimu? Itu adalah salah satu tuduhan yang tidak ada tanggapannya.”
Sebaliknya, dia menawarkan untuk menjelaskan secara luas proses editorialnya. Dia mengatakan bahwa pada awal proses penulisan, dia menggunakan alat AI sebagai mesin pencari, membantunya memunculkan informasi untuk bagian yang lebih banyak melakukan penelitian dalam buku ini. Untuk mendemonstrasikan bagaimana dia bisa melakukan hal ini, dia meminta ChatGPT untuk mendeskripsikan saya, lalu membacakan hasilnya dengan lantang. Pencarian AI kurang lebih akurat menggambarkan beberapa cerita saya sebelumnya, termasuk pekerjaan di “situs media zombie” yang dihasilkan AI.
