Manusia super, sang teknologi perusahaan di belakang menulis perangkat lunak Grammarly, sedang menghadapi a gugatan class action lebih dari satu alat AI yang menyajikan saran penyuntingan seolah-olah berasal dari penulis dan akademisi terkemuka—tidak satu pun dari mereka yang mengizinkan nama mereka dicantumkan dalam produk.
Julia Angwin, seorang jurnalis investigatif pemenang penghargaan yang mendirikan The Markup, sebuah organisasi berita nirlaba yang meliput dampak teknologi terhadap masyarakat, adalah satu-satunya penggugat yang disebutkan dalam gugatan tersebut, yang tidak meminta jumlah kerugian tertentu namun menyatakan bahwa kerugian yang dialami seluruh kelompok penggugat melebihi $5 juta. Dia termasuk di antara banyak individu, bersama Stephen King dan Neil deGrasse Tyson, yang ditawarkan melalui alat “Expert Review” Grammarly sebagai semacam editor virtual untuk pengguna.
Gugatan federal, yang diajukan Rabu sore di Distrik Selatan New York, menyatakan bahwa Angwin, atas nama dirinya sendiri dan orang lain yang memiliki situasi serupa, “menantang penyalahgunaan nama dan identitas ratusan jurnalis, penulis, penulis, dan editor yang dilakukan Grammarly untuk mendapatkan keuntungan bagi Grammarly dan pemiliknya, Superhuman.”
Keluhan ini muncul ketika Superhuman telah memutuskan untuk menghentikan fitur tersebut di tengah reaksi publik yang signifikan. “Setelah mempertimbangkan dengan cermat, kami memutuskan untuk menonaktifkan Tinjauan Pakar karena kami menata ulang fitur tersebut agar lebih berguna bagi pengguna, sekaligus memberikan para ahli kendali nyata atas bagaimana mereka ingin diwakili—atau tidak diwakili sama sekali,” kata Ailian Gan, direktur manajemen produk Superhuman, dalam sebuah pernyataan kepada WIRED sesaat sebelum klaim diajukan. “Kami membangun agen ini untuk membantu pengguna memanfaatkan wawasan para pemimpin dan pakar serta memberi para pakar cara baru untuk berbagi pengetahuan dan menjangkau audiens baru. Berdasarkan masukan yang kami terima, kami jelas-jelas gagal mencapai sasaran. Kami mohon maaf dan akan melakukan hal yang berbeda di masa mendatang.”
Sebagai KABEL dilaporkan awal bulan iniSuperhuman tahun lalu menambahkan serangkaian widget bertenaga AI ke platform, termasuk widget yang konon memiliki penulis veteran (hidup atau mati) yang mempertimbangkan kritik terhadap teks pengguna. Meskipun penafian mengklarifikasi bahwa tidak ada orang yang dikutip yang mendukung atau berpartisipasi langsung dalam pengembangan alat ini, yang memanfaatkan model bahasa besar yang mendasarinya, berbagai penulis, termasuk jurnalis WIREDmengungkapkan rasa frustrasinya atas Grammarly yang menggunakan kemiripan mereka dan tampaknya memuntahkan pekerjaan seumur hidup mereka dengan agen AI ini.
Pengacara Angwin, Peter Romer-Friedman, mengatakan bahwa undang-undang yang sudah lama berlaku di New York dan California, tempat Superhuman bermarkas, dengan jelas melarang penggunaan nama dan rupa seseorang secara komersial tanpa izin mereka. “Secara hukum, menurut kami ini adalah kasus yang cukup mudah,” katanya kepada WIRED. “Secara lebih luas, salah satu alasan mengapa kami mengajukan kasus ini adalah, Anda tahu, kami dapat melihat apa yang terjadi di masyarakat kita: bahwa banyak profesional yang menghabiskan waktu bertahun-tahun, atau dalam kasus Julia berpuluh-puluh tahun, mengasah suatu keterampilan atau keahlian, kemudian melihat bahwa nama atau keterampilan mereka diambil alih oleh orang lain tanpa persetujuan mereka.”
Sebagai penulis opini New York Times, Angwin telah banyak menulis tentang bagaimana raksasa Silicon Valley telah mengikis privasi di abad ke-21.
“Bertentangan dengan keyakinan beberapa perusahaan teknologi, menggunakan nama dan identitas seseorang untuk tujuan komersial adalah tindakan yang melanggar hukum, baik orang tersebut terkenal atau tidak,” demikian bunyi gugatan tersebut. “Melalui tindakan ini, Ms. Angwin berupaya menghentikan Grammarly dan pemiliknya, Superhuman, memperdagangkan namanya dan ratusan jurnalis, penulis, editor, dan bahkan pengacara lainnya, dan untuk menghentikan Grammarly menghubungkan kata-kata yang tidak pernah mereka ucapkan dan nasihat yang tidak pernah mereka berikan kepada mereka.”
Angwin memberi tahu WIRED hal itu ketika dia mengetahui penggunaan nama dan reputasinya oleh Grammarly dari buletin teknologi Platformerdia terkejut telah dikloning. “Anda tahu, deepfake adalah sesuatu yang menurut saya sering dilakukan oleh para selebriti, bukan jurnalis biasa,” katanya. “Aku hanya berpikir, apakah kamu bercanda?”
Angwin semakin tersinggung dengan saran yang diberikan oleh doppelgänger digitalnya. “Itu bahkan bukan hanya anodyne,” katanya. “Hal ini justru memperburuk keadaan.” Dalam salah satu contohnya, kata Angwin, versi Grammarly-nya menyarankan agar kalimat sederhana direvisi menjadi lebih panjang dan rumit sedemikian rupa sehingga “membuatnya lebih sulit untuk dipahami”. Dalam kasus lain, disarankan pengguna untuk memperluas tema yang sebenarnya tidak berkaitan dengan teks.
“Bagi saya rasanya sangat tidak menyenangkan,” kata Angwin. “Saya terkejut melihat betapa buruknya hal itu.”
CEO Manusia Super Shishir Mehrotra secara terpisah diposting di LinkedIn pada hari Rabu tentang keputusan untuk menghentikan Expert Review. “Selama seminggu terakhir, kami menerima masukan kritis yang valid dari para ahli yang khawatir bahwa agen tersebut salah mengartikan suara mereka,” tulis Mehrotra. “Pengawasan seperti ini meningkatkan kualitas produk kami, dan kami menanggapinya dengan serius.”
Superhuman belum mengomentari gugatan Angwin.
