Pengadilan setempat di Jerman telah mengeluarkan keputusan yang dapat mengubah cara kerja mesin pencari dan chatbot berbasis kecerdasan buatan di seluruh dunia. Pengadilan Regional Munich pada awalnya memutuskan hal itu Google bertanggung jawab atas serangkaian pernyataan palsu yang dihasilkan olehnya Ikhtisar AI fitur, mengharuskan perusahaan untuk mencegah penyebaran klaim yang salah atau tidak akurat melalui mesin pencarinya.
Putusan tersebut bermula dari suatu perkara terlebih dahulu dilaporkan oleh Decoder, di mana dua penerbit menemukan bahwa ringkasan yang dibuat oleh AI Google menghubungkan mereka, dalam penelusuran tertentu, dengan praktik bisnis yang meragukan, penipuan, dan penipuan terkait langganan, tanpa dasar apa pun untuk melakukan hal tersebut.
Awal tahun ini, perusahaan-perusahaan yang terkena dampak mengirimkan surat penghentian dan penghentian kepada raksasa teknologi tersebut, menurut laporan tersebut. Google menolak bertanggung jawab, dengan alasan bahwa fitur ringkasan otomatisnya memperingatkan pengguna bahwa informasi tersebut mungkin mengandung kesalahan dan harus diverifikasi secara independen.
Analisis pengadilan menyimpulkan bahwa AI Google menggabungkan informasi terkait perusahaan lain yang telah ditandai karena kemungkinan melakukan praktik terlarang dengan data dari penggugat, sehingga menghasilkan asosiasi yang tidak muncul di sumber mana pun yang ditautkan oleh mesin pencari.
Pihak berwenang menemukan bahwa, tidak seperti mesin pencari tradisional, yang hanya menampilkan daftar link dengan pernyataan yang dibuat oleh pihak ketiga, alat Google menghasilkan “pernyataan independen, baru, dan substansial” berdasarkan salah tafsir terhadap informasi yang tersedia di internet.
Menurut pengadilan, koreksi informasi yang salah bukanlah tanggung jawab pihak ketiga. Google adalah satu-satunya entitas yang memiliki kemampuan untuk memodifikasi teknologi yang mendasari ringkasan yang dihasilkan AI dan, oleh karena itu, “harus bertanggung jawab.” Selain itu, pengadilan menemukan bahwa garis pertahanan Google kurang berdasar, karena ringkasan yang ditentang “berisi pernyataan yang tidak muncul sama sekali dalam hasil pencarian.
Interpretasi AI yang Baru (dan Kuat) di Web
Interpretasi pengadilan terhadap peran AI dalam menyajikan hasil penelusuran dapat menjadikan kasus ini sebagai preseden bersejarah. Mereka mendapati bahwa perusahaan teknologi besar bertanggung jawab atas pengaruh perkembangan paling maju pada platform yang banyak digunakan.
Hingga saat ini, di sebagian besar sistem hukum, mesin pencari hanya dianggap sebagai alat yang hanya memfasilitasi akses ke konten yang dibuat oleh pihak ketiga dan tersedia di web. Status ini memberi mereka perlindungan pada tingkat tertentu ketika informasi yang dipublikasikan salah, tidak akurat, menyesatkan, atau bahkan memfitnah.
Namun, pengadilan Jerman menyatakan bahwa perlindungan ini tidak lagi berlaku ketika mesin pencari menggunakan sistem AI generatif. Menurut alasannya, teknologi ini mampu menghasilkan klaim yang tidak ada berdasarkan berbagai sumber dan akibatnya, perusahaan yang bertanggung jawab mengoperasikannya harus bertanggung jawab atas konten yang dihasilkan.
Para hakim juga menyimpulkan bahwa meskipun Google mendorong pengguna untuk memverifikasi informasi karena potensi halusinasi yang melekat pada model AI, peringatan ini tidak membebaskan distributor konten dari tanggung jawab. Jika tidak, menurut mereka, korban pernyataan palsu tidak akan berdaya, karena sumber aslinya tidak pernah membuat pernyataan tersebut dan, oleh karena itu, tidak dapat dikenakan tindakan hukum.
Demikian pula, pengadilan memutuskan bahwa hasil yang dihasilkan oleh sistem AI tidak dapat dilindungi berdasarkan prinsip kebebasan berpendapat, karena hasil tersebut merupakan produk algoritme yang dirancang, dilatih, dan dikelola oleh perusahaan, dan bukan ekspresi opini individu.
Sebagai tindakan pencegahan untuk mencegah kemungkinan terulangnya kembali, keputusan tersebut mengharuskan Google untuk menghapus sebagian besar pernyataan yang dianggap mencemarkan nama baik dalam kasus ini, dan menanggung 80 persen biaya hukum yang timbul dari proses persidangan.
Seorang juru bicara perusahaan, dikutip oleh Ars Technica, menyarankan agar keputusan tersebut dapat diajukan banding. “Kami berinvestasi secara mendalam pada kualitas Ikhtisar AI untuk memastikan bahwa sebagian besar tanggapan memberikan informasi yang akurat, dan dirancang untuk mencerminkan informasi yang ada di web,” kata pernyataan itu. “Kami dengan hati-hati meninjau keputusan ini, yang belum final.”
