AI yang memalukan di Estonia dimulai dengan satu frase yang salah.
Pada bulan Desember, Riigikogu, parlemen Estonia, mengesahkan perubahan pada Undang-Undang Pajak Perjudian di negara tersebut yang dimaksudkan untuk menurunkan tarif pajak pada perjudian jarak jauh. Namun kata-kata dalam undang-undang tersebut hanya mengacu pada “permainan keterampilan” untuk tahun itu, bukan permainan untung-untungan atau perjudian jarak jauh. Seluruh industri perjudian Estonia bernilai sekitar €300 juta ($343 juta), dan pasar perjudian daringnya adalah salah satu yang paling cepat berkembang di UE.
Kesalahan tunggal itu berarti kasino online secara tidak sengaja tidak termasuk dalam pajak selama satu tahun penuh, kerugian pemerintah sebesar €24 juta ($27,4 juta) setahun dalam pendapatan perjudian.
Kesalahan tersebut ditemukan oleh penasihat hukum operator perjudian. Namun rasa malunya semakin dalam ketika Luukas Ilves, mantan wakil menteri transformasi digital, menjalankan undang-undang tersebut melalui Claude dan Gemini. Kedua sistem AI tersebut, kata Ilves, segera mengidentifikasi ketidakkonsistenan.
Dalam beberapa jam, Ilves telah membuat prototipe alat— yang disebut Apsakalidja, atau “Pencari Kekacauan”—yang dapat menarik rancangan undang-undang dari situs web Riigikogu dan menandai masalah seperti referensi yang rusak, kata-kata yang bertentangan, kesalahan aritmatika, dan tanggal yang tidak mungkin. RUU ini mengkategorikan permasalahannya menjadi risiko tinggi, sedang, atau rendah—dari 112 RUU yang terdaftar saat ini, 102 di antaranya berperingkat risiko tinggi. Salah satu contoh disorot di Fuckup Finder menyarankan kata-kata yang kontradiktif dalam draf teks. Bahkan Ilves mendemonstrasikannya di TV nasionalmembuat tuan rumah takjub.
Kesalahan ini memang memalukan—namun juga memicu pengungkapan di dalam pemerintahan. “Situasi ini menunjukkan bahwa AI dapat menjadi asisten yang sangat berguna,” Kristen Michal, perdana menteri Estonia, mengatakan kepada WIRED. “Dan—dalam bentuk platform berkode getaran untuk memeriksa rancangan undang-undang yang dibuat sebagai respons terhadap insiden tersebut—kami melihat contoh bagaimana alat agen dapat memberdayakan masyarakat sipil dan individu warga negara.”
Jadi Estonia menggandakan penggunaan AI di pemerintahan. Pada bulan Januari, Mikhal disarankan negara ini mungkin akan menggunakan alat seperti Apsakaleidja untuk merancang undang-undang guna menemukan dan memperbaiki celah terlebih dahulu. Dia meluncurkan program Eesti.ai dirancang untuk melatih warga Estonia dalam penggunaan AI, dengan tujuan menggandakan produktivitas di negara tersebut pada tahun 2035. Di antara penasihat inisiatif Eesti.ai adalah pendiri Bolt Markus Villig dan Ilves, pencipta Fuckup Finder.
Kemudian, pada bulan April, parlemen negara itu menerima dari pemerintah rancangan undang-undang yang memberikan hak kepada pemerintah negara bagian dan lokal untuk menggunakan solusi digital, termasuk AI, untuk mengotomatisasi proses administrasi. RUU tersebut sedang dibahas di parlemen, yang sedang memperdebatkan perubahan yang mungkin dilakukan, dengan tujuan untuk menjadi undang-undang. Pada bulan Juni, Mikhal kata seorang Eesti.ai pertemuan itu, jika semuanya berjalan sesuai rencana, “Estonia akan menjadi negara pertama di dunia yang menciptakan identitas digital resmi untuk agen AI.”
“Ini adalah lingkungan baru bagi sektor publik,” kata Michal kepada WIRED. “Hal ini menuntut ketangkasan dan kemampuan beradaptasi seiring perubahan teknologi.” Estonia berada pada posisi yang lebih baik dibandingkan negara-negara lain dalam beradaptasi terhadap perubahan-perubahan tersebut: Estonia telah memimpin dalam mengintegrasikan identitas digital berkat negara yang mengutamakan digital, sementara 99 persen layanan publik sudah online, kata Michal. Estonia dianggap sebagai contoh bagaimana menjalankan negara digital modern—seperti WIRED pertama kali meliput satu dekade lalu. Hal ini meletakkan dasar bagi adopsi AI yang lebih mudah. “Investasi tersebut kini memungkinkan kita bergerak lebih cepat dan lebih percaya diri menuju era AI,” jelasnya.
Catherine Flick, peneliti etika teknologi di Universitas Staffordshire, mengatakan kesalahan pajak perjudian menimbulkan pertanyaan yang lebih mendasar: “Mengapa manusia tidak melakukan proses peninjauan ini sebagai bagian dari prosedur penyusunan undang-undang?” katanya. “Pada titik tertentu seseorang harus duduk dan membaca semuanya, dengan pemahaman konteks dan hal-hal semacam itu, untuk memastikan bahwa ini adalah undang-undang yang layak.”
Elemen terakhir itulah—manusia yang terlibat—yang sedang diperdebatkan oleh perwakilan di Riigikogu. RUU tersebut sengaja dibuat secara luas, jelas Kirke Maar, ketua tim Eesti.ai.
Pemikiran Estonia saat ini adalah bahwa pilihan dapat dibagi menjadi dua kelompok. “Garis pemisah yang alami adalah antara keputusan yang terikat aturan dan keputusan yang bersifat diskresi,” katanya. “Jika undang-undang menentukan hasil berdasarkan fakta yang dapat diverifikasi—Anda memenuhi kriteria, Anda mendapatkan hasilnya—otomatisasi adalah hal yang tepat.” Jika negara sudah memiliki data yang diperlukan untuk menetapkan bahwa seseorang memenuhi syarat untuk mendapatkan manfaat, pendapat Maar dan Ilves, orang tersebut tidak perlu mengisi formulir sama sekali: Mereka cukup diberi tahu bahwa mereka memenuhi syarat. Pernyataan pajak, yang di Estonia sudah diisi sebelumnya, dapat berpindah dari warga yang memeriksa dan mengonfirmasi formulir ke agen yang menyiapkan dan mengajukan deklarasi yang lebih rumit secara menyeluruh, dan warga negara akan mengonfirmasi atau melakukan intervensi jika diperlukan.
Ketika segala sesuatunya menjadi lebih rumit, dan “sebuah keputusan memerlukan pertimbangan yang sungguh-sungguh dari kepentingan-kepentingan yang saling bersaing atau penilaian mengenai keadaan spesifik seseorang, maka manusialah yang ikut serta dalam lingkaran tersebut sejak awal,” kata Maar.
Maar dan Ilves mengatakan kapan saja dalam proses pengambilan keputusan dengan AI, seseorang akan bisa mendapatkan haknya untuk didengarkan, dan pada saat itulah prosedur otomatis akan berakhir dan pejabat manusia akan mengambil alih. Keputusan otomatis juga akan dikesampingkan jika warga negara mempermasalahkan suatu keputusan. Dan setiap keputusan administratif otomatis juga harus meninggalkan jejak audit mengenai data apa yang digunakan, aturan apa yang diterapkan, kapan keputusan dibuat, dan bagaimana masyarakat dapat menentang atau memperbaikinya.
“Tujuan negara digital Estonia bukanlah untuk menghilangkan peran manusia dari pemerintahan,” kata Marr. “Hal ini bertujuan untuk membuat layanan lebih mudah diakses, lebih cepat, dan tidak terlalu memberatkan.”
Akuntabilitas juga merupakan bagian penting dari proses AI, dan merupakan bidang yang sangat dipahami oleh mereka yang bekerja dengan pemerintah dalam interaksi digital lainnya dengan masyarakat. “Risiko utamanya adalah sistem AI bertindak dalam skala besar tanpa akuntabilitas—di mana tindakan tidak dapat ditelusuri kembali ke pihak yang bertanggung jawab, izin tidak jelas, atau penyalahgunaan tidak terdeteksi,” kata Liina Vahtras, direktur pelaksana e-residency, program Estonia yang memberikan identitas digital yang dikeluarkan pemerintah kepada non-penduduk untuk mengakses layanan bisnis Estonia secara online. “Inilah yang sedang kami upayakan untuk mencegahnya.”
“Saat agen AI mulai berinteraksi dengan layanan publik, bank, register, dan sistem digital lainnya atas nama masyarakat dan perusahaan, harus jelas siapa pemilik agen tersebut, berdasarkan otorisasi siapa agen tersebut bertindak, apa yang boleh dilakukan, dan siapa yang tetap bertanggung jawab atas tindakannya,” kata Vahtras. “Ide dibalik kode agen adalah untuk membuat rantai tanggung jawab terlihat.”
Hal ini juga merupakan sesuatu yang diketahui dan dikhawatirkan oleh perdana menteri. Dia berhati-hati dalam menarik garis batas antara AI sebagai asisten di Estonia dan AI sebagai otoritas. “AI tidak menggantikan institusi demokrasi, konstitusi, atau keinginan pemilih,” katanya. “Jika AI mengidentifikasi kesalahan dalam undang-undang, hal ini tidak berbeda dengan kesalahan yang dilakukan manusia. Tanggung jawab untuk memperbaikinya tetap berada di tangan parlemen, pengadilan, atau administrasi publik.”
