Para pengunjuk rasa memakai rumah sakit mengenakan gaun pelindung dan memegang tanda berkumpul di luar konferensi layanan kesehatan Inggris pada hari Kamis untuk menolak a kesepakatan antara Layanan Kesehatan Nasional negara itu dan perusahaan perangkat lunak Amerika Palantir.
Pada pukul 8 pagi waktu setempat, rombongan yang berjumlah sekitar 80 orang itu memadati pintu masuk NHS ConfedExpo di Manchester. Mereka ingin mengajukan banding kepada pimpinan NHS untuk mengakhiri kontrak senilai hingga $440 juta kekhawatiran seputar keamanan nasional, privasi data, dan afiliasi politik perusahaan. Kontrak tersebut, yang mencakup akses ke analisis data dan layanan kecerdasan buatan Palantir, dimaksudkan untuk berlaku hingga tahun 2031 tetapi mencakup klausul pemutusan hubungan kerja yang memungkinkan pemerintah untuk membatalkan perjanjian tersebut pada bulan Februari mendatang.
Meringkuk di bawah barisan pohon untuk berlindung dari derasnya hujan, para pengunjuk rasa mengacungkan papan bertuliskan, “Pasien vs. Palantir.” Ketika para peserta konferensi berlalu lalang, beberapa orang berhenti untuk berbicara kepada para pengunjuk rasa, yang meneriakkan yel-yel diiringi hentakan drum. “Lepaskan NHS kami, lepaskan data kesehatan kami,” teriak mereka. “Hei hei, ho ho, Palantir harus pergi.”
Seorang pengunjuk rasa, yang menyebutkan namanya sebagai John dan mengidentifikasi dirinya sebagai perawat NHS, mengatakan kepada WIRED bahwa dia khawatir data kesehatan sensitif akan jatuh ke tangan entitas asing dan menolak pekerjaan Palantir dengan Penegakan Imigrasi dan Bea Cukai AS serta militer Israel. “Palantir harus segera dikeluarkan dari NHS,” katanya. “Itulah pesan yang ingin kami sampaikan kepada pemerintah dan manajemen NHS.” (Beberapa pengunjuk rasa mengibarkan bendera Palestina, menandakan keberatan mereka terhadap hubungan Palantir dengan Israel.)
Protes ini diselenggarakan oleh Pull the Plug, sebuah kelompok aktivis yang prihatin terhadap dampak sosial dari pengembangan AI yang tidak terkendali. Acara ini dihadiri oleh organisasi-organisasi seperti Amnesty International dan Unison, sebuah serikat pekerja yang mewakili pekerja layanan kesehatan. “Tidak semuanya buruk. Namun ada banyak hal yang menyebabkan hal ini terjadi di tenggorokan orang-orang,” kata Frieda Lurken, salah satu pendiri Pull the Plug, yang memimpin kelompok tersebut dalam seruan dan respons. “Kami ingin masyarakat umum dapat memberikan pendapatnya mengenai bagaimana AI digunakan dalam kehidupan kita.”
Pemerintah Inggris pertama kali mulai bekerja sama dengan Palantir pada tahun 2020, pada awal pergolakan pandemi Covid-19, sebagai upaya untuk melacak virusnya. Sejak itu, perusahaan dan mitranya telah memenangkan banyak kontrak dengan badan-badan sektor publik di Inggris, dengan alasan bahwa mereka dapat meningkatkan efisiensi dengan mengungkap pola-pola dalam data yang tidak teratur. Berdasarkan kontraknya dengan NHS, Palantir ditugaskan untuk mengumpulkan dan menganalisis informasi yang dikumpulkan di seluruh layanan kesehatan berdasarkan “platform data gabungan,” dengan tujuan mempersingkat waktu tunggu dan menemukan sampah.
Namun, hubungan antara pemerintah Inggris dan Palantir mendapat sorotan. Komentar dibuat pada tahun 2023 oleh salah satu pendiri Palantir, Peter Thiel—yang mengatakan Inggris harus “merobek keseluruhannya [NHS] dari awal dan memulai kembali”—menyebabkan beberapa orang mempertanyakan kesesuaian perusahaan tersebut sebagai kontraktor pemerintah Inggris manifesto poin-poin diterbitkan oleh Palantir, berdasarkan buku terbaru yang ditulis oleh CEO Alex Karp, memicu kekhawatiran lebih lanjut tentang keberpihakan politik.
Palantir berulang kali membantah bahwa pihaknya berpedoman pada ideologi politik tertentu. “Palantir tidak monolitik secara politik. Kami tidak mewakili politik partai,” kata Louis Mosley, kepala bisnis Palantir di Eropa, dalam sebuah pernyataan. wawancara baru-baru ini. “Kami bukan sayap kanan atau sayap kiri. Kami memiliki pandangan politik yang luas di dalam perusahaan.”
Palantir tidak menanggapi permintaan komentar.
Ada juga pertanyaan mengenai kemanjuran platform data NHS Palantir. Meskipun perusahaan mengklaim telah memangkas waktu tunggu dan membantu memaksimalkan pemanfaatan ruang operasi, divisi NHS yang bertanggung jawab atas Greater Manchester telah melakukannya. menolak untuk menggunakan platform Palantirmengklaim bahwa perangkat lunak internalnya memberikan hasil yang jauh lebih baik.
“Persis seperti kasus penggunaan yang tidak Anda lakukan outsourcing, dan tentu saja Anda tidak melakukan outsourcing di luar negeri,” Laura Gilbert, direktur senior AI di Tony Blair Institute, sebuah wadah pemikir yang didirikan oleh mantan perdana menteri, mengatakan kepada WIRED. “Kita harus belajar dari data tersebut dan membangun layanan kesehatan yang lebih baik, tidak membiarkan perusahaan luar negeri belajar dan membuat produk yang lebih baik yang dapat mereka jual kepada orang lain.”
Ayub Bhayat, direktur data dan analitik di NHS, mengatakan kepada WIRED bahwa platform data gabungan membantu pasien “sambil menghemat uang untuk tim NHS dan pembayar pajak.”
“Tidak ada persyaratan untuk penggunaannya,” katanya.
Pada awal Juni, anggota Parlemen menerbitkan laporan peringatan bahwa meningkatnya ketergantungan Inggris pada Palantir merupakan “titik kelemahan yang tidak dapat diterima.” Perusahaan ini berada di jalur yang tepat untuk menjadi sangat terlibat dalam sektor publik, menurut komite parlemen, sehingga memberikan pengaruh yang sangat besar terhadap negara Inggris. Laporan tersebut juga menggambarkan “ketidaksesuaian yang jelas dengan nilai-nilai Inggris.”
Setelah laporan tersebut dipublikasikan, Menteri Teknologi Inggris, Liz Kendall, dikatakan bahwa pemerintah sedang melakukan peninjauan terhadap “setiap aspek” kontrak NHS dengan Palantir sebelum memutuskan apakah akan meneruskan kesepakatan tersebut.
Menanggapi laporan dalam an opini-ed diterbitkan oleh The Telegraph, Mosley menuduh para anggota parlemen “menempatkan politik di atas pasien” dan takut akan kemungkinan bahwa perusahaan tersebut akan menyalahgunakan aksesnya terhadap data kesehatan yang sensitif. “Setiap perwalian NHS mengontrol datanya sendiri; Palantir tidak dapat menggunakannya, menjualnya, atau memindahkannya,” tulisnya.
Terlepas dari apakah pemerintah memutuskan untuk meneruskan kontrak NHS atau tidak, Palantir telah menunjukkan kesediaan untuk menolak upaya untuk mengeluarkan kontrak tersebut dari sektor publik Inggris. Menurut Waktuperusahaan tersebut bersiap untuk menuntut Walikota London, Sadiq Khan, yang memblokir kesepakatan senilai $65 juta dengan Polisi Metropolitan, dengan alasan kekhawatiran tentang proses pengadaan dan “nilai.”
Beberapa jam setelah demonstrasi dimulai, para pengunjuk rasa mundur ke sebuah kafe di perpustakaan umum terdekat.
Kelompok ini memiliki optimisme yang sama atas meningkatnya momentum di balik seruan untuk mengeluarkan Palantir dari NHS, terutama setelah laporan parlemen. “Kami memiliki peluang yang sangat besar saat ini, karena adanya klausul pemutusan,” kata Lurken, salah satu pendiri Pull the Plug.
Namun ada juga dunia di mana perhatian publik yang baru terhadap pertanyaan Palantir bisa menjadi bumerang, menurut beberapa orang, jika pemerintah memutuskan untuk terus melanjutkan kontrak tersebut. Pengunjuk rasa lain, yang menyebut namanya sebagai JJ dan mengidentifikasi dirinya sebagai seorang praktisi NHS, mengatakan bahwa ia khawatir bahwa ketenaran Palantir dapat menyebabkan pasien yang sudah gelisah berpikir dua kali sebelum memberikan informasi secara sukarela kepada penyedia layanan kesehatan mereka, yang berdampak pada perawatan mereka. “Kami tahu bahwa orang-orang tidak mau memberi tahu kami segalanya. Orang-orang sudah tidak percaya. Mereka hanya akan bungkam,” kata JJ. “Kita akan mendapatkan lebih sedikit informasi, lebih sedikit sejarah untuk dapat membantu orang.”
Pelaporan tambahan oleh Isabella Ward.
