Salah satu dari Keuntungan teknologi mobil self-driving adalah setiap mobil dapat belajar dari kesalahan satu kendaraan. Begini caranya jalan keluar memakainya situs webnya: “Pengemudi Waymo belajar dari pengalaman kolektif yang dikumpulkan di seluruh armada kami, termasuk generasi perangkat keras sebelumnya.”
Namun di Austin, kendaraan Waymo berjuang selama berbulan-bulan untuk belajar cara berhenti di bus sekolah saat pengemudi menjemput dan menurunkan anak-anak. Seorang pejabat di Austin Independent School District (AISD) dugaan bahwa kendaraan-kendaraan tersebut, setidaknya dalam 19 kejadian, “secara ilegal dan berbahaya” melewati bus-bus sekolah di distrik tersebut ketika lampu merahnya menyala dan lampu berhentinya dipanjangkan alih-alih berhenti total, seperti yang disyaratkan oleh undang-undang.
Pada awal Desember, Waymo bahkan mengeluarkan penarikan kembali federal terkait insiden tersebut, setidaknya mengakuinya 12 di antaranya kepada regulator federal di Administrasi Keselamatan Lalu Lintas Jalan Raya Nasional (NHTSA), yang mengawasi keselamatan jalan raya. Menurut pengajuan federal, para insinyur di perusahaan kendaraan tanpa pengemudi telah “mengembangkan perubahan perangkat lunak untuk mengatasi perilaku tersebut” beberapa minggu sebelumnya.
Namun bahkan setelah penarikan kembali, insiden melintasnya bus sekolah terus berlanjut, menurut pejabat sekolah dan sebuah laporan dari Dewan Keselamatan Transportasi Nasional (NTSB), sebuah badan pengawas keselamatan federal independen yang juga menyelidiki situasi tersebut.
Kini, email dan pesan teks antara pejabat sekolah dan perwakilan Waymo, yang diperoleh WIRED melalui permintaan catatan publik, menunjukkan sejauh mana upaya distrik sekolah negeri Austin dan Waymo untuk mencoba menyelesaikan masalah tersebut. AISD bahkan mengadakan acara “pengumpulan data” selama setengah hari di tempat parkir sekolah pada pertengahan Desember, menurut dokumen tersebut, dengan beberapa karyawan mengumpulkan bus sekolah dan sinyal stop-arm dari seluruh armada sehingga perusahaan mobil self-driving dapat mengumpulkan informasi terkait kendaraan dan lampu kilatnya.
Namun, pada pertengahan Januari, lebih dari sebulan kemudian, distrik sekolah melaporkan setidaknya empat insiden pelintasan bus sekolah telah terjadi di Austin. “Data yang kami kumpulkan dari awal tahun ajaran hingga akhir semester menunjukkan bahwa sekitar 98 persen orang yang menerima satu pelanggaran tidak menerima pelanggaran lainnya,” kata seorang pejabat di departemen kepolisian sekolah. kata afiliasi NBC lokal bulan itu. “Itu memberi tahu kita bahwa orang tersebut sedang belajar, tetapi tampaknya sistem driver otomatis Waymo tidak belajar melalui pembaruan perangkat lunaknya, ingat, apa yang Anda lakukan, karena kami masih mengalami pelanggaran.”
Situasi ini menimbulkan pertanyaan tentang kelemahan teknologi self-driving dan kemampuan industri untuk memberikan kompensasi bahkan setelah hal tersebut diketahui.
Perangkat lunak self-driving telah lama kesulitan dalam mengenalinya berkedip lampu darurat dan perangkat keselamatan jalan dengan lengan yang panjang dan tipis, termasuk gerbang dan stop-arm, kata Missy Cummings, yang meneliti kendaraan otonom di Universitas George Mason dan menjabat sebagai penasihat keselamatan NHTSA selama pemerintahan Biden. “Jika [the company] tidak memperbaiki masalah ini beberapa tahun yang lalu, semakin sering mereka mengemudi, masalah ini akan semakin besar,” katanya. “Itulah yang terjadi di sini.”
Waymo tidak menanggapi permintaan komentar WIRED. Juru bicara Austin Independent School District merujuk WIRED ke NTSB saat insiden tersebut sedang diselidiki. Juru bicara NTSB menolak menjawab pertanyaan WIRED sementara penyelidikannya berlanjut.
Melewati Ilegal
Pada pertengahan musim dingin tahun 2025, para pejabat AISD merasa frustrasi. Dalam salah satu dari 19 insiden yang dituduhkan oleh pengacara distrik tersebut dalam sebuah surat kemudian dirilis oleh regulator keselamatan jalan federal, sebuah Waymo melewati bus sekolah yang melepaskan anak-anak “hanya beberapa saat setelah seorang siswa menyeberang di depan kendaraan, dan ketika siswa tersebut masih di jalan.”
“Yang mengkhawatirkan,” tulis pengacara tersebut, lima dari dugaan insiden terjadi setelah Waymo meyakinkan distrik tersebut bahwa mereka telah memperbarui perangkat lunaknya untuk memperbaiki masalah tersebut. Regulator federal dengan NHTSA telah melakukannya sudah meluncurkan penyelidikan ke dalam perilaku. “Austin ISD sedang mengevaluasi semua kemungkinan upaya hukum yang ada dan bermaksud untuk mengambil tindakan apa pun yang diperlukan untuk melindungi keselamatan siswanya, jika diperlukan,” pengacara tersebut memperingatkan.
Hanya beberapa hari kemudian, pada hari yang sama di awal bulan Desember ketika berita penarikan kembali Waymo menjadi berita, manajer Tanggap Darurat dan Penjangkauan Waymo, Rob Patrick, menelepon asisten kepala departemen kepolisian distrik Austin, menurut catatan yang diperoleh WIRED. Patrick dan Waymo mempunyai proposal, menurut email yang dikirim oleh asisten kepala sekolah, Travis Pickford, ke rekan-rekannya di distrik tersebut: Perusahaan ingin mengumpulkan data tentang bus sekolah distrik, mungkin agar mobilnya dapat lebih mudah mengidentifikasi kapan mereka tidak boleh lewat.
“Secara khusus, mereka ingin memfokuskan pengumpulan data pada sinyal lampu kuning dan merah di setiap bus sekolah kami, dan kemampuan mobil mereka untuk melihatnya pada jarak yang berbeda-beda,” tulis Pickford dalam email.
Pada hari Senin berikutnya, tiga hari kemudian, pejabat transportasi sekolah setuju untuk mengumpulkan setidaknya tujuh bus yang mewakili semua model dalam armada lebih dari 550 kendaraan di kompleks atletik sekolah. Para pejabat bahkan memberikan spesifikasi pengaturan lampu bus kepada Waymo. Pada pertengahan sore hari Rabu berikutnya, acara pengumpulan data selesai, dan Waymo memberi tahu pejabat sekolah bahwa perusahaan memiliki apa yang dibutuhkan.
Namun insiden melewati bus sekolah Waymo tidak berhenti.
Laporan awal oleh NTSB diterbitkan pada awal Maret menemukan bahwa satu insiden berikutnya, pada 12 Januari, terjadi setelah asisten jarak jauh Waymo, seorang manusia yang berbasis di Michigan bertugas dengan “membantu” perangkat lunak ketika mengalami kesulitan di jalansalah memberi tahu robotaxi bahwa bus sekolah di depannya tidak memiliki sinyal aktif. Enam kendaraan melewati bus sekolah saat bus tersebut dihentikan, kata badan tersebut. Pihaknya masih melakukan penyelidikan.
Hanya beberapa hari setelah insiden bulan Januari tersebut, Waymo menabrak seorang anak yang sedang menyeberang di depan kendaraan dekat sebuah sekolah di Santa Monica, California. Anak itu dilaporkan tidak terluka, dan Waymo kemudian berkata bahwa modelnya menunjukkan bahwa pengemudi manusia akan menabrak anak tersebut dengan kecepatan lebih tinggi daripada mobilnya.
Pembelajaran Robot
Cummings, peneliti kendaraan otonom, mengatakan dia tidak terkejut bahwa acara pengumpulan data Waymo tidak menyelesaikan semua masalah bus sekolah. Diperlukan waktu berminggu-minggu atau bahkan berbulan-bulan bagi pengembang perangkat lunak untuk menggunakan data baru guna melatih sistem yang digerakkan oleh AI pada mobil self-driving. Terlebih lagi, data yang dikumpulkan di tempat parkir fasilitas atletik, di luar konteks yang biasa digunakan mobil Waymo, mungkin tidak banyak membantu. “Data yang dihasilkan di tempat parkir tidak akan mencukupi,” katanya.
Waymo, kata Cummings, “tidak boleh diizinkan beroperasi di sekitar sekolah selama penjemputan dan pengantaran sekolah sampai masalah ini teratasi dan dapat menunjukkannya melalui tes khusus.”
Philip Koopman, peneliti perangkat lunak dan keselamatan kendaraan otonom di Universitas Carnegie Mellon, mengatakan insiden bus sekolah mungkin sangat menantang bagi perangkat lunak Waymo karena rambu berhenti memiliki arti yang sedikit berbeda dalam konteks yang berbeda. Terdapat rambu berhenti di persimpangan, rambu berhenti yang dipegang oleh pekerja bangunan yang mengatur lalu lintas, dan rambu berhenti yang ditempelkan pada bus sekolah. Waymo mencoba mengajarkan perangkat lunaknya “sesuatu yang sangat halus,” katanya.
Keseluruhan episode ini menunjukkan tantangan kompleks dalam mengoperasikan robot yang digerakkan oleh perangkat lunak di jalan manusia yang terkadang tidak dapat diprediksi. Mengajarkan perangkat lunak untuk mengemudi dengan aman 99 persen adalah bagian yang mudah. Namun “1 persen terakhir sangatlah sulit, karena kami mencoba memberikan pengecualian,” kata Koopman.
“Waymo sedang berjuang untuk mengajarkan pembelajaran mesin mereka pelajaran yang diinginkan Waymo,” kata Koopman. “Itu bukan sebuah kejutan. Ini akan selalu menjadi masalah.”
