Serangkaian surat yang dikirim oleh pengembang kendaraan otonom (AV) kepada senator Partai Demokrat AS Ed Markey dari Massachusetts memberikan penjelasan paling banyak tentang sisi manusia dalam pengoperasian kendaraan robot. Dalam dokumen, diserahkan kepada Markey sebagai bagian dari penyelidikan terhadap teknologi kendaraan self-driving dan dirilis pada hari Selasa, tujuh perusahaan, termasuk Tesla, Zoox milik AmazonDan Nuro yang didanai oleh Uber dan Nvidiamerilis rincian baru tentang program “bantuan jarak jauh” mereka.
Semua perusahaan yang menanggapi kantor senator mengatakan mereka menggunakan asisten jarak jauh—manusia yang bertugas merespons kendaraan otonom ketika mereka kebingungan, terjebak, atau dalam keadaan darurat. Program-program tersebut, kata para ahli, merupakan bagian penting dari pertimbangan keselamatan perusahaan kendaraan otonom mana pun, sebuah dukungan bagi teknologi yang semakin aman dari tahun ke tahun namun akan semakin meningkat. terus menghadapi situasi baru di jalan tanpa batas waktu.
Di sebuah laporan juga dirilis SelasaSenator Markey mengatakan rincian baru saja tidak cukup. “Setiap perusahaan kendaraan otonom menolak mengungkapkan seberapa sering AV mereka memerlukan bantuan [remote assistants]—menyembunyikan informasi penting dari publik tentang tingkat otonomi AV mereka yang sebenarnya,” tulisnya. “Informasi ini sangat penting bagi pembuat undang-undang, regulator, dan masyarakat untuk memahami potensi risiko keselamatan pada AV.”
Markey meminta regulator keselamatan jalan raya federal untuk melihat lebih dekat program bantuan jarak jauh perusahaan kendaraan otonom, dan mengatakan dia akan segera memperkenalkan undang-undang untuk menanggapi “celah keamanan” yang ditemukan dalam penyelidikannya.
Robotaksis yang Dikendalikan dari Jarak Jauh
Tanggapan dari pengembang kendaraan otonom menunjukkan bahwa, dalam satu hal, Tesla adalah industri yang berbeda. Enam dari perusahaan tersebut bersikeras agar pekerja bantuan jarak jauh mereka, yang bekerja di seluruh AS dan bahkan, di kasus Waymo, di Filipinajangan pernah mengemudikan kendaraan secara langsung. Sebaliknya, manusia memberikan masukan yang kemudian diputuskan oleh perangkat lunak kendaraan otonom untuk digunakan atau diabaikan.
Tidak demikian halnya dengan Tesla. “Sebagai tindakan redundansi dalam kasus yang jarang terjadi… [remote assistance operators] diberi wewenang untuk sementara waktu mengambil kendali langsung kendaraan sebagai manuver eskalasi terakhir setelah semua tindakan intervensi yang tersedia telah habis,” Karen Steakley, direktur kebijakan publik dan pengembangan bisnis Tesla, menulis kepada senator. Pekerja bantuan jarak jauh pembuat mobil dapat “mengambil kendali sementara kendaraan” dengan kecepatan hingga atau kurang dari 2 mph dan dapat mengemudikan Tesla Robotaxi dari jarak jauh dengan kecepatan hingga 10 mph jika perangkat lunak kendaraan mengizinkannya, kata Steakley. “Kemampuan ini memungkinkan Tesla untuk segera melakukan hal tersebut. memindahkan kendaraan yang mungkin berada dalam posisi membahayakan,” tulisnya.
Tesla, yang telah mengalihkan bisnisnya dari pembuatan mobil dan menuju teknologi kendaraan otonom dan robotmeluncurkan layanan ride-hailing kecil-kecilan di Austin, Texas, Juni lalu. Di sebagian besar dari 50 atau lebih yang disebut robotaxis yang beroperasi saat ini, operator keselamatan manusia duduk di kursi penumpang depan, siap mengambil alih atau campur tangan jika terjadi kesalahan. Sejumlah kendaraan dilaporkan beroperasi tanpa operator keselamatan. Produsen mobil tersebut mengatakan asisten jarak jauhnya berbasis di Austin dan Palo Alto, California.
Pengembang kendaraan otonom biasanya menghindari kendali jarak jauh langsung terhadap kendaraannya karena beberapa alasan. Keterlambatan kecil antara apa yang dilihat oleh asisten jarak jauh dan apa yang terjadi di jalan secara real-time, bahkan hanya beberapa ratus milidetik, dapat mengakibatkan waktu reaksi lebih lambat, sebuah masalah yang diperburuk oleh latensi jaringan. Hal ini meningkatkan potensi kecelakaan. “Kemampuan Anda mengendarai mobil tanpa harus berada di dalam mobil sama stabilnya dengan koneksi internet yang menghubungkan Anda,” kata seorang insinyur kendaraan self-driving kepada WIRED. tahun lalu.
(Kecepatan dan keakuratan juga penting bagi perusahaan yang tidak memiliki karyawan yang langsung mengemudi dari jarak jauh. Pada bulan Januari, asisten jarak jauh Waymo salah memberi tahu AV t yang berbasis di Austintopi itu bisa melewati bus sekolah secara ilegal dengan lengan penghentinya terentang, ditemukan oleh penyelidik federal.)
Asisten jarak jauh yang sebenarnya mengoperasikan mobil juga memerlukan kesadaran situasional yang segera dan lengkap serta pengaturan mengemudi yang terasa alami bahkan ribuan mil jauhnya. Beberapa pelaku industri juga khawatir bahwa mobil self-driving yang kadang-kadang dikendarai oleh manusia—dan karena itu bergantung pada manusia pada tingkat tertentu—mungkin tidak dapat beroperasi dengan aman tanpa manusia. “Saat truk melaju di jalan, truk harus dapat beroperasi dengan aman dengan atau tanpa orang-orang yang memberikan dukungan jarak jauh,” Chris Urmson, CEO perusahaan truk self-driving Aurora dan veteran proyek mobil self-driving Google, telah mengatakan.
Markey menulis bahwa penolakan Tesla untuk membagikan informasi yang lebih spesifik tentang seberapa sering asisten jarak jauhnya mengambil alih mobil “sangat memprihatinkan,” karena para pekerja “diizinkan untuk mengoperasikan kendaraan dari jarak jauh.”
Missy Cummings, seorang profesor teknik yang meneliti kendaraan otonom di Universitas George Mason dan baru-baru ini menulis tentang bantuan jarak jauh, mengatakan bahwa pengembang memiliki insentif untuk tetap diam tentang program mereka. “Perusahaan tidak ingin memberikan angka-angka tersebut, karena hal tersebut akan memperjelas betapa tidak mampunya sistem ini,” katanya. “Kalau orang paham seberapa sering [the assistants] jika kita berinteraksi, maka akan terlihat jelas seberapa jauh jarak kendaraan yang benar-benar otonom.”
Steakley, pejabat Tesla, menulis dalam suratnya kepada senator bahwa menjawab beberapa pertanyaannya “akan mengungkapkan rahasia dagang yang sangat sensitif dan praktik bisnis rahasia” yang “mendasar untuk menjaga [Tesla’s] posisi kompetitif di industri AV.” Tesla, yang membubarkan tim hubungan masyarakatnya pada tahun 2020, tidak menanggapi permintaan komentar WIRED.
Waymo dirilis -nya tanggapan sendiri ke Markey awal tahun ini. Di dalamnya, wakil presiden Waymo dan kepala operasi global Ryan McNamara menulis bahwa agen bantuan jarak jauh Waymo “memberikan saran dan dukungan kepada Pengemudi Waymo tetapi tidak secara langsung mengendalikan, mengarahkan, atau mengemudikan kendaraan.” Perusahaan mengatakan bahwa setidaknya 70 asisten bekerja pada waktu tertentu untuk memantau sekitar 3.000 robotaxis di 10 kota di AS. Dikatakan bahwa setengah dari pekerja bantuan jarak jauhnya berlokasi di dua kota di Filipina dan memiliki izin mengemudi ke sana tetapi dilatih tentang peraturan lalu lintas di AS.
Kantor Markey menulis bahwa “bantuan jarak jauh di luar negeri menimbulkan risiko yang tidak perlu terhadap operasi Waymo—risiko yang tidak diambil oleh perusahaan AV lain.”
Waymo dan Nuro menolak berkomentar. Zoox tidak menanggapi permintaan komentar WIRED.
