Perusahaan di berbagai industri menghadapi tuntutan hukum yang berupaya menetapkan tanggung jawab mereka atas diskriminasi yang melibatkan kecerdasan buatan.
Salah satu contoh yang menunggu keputusan di pengadilan federal adalah Mobley v. Workday, di mana pelamar kerja berkulit hitam menuduh alat perekrutan bertenaga AI milik perusahaan mendiskriminasi dirinya dan pelamar lainnya berdasarkan ras, usia, dan disabilitas.
Departemen Kehakiman AS, bersama dengan California dan negara bagian lainnya, menggugat RealPage, dengan tuduhan bahwa perangkat lunak penetapan harga algoritmiknya memungkinkan tuan tanah berkolusi dan menaikkan harga sewa.
“Hal serupa yang terjadi ketika orang-orang berkuasa juga akan terjadi ketika algoritma bertugas menyaring informasi. Namun jika tidak ada cukup parameter dan batasan, maka kita akan memutar kembali waktu ke masa ketika kita tidak memiliki perlindungan hak-hak sipil seperti yang kita miliki sekarang,” kata Dharap.
Tanpa rincian lebih lanjut dari Waymo atau Alphabet, tidak jelas bagaimana mereka memverifikasi identitas pelanggan.
“Sejujurnya, saya tidak tahu apa yang dilakukan Waymo untuk memverifikasi identitas,” tulis Hany Farid dari School of Information UC Berkeley. “Tetapi jika mereka hanya melakukan pencocokan nama yang sederhana, hal ini tidak dapat dimaafkan karena kita sekarang memiliki teknologi yang cukup baik untuk memverifikasi identitas yang jauh lebih maju daripada pencocokan nama yang sederhana (dan malas).”
Waymo, Alphabet Digugat karena Bias Setelah AI Diduga Salah Memberi Label Dokter SF sebagai Teroris