Evolv, perusahaan di balik sistem “kecerdasan buatan” kontroversial yang digunakan untuk mendeteksi senjata di kereta bawah tanah New York dan di sekolah-sekolah di seluruh negeri, telah dituduh oleh Komisi Perdagangan Federal menyesatkan pelanggan, menurut siaran pers baru dari FTC. Badan tersebut menuduh pemindai Evolv Express, yang digunakan di sekitar 800 sekolah di 40 negara bagian, tidak seakurat yang diklaim perusahaan dalam mendeteksi senjata. Dan FTC ingin Evolv berhenti melebih-lebihkan kemampuan AI-nya.
“Dalam usulan penyelesaian FTC, Evolv akan dilarang membuat klaim yang tidak didukung tentang kemampuan produknya untuk mendeteksi senjata dengan menggunakan kecerdasan buatan dan juga harus memberikan pilihan kepada pelanggan sekolah K-12 tertentu untuk membatalkan kontrak mereka, yang umumnya mengunci pelanggan ke dalam kesepakatan multi-tahun,” kata FTC dalam siaran pers Selasa.
Detektor senjata Evolv mendapat perhatian luas di pers nasional awal tahun ini ketika sistem tersebut dipasang di sistem kereta bawah tanah New York. Namun bahkan CEO pada saat itu menyatakan bahwa sistem kereta bawah tanah bukanlah kasus penggunaan yang baik.
FTC mengatakan Evolv telah secara salah menyiratkan bahwa pengguna dapat menghindari keharusan untuk melakukan pengorbanan yang diperlukan untuk memiliki sistem deteksi senjata yang sangat aman dan “pengalaman yang mulus” bagi orang-orang yang memasuki sebuah gedung. Inti masalahnya, menyetel pemindai ke tingkat sensitivitas yang lebih rendah memungkinkan terlalu banyak senjata masuk tanpa terdeteksi, dan menyetelnya ke sensitivitas yang lebih tinggi memicu terlalu banyak alarm palsu.
Evolv mengatakan bahwa sistemnya lebih unggul daripada detektor logam biasa karena menggunakan AI, namun FTC berpendapat bahwa itu tidak lebih dari sekadar sensasi pemasaran.
“FTC sudah jelas bahwa klaim mengenai teknologi—termasuk kecerdasan buatan—perlu didukung, dan hal ini sangat penting ketika klaim tersebut melibatkan keselamatan anak-anak,” kata Samuel Levine, direktur Biro Perlindungan Konsumen, menurut ke siaran pers. “Jika Anda membuat klaim tersebut tanpa dukungan yang memadai, Anda akan mendapat tanggapan dari FTC.”
FTC mencatat dalam pengajuan pengadilan bahwa pada Oktober 2022 seorang siswa di sebuah sekolah di New York membawa pisau berukuran 7 inci yang melewati pemindai Evolv Express. Dan di lain waktu, pemindai Evolv gagal mendeteksi senjata polisi yang sedang tidak bertugas saat menyalakan alarm di kotak makan siang siswa. Sekolah menaikkan tingkat sensitivitas setelah insiden penikaman, namun hal itu hanya menggandakan tingkat alarm palsu menjadi 50%, menurut FTC.
Juru bicara Evolv mengarahkan Gizmodo ke siaran pers perusahaan mengenai masalah tersebut.
“Kami bekerja sama dengan FTC untuk menyelesaikan masalah ini dan merasa senang bahwa FTC tidak mempertanyakan efektivitas mendasar dari teknologi kami dan bahwa resolusi tersebut tidak mencakup keringanan moneter apa pun. Kami menghargai kesempatan untuk menunjukkan kepada FTC sistem Evolv Express kami dan ketekunan pelanggan kami dalam meneliti, menguji, dan pada akhirnya menerapkan solusi kami di berbagai lingkungan,” kata Mike Ellenbogen, presiden sementara dan CEO Evolv, dalam rilisnya.
“Prioritas utama kami adalah keselamatan masyarakat dan komunitas yang kami layani,” lanjut Ellenbogen. “Untuk lebih jelasnya, pertanyaan ini adalah tentang bahasa pemasaran di masa lalu dan bukan tentang kemampuan sistem kami untuk memberikan nilai tambah pada operasi keamanan.”