AI Salah Deteksi Keripik Doritos sebagai Senjata, Empat Remaja Gugat Polisi dan Sekolah

AI Salah Deteksi Keripik Doritos sebagai Senjata, Empat Remaja Gugat Polisi dan Sekolah

Arina.id – Sekantong keripik Doritos memicu kedatangan polisi bersenjata di sebuah sekolah menengah di Baltimore, Amerika Serikat. Empat siswa dan mantan siswa berkulit hitam kini menggugat pihak sekolah, kepolisian, dan perusahaan teknologi setelah sistem pengawasan berbasis kecerdasan buatan (AI) keliru mengidentifikasi camilan tersebut sebagai senjata api.

Gugatan yang diajukan pada Selasa, 17 November 2026 itu menyebut kesalahan deteksi tersebut berujung pada tindakan polisi yang dinilai melanggar hak sipil dan konstitusional para remaja.

Peristiwa itu terjadi pada 20 Oktober 2025 di SMA Kenwood. Saat itu, keempat remaja sedang menunggu jemputan setelah mengikuti latihan sepak bola. Salah seorang di antara mereka tengah menikmati Cool Ranch Doritos, keripik yang diberikan oleh sang pelatih.

Situasi mendadak berubah ketika sejumlah petugas kepolisian datang dengan senjata terhunus. Para remaja diperintahkan berlutut, kemudian diborgol, dan digeledah di lokasi.

“Insiden itu menakutkan dan mengancam jiwa,” demikian bunyi gugatan tersebut. “Dengan polisi bersenjata mengepung mereka tanpa alasan yang jelas, setiap siswa takut akan nyawanya dan nyawa teman-temannya.” 

AI Keliru Mengenali Sekantong Doritos

Dalam dokumen gugatan disebutkan, sistem pengawasan yang digunakan di sekolah tersebut dikembangkan oleh Omnilert. Teknologi ini bekerja dengan memindai rekaman kamera keamanan untuk mendeteksi kemungkinan keberadaan senjata api.

Namun, kamera yang mengarah ke lokasi para remaja berdiri justru salah mengenali sekantong keripik di tangan salah seorang siswa sebagai senjata.

Kesalahan identifikasi itu kemudian memicu respons kepolisian. Para penggugat menilai sistem AI telah menjadi pemicu tindakan aparat yang tidak semestinya dilakukan tanpa verifikasi lebih lanjut.

Persoalan semakin menjadi sorotan setelah terungkap respons pihak sekolah terhadap kejadian tersebut. Kepala Sekolah SMA Kenwood, Catherine Smith, disebut mengirimkan pesan teks kepada sejumlah administrator dengan nada meremehkan insiden.

"Itu hanya sekantong keripik," tulis Smith dalam pesan tersebut, disertai empat emoji tertawa terbahak-bahak, menurut dokumen gugatan.

Investigasi Tidak Temukan Bias Rasial

Insiden tersebut turut diselidiki Kantor Inspektur Jenderal Pendidikan Maryland. Mengutip laporan WMAR-TV, penyelidikan tidak menemukan bukti adanya bias rasial dalam sistem AI.

Laporan itu menyebut teknologi tersebut mendeteksi posisi tangan salah seorang siswa ketika memegang suatu benda sebagai potensi ancaman.

Meski demikian, investigasi menemukan persoalan dalam prosedur komunikasi di lingkungan sekolah. Kepala sekolah dilaporkan tidak melihat pemberitahuan pembatalan yang dikirimkan anggota staf lainnya untuk mengklarifikasi peringatan tersebut. Akibatnya, polisi telanjur dihubungi.

Temuan ini memperlihatkan bahwa kesalahan teknologi bukan satu-satunya persoalan. Prosedur verifikasi dan koordinasi sebelum mengerahkan aparat bersenjata juga menjadi bagian penting dari insiden tersebut.

Empat remaja yang mengajukan gugatan menilai tindakan yang dialami telah melanggar hak konstitusional, termasuk hak atas proses hukum yang adil (due process) serta perlindungan dari penggeledahan dan penyitaan yang tidak beralasan.

Len Kamdang dari Lawyers' Committee for Civil Rights Under Law, organisasi hukum nirlaba yang mewakili para remaja, mengatakan gugatan tersebut tidak semata-mata bertujuan memperoleh kompensasi.

Menurut dia, para remaja dan keluarga mereka menginginkan pengakuan dari pihak sekolah, kepolisian, dan perusahaan teknologi bahwa perlakuan yang mereka alami tidak dapat diterima.

Mereka juga mendesak pemberlakuan protokol baru agar peringatan palsu dari sistem AI tidak langsung memicu pengerahan polisi bersenjata.
Kamdang mengatakan para petugas sebenarnya telah memiliki foto salah seorang remaja yang sedang memegang sekantong keripik. Namun, informasi tersebut tidak menghalangi terjadinya tindakan kepolisian.

Ia juga menyoroti pernyataan salah seorang petugas yang mengatakan kepada para remaja bahwa mereka beruntung tidak mencoba melarikan diri saat kejadian berlangsung.

Bagi Kamdang, insiden tersebut menunjukkan bahaya ketika hasil deteksi teknologi diterima begitu saja tanpa pertimbangan dan penilaian manusia.

"Kasus ini pada akhirnya adalah tentang bagaimana manusia membiarkan AI menggantikan penilaian mereka," kata Kamdang, sebagaimana dikutip The New York Times.

Ia menilai situasi tersebut sangat menakutkan bagi keluarga mana pun. Namun, bagi seorang pemuda kulit hitam di Amerika Serikat yang berhadapan dengan polisi bersenjata akibat kesalahan identifikasi, risikonya bisa jauh lebih besar.

"Bagi seorang siswa kulit hitam, terutama seorang pemuda kulit hitam di Amerika, itu adalah situasi hidup dan mati," ujarnya.


Editor:
Al-Quran Digital

Berita Lainnya

Hadits Online

Terbaru Lainnya

logo
Penyadapan Presiden