Arina.id - Sebuah dokumen diungkap oleh The Intercept menunjukkan ambisi Pentagon, Markas Besar Pertahanan Amerika Serikat, yang sedang mengembangkan kerangka kerja agen inteligen atau mata-mata berbasis kecerdasan buatan (AI) bernama ECHOTRIBBLE. Agen AI ini dirancang untuk "menavigasi infrastruktur, mengidentifikasi, dan menetralisir ancaman."
Diutip dari Gizmodo, bila melihat isi dokumen-dokumen tersebut, yang sepertinya dipresentasikan oleh dan untuk para vendor, itu menunjukkan kalau Komando Pusat Angkatan Darat sedang mencari bantuan dari sektor swasta dalam upaya mereka untuk mempersenjatai AI. Meskipun demikian, sama sekali tidak jelas apakah mereka telah membuat alat peretasan berbasis AI dari proyek tersebut. Namun Komando Siber di Pentagon tidak menanggapi permintaan komentar dari Intercept.
Seperti tertera dalam dokumen-dokumen tentang ECHOTRIBBLE yang dapat diakses di situs web organisasi nirlaba Cyber Fusion Innovation Center (CFIC), program ini bukanlah inisiatif rahasia DARPA. Menurut CFIC, awal bulan ini telah diadakan "Acara Penilaian virtual sepenuhnya untuk inisiatif Agentic C2 Framework Tool (ECHOTRIBBLE)." Acara tersebut menghasilkan 65 makalah, di mana lima di antaranya akan diubah menjadi presentasi dan dinilai oleh Tim Penilai.
Pada bulan Januari lalu, Menteri Pertahanan Pete Hegseth dengan jelas menyatakan bahwa ia memiliki rencana seperti ini. “Kami akan melakukan eksperimen, menghilangkan hambatan birokrasi, memfokuskan investasi kami, dan menunjukkan pendekatan eksekusi yang diperlukan untuk memastikan kami memimpin dalam militer AI,” kata Hegseth menurut siaran pers Pentagon. Ia menambahkan, "Kita akan menjadi kekuatan tempur yang 'mengutamakan AI' di semua bidang."
Sam Biddle dari The Intercept menggambarkan visi ECHOTRIBBLE yang masih dalam tahap awal sebagai sesuatu yang "hampir seperti worm komputer, diam-diam menavigasi jaringan asing dan berpindah dari perangkat ke perangkat hingga menemukan target Angkatan Darat, menyerang target di cloud serta sistem 'terisolasi' yang terputus sepenuhnya dari jaringan."
Bahkan agen AI saat ini mampu bekerja dalam kelompok terkoordinasi untuk melakukan apa yang pada dasarnya adalah peretasan, meskipun ada banyak kasus seperti insiden Hugging Face yang belum menyebabkan kerusakan besar. Secara keseluruhan, pelajaran yang dipetik dari kisah keamanan AI musim panas lalu adalah bahwa agen AI dengan kemampuan peretasan tidak selalu bertindak karena alasan yang langsung dapat dipahami oleh pengamatan manusia.
"Agen nakal" itu nanti akan lebih mirip sistem kompleks yang mengalami gangguan tak terduga daripada seperti yang digambarkan dalam Film Terminator, yang diasosiasikan dengan sebuah mode sistem AI yang haus pada darah manusia.
Meskipun begitu, ambisi ini bisa dibilang cukup menakutkan. Seperti yang dikatakan profesor mesin pembelajaran Universitas Montreal, David Krueger kepada Intercept, "Mengingat mode kegagalan yang diketahui dari paradigma AI saat ini, membuat sistem AI otonom dengan mandat untuk 'menetralisir ancaman' bisa jadi nanti sangat berbahaya."
Editor:
