Tangkal Peretasan, Riset Kenalkan Pelacak Kegelisahan AI

Peretas kecerdasan buatan kini tidak lagi mengetik perintah kasar yang mudah dicegat saringan kata kunci. Mereka beralih memakai muslihat obrolan bertahap, mulai dari basa-basi santai, membelokkan arah pembicaraan, hingga menyuntikkan instruksi berbahaya secara diam-diam. Untuk menutup celah keamanan genting ini, periset kecerdasan buatan Prashant Kulkarni merilis metode pertahanan baru yang memantau gejolak internal model bahasa besar secara langsung. Pendekatan berbasis sains komputasi ini berhasil melesatkan akurasi tangkapan serangan dari 76,2 persen menjadi 93,8 persen pada data pengujian.

Metode konvensional selama ini hanya membaca susunan teks luar, sehingga mudah terkecoh ketika kalimat pengguna terdengar santun dan wajar. Serangan manipulatif multi-tahap sengaja memupuk rasa percaya sistem terlebih dahulu sebelum menusuk lewat instruksi terlarang di ujung percakapan. Kulkarni melihat kelemahan tersebut dan beralih mengamati alur komputasi di ruang residu saraf tiruan mesin. Di ruang pemrosesan internal itu, manuver peretas ternyata memicu lonjakan lintasan sinyal matematis yang sangat panjang dan tidak wajar bila dibanding percakapan biasa.

Fenomena anomali tersebut ia namai sebagai kegelisahan adversarial (adversarial restlessness). Istilah ini menggambarkan bagaimana saraf tiruan model bahasa besar bergerak jauh lebih sibuk saat menghadapi manipulasi bertahap. Lewat publikasi riset terbarunya di repositori ilmiah arXiv, Kulkarni merancang lima indikator lintasan matematis untuk melacak gelagat mesin tersebut. "Ketika percakapan diarahkan menuju jebakan tersembunyi, sinyal batin mesin sebenarnya menempuh rute komputasi yang jauh lebih bergejolak dibanding obrolan santai sehari-hari," tutur Prashant Kulkarni saat menguraikan temuannya.

Pengujian empiris membuktikan bahwa pelacak sinyal internal ini bekerja konsisten pada empat keluarga model besar berukuran 24 miliar hingga 70 miliar parameter. Ketika peneliti melatih sistem menggunakan kombinasi tiga sumber data percakapan sekaligus, tingkat keberhasilan deteksi tetap bertengger kukuh pada 89,4 persen. Angka kesalahan deteksi atau alarm palsu bahkan mampu ditekan hingga hanya sekitar 2,4 persen. Pembuktian ini memperlihatkan bahwa pengawasan sinyal internal jauh lebih tangguh daripada sekadar menaruh penyaring teks di pintu gerbang percakapan.

Kendati menawarkan akurasi tinggi, solusi ini tetap membawa tantangan teknis tersendiri di lapangan. Sensor lintasan internal ini bersifat sangat spesifik untuk tiap model dan tidak bisa dipindahkan begitu saja ke arsitektur mesin yang berbeda. Selain itu, sistem pengawas wajib dilatih menggunakan tiga fase percakapan yang runtut, yaitu fase wajar, fase pembelokan, dan fase serangan. Jika pengembang hanya mengandalkan label biner kaku antara aman atau bahaya, sistem justru akan memicu alarm keliru hingga separuh dari total pengujian.

Terobosan ini hadir tepat waktu saat pemanfaatan model bahasa besar kian masif di berbagai sektor krusial tanah air, seperti perbankan digital, layanan asuransi, dan administrasi publik. Asisten virtual di Indonesia kini menangani verifikasi data pribadi nasabah hingga transaksi bernilai miliaran rupiah setiap harinya. Bila agen percakapan cerdas tersebut berhasil diperdaya oleh peretas lewat teknik manipulasi bertahap, risiko kebocoran data dan kerugian finansial jelas mengintai di depan mata. Kehadiran deteksi berbasis sinyal internal ini memberi lapis perlindungan baru bagi korporasi yang ingin menggelar teknologi cerdas secara aman.

Langkah Kulkarni membuka babak baru dalam perlombaan keamanan siber di era kecerdasan buatan generatif. Pertahanan sistem ke depan tidak lagi cukup bertumpu pada sensor kata atau tata bahasa di permukaan layar ponsel pengguna. Industri kini dituntut memahami dinamika matematis di dalam bilik komputasi terdalam mesin itu sendiri. Melalui pemahaman yang lebih jernih terhadap detak kegelisahan saraf buatan, pengembang dapat membangun agen digital yang kebal dari muslihat manipulatif paling lihai sekalipun.