CertiK: Agen AI Ambil Peran Lebih Besar di Keamanan Siber

Perusahaan keamanan blockchain CertiK merilis laporan Intel3D yang menyebut agen AI tidak lagi sekadar alat pendukung dalam keamanan siber dan investigasi kejahatan finansial. Laporan yang dibagikan kepada CryptoPotato itu menjelaskan sistem generasi baru kini mampu menalar langkah kerja, menggunakan alat, mengumpulkan bukti, bertindak di lingkungan langsung, dan meninjau hasil dengan keterlibatan manusia yang terbatas.

Agen AI Ambil Alih Tugas Keamanan

Selama bertahun-tahun, sistem pembelajaran mesin terutama membantu analis dengan menandai aktivitas login yang tidak biasa, memberi skor pada transaksi, dan menyiapkan laporan. CertiK menilai agen yang lebih baru dapat mengerjakan tugas yang lebih luas, sehingga perannya bergeser dari sekadar mengidentifikasi masalah menjadi turut membantu mengeksekusi respons.

Dalam sebuah security operations center, menurut laporan tersebut, agen dapat menyelidiki percobaan login mencurigakan dengan memeriksa catatan perangkat, data lokasi, dan feed ancaman sebelum mengambil tindakan. Agen itu bisa menangguhkan akun dan mencatat langkah-langkahnya untuk ditinjau manusia.

CertiK menyebut sistem serupa mulai muncul di bidang keamanan Web3, termasuk triase kontrak, penilaian risiko transaksi, dan pelacakan dana yang dicuri. Perusahaan itu memperkirakan manusia akan lebih banyak berfokus pada pengawasan seiring agen menangani investigasi rutin.

Salah satu pemicu pergeseran ini adalah kecepatan serangan. Eksploitasi flash loan dapat menguras protokol dalam hitungan detik, sementara crypto yang dicuri bisa berpindah melintasi bridge dan mixer dalam hitungan jam. Kondisi ini menyisakan sedikit waktu bagi tim manusia untuk menyelidiki dan merespons. Faktor lain adalah kelangkaan tenaga ahli keamanan siber dan kepatuhan, sementara tekanan regulasi meningkatkan beban kerja. CertiK mengutip lebih dari 900 juta dolar Amerika Serikat dalam sanksi anti pencucian uang (AML) pada paruh pertama 2025, yang menunjukkan konsekuensi yang bisa dihadapi perusahaan ketika pengendalian gagal.

Otonomi AI Memunculkan Risiko Baru

CertiK berpendapat perusahaan sebaiknya memperlakukan agen otonom sebagai peserta angkatan kerja, bukan sekadar perangkat lunak biasa. Tindakan agen tidak menghapus akuntabilitas manusia, sehingga perusahaan yang menggelarnya tetap bertanggung jawab atas hasil yang terjadi.

Akuntabilitas itu semakin penting ketika agen mengambil tugas di operasi finansial dan crypto. Di sektor keuangan, agen dapat menangani tugas AML, sedangkan di bidang crypto agen dapat mendeteksi eksploitasi, melacak dana, dan memantau transaksi.

Namun laporan tersebut menyoroti risiko dari keluaran yang salah, berkurangnya pengawasan manusia, dan serangan yang sengaja diarahkan pada sistem AI. CertiK merekomendasikan pencatatan input dan tindakan, batas yang jelas atas keputusan otonom, pengujian adversarial, serta penunjukan penanggung jawab bernama untuk setiap agen.

Pengawasan Harus Sepadan dengan Peran Agen

Seiring sistem AI memperoleh kewenangan yang lebih besar atas tugas keamanan dan kepatuhan, perusahaan perlu menyiapkan kendali yang sepadan dengan peran yang meluas tersebut. CertiK menilai tanpa pengawasan yang kuat, otomasi berpotensi menggantikan masalah yang sudah dikenal dengan kegagalan yang lebih sulit dijelaskan.