Wakil Menteri Kementerian Komunikasi dan Digital (Wamenkomdigi) merespons kekhawatiran mengenai risiko keamanan digital akibat agen kecerdasan buatan (AI) yang dinilai dapat menimbulkan berbagai bentuk kerugian baik secara fisik maupun siber.
Perkembangan teknologi AI yang begitu cepat menimbulkan berbagai kekhawatiran publik, mulai dari penyalahgunaan teknologi hingga recursive self-improvement (RSI), terutama setelah beberapa kasus AI seperti peretasan perangkat teknologi dan serangan siber lainnya terungkap.
Nezar mengungkapkan bahwa Komdigi dan Badan Siber dan Sandi Negara (BSSN) telah melakukan kolaborasi terkait penanganan ancaman siber yang sedang berjalan. Ia menjelaskan bahwa fenomena ini bukan hanya dialami Indonesia, tapi juga berlangsung secara global.
Maraknya serangan siber yang terjadi belakangan ini tidak lain juga didukung oleh peningkatan kemampuan agen AI untuk menemukan kelemahan dan kerentanan sistem keamanan, yang memungkinkan aktivitas peretasan dan serangan siber dilancarkan dengan lebih cepat dan lebih berbahaya.
"Mungkin juga ada semacam agentic AI, sekumpulan agen-agen yang memang bergerak untuk melakukan serangan-serangan siber," kata Nezar dalam acara peluncuran JK1 Phase 2 Pusat Data Equinix, Selasa (10/11).
Ia mengungkap bahwa serangan dengan bantuan agen AI ini merupakan jenis serangan siber yang baru dan pemerintah melalui Komdigi dan BSSN sedang berupaya menangani dan mencegah perluasan dampaknya.
"Jadi ini model serangan baru ya, yang perlu diantisipasi. Kita juga mendapat informasi dari BSSN dan melakukan semacam antisipasi, bahkan simulasi, sampai memperkuat sejumlah infrastruktur digital yang kita miliki untuk bisa tahan terhadap serangan-serangan yang datang dalam bentuk teknologi AI," jelas Nezar.
Ia menjelaskan Komdigi telah berupaya mengatur ekosistem penggunaan data center dan mempersiapkan sejumlah regulasi, termasuk terkait privasi, risk mitigation, perlindungan data pribadi, serta keamanan agen AI yang mampu mengambil keputusan secara mandiri.
"Kita sudah membuat peta jalan pengembangan AI nasional yang mencoba mengatur dari hulu sampai ke hilir adopsi teknologi AI ini," ungkap Nezar.
Salah satu upaya ini dicerminkan dengan penerapan guardrail (batasan) agar penggunaan dan pengembangan AI tetap sejalan dengan etika yang berlaku secara bertanggung jawab, termasuk dengan regulasi terkait agen AI yang dirancang lebih ketat daripada AI pasif yang hanya mampu mengelola informasi.
"Ini satu hal yang baru dan butuh risk mitigation sendiri. Sejauh mana otonomi itu bisa kita berikan kepada AI Agent, di mana posisi kontrol manusia, atau posisi human di dalam decision making yang dibuat," jelas Nezar.
Nezar menjelaskan ada beberapa pendekatan yang dilakukan dalam pengawasan penggunaan AI pada layanan-layanan autonomous, termasuk human in the room dan human oversight. Dalam prosesnya, setiap model dan produk AI yang akan diluncurkan akan terlebih dahulu melewati sandboxing atau simulasi uji coba untuk menganalisis risiko.
Pedoman tersebut dirancang sebagai mitigasi untuk mencegah terjadinya hal-hal yang tidak diinginkan, terutama untuk penggunaan dan pengembangan agen AI di sektor dengan risiko tinggi seperti keuangan, kesehatan, dan riset strategis.