Ekonomi

Pakar Ungkap Sisi Gelap AI, Semua Orang Bisa Jadi Korban

Pakar Ungkap Sisi Gelap AI, Semua Orang Bisa Jadi Korban

Jakarta, CNBC Indonesia - Perkembangan kecerdasan buatan atau artificial intelligence (AI) tidak hanya menawarkan peluang ekonomi, tetapi juga membawa berbagai ancaman baru.

Sejumlah ancaman mulai dari serangan siber yang makin canggih, perubahan dunia kerja, penyebaran informasi palsu, hingga risiko terhadap perkembangan kemampuan berpikir anak-anak, perlu terus dimitigasi.

Presiden Korea Institute of Information Security and Cryptology (KIISC) Howon Kim memperingatkan bahwa AI kini membuat serangan siber semakin mudah dilakukan, bahkan oleh orang yang tidak memiliki keahlian tinggi di bidang peretasan.

"Pada masa lalu, serangan siber yang canggih membutuhkan peretas terampil, banyak waktu, dan juga banyak uang. Sekarang, penyerang menggunakan agen AI. Bahkan seorang pemula bisa menulis email phishing yang sempurna dalam bahasa apa pun, tanpa kesalahan ejaan," ujar Kim dalam workshop Indonesian Next Generation Journalist Network on Korea yang diselenggarakan Foreign Policy Community of Indonesia (FPCI) dan Korea Foundation, dikutip Rabu (18/11/2026).

Menurutnya, AI juga memungkinkan pelaku kejahatan meniru suara dan wajah seseorang dalam hitungan menit, menemukan kelemahan sistem keamanan, hingga menghasilkan kode serangan secara otomatis.

Teknologi tersebut membuat serangan siber semakin murah, cepat, dan dapat dilakukan dalam skala besar. Akibatnya, ancaman tidak lagi hanya menyasar perbankan atau lembaga pemerintah, tetapi juga pekerja kantoran, rumah sakit, dan masyarakat umum.

"Ini berarti semua orang bisa menjadi target. Seorang perawat di rumah sakit menerima email yang terlihat sepenuhnya asli. Seorang pekerja kantoran menerima telepon deepfake yang terdengar persis seperti bosnya," jelas Kim.

"Penyerang tidak membutuhkan tembok pertahanan yang hebat. Mereka hanya membutuhkan satu orang untuk mengklik."

Kim menilai kondisi tersebut menuntut peningkatan kemampuan keamanan siber di seluruh sektor, termasuk pelatihan bagi pekerja dan penguatan tim khusus yang menangani ancaman digital.

Disrupsi Pasar Kerja hingga Industri Media

Sementara itu, Dosen Hubungan Internasional Universitas Gadjah Mada (UGM) Dedy Permadi menyoroti dampak AI terhadap pasar tenaga kerja. Ia mengutip proyeksi World Economic Forum (WEF) mengenai potensi terciptanya 170 juta pekerjaan baru sekaligus tergantikannya 92 juta pekerjaan akibat otomatisasi dan digitalisasi secara global hingga 2030.

Salah satu industri yang dinilai akan mengalami perubahan besar adalah media massa. Teknologi AI memungkinkan proses produksi berita semakin terotomatisasi, sehingga berpotensi mengubah kebutuhan tenaga kerja jurnalistik.

Namun, Dedy mengingatkan bahwa ketergantungan berlebihan pada AI dapat menimbulkan persoalan akurasi dan etika pemberitaan.

"Tanpa jurnalis, media masih bisa memproduksi berita. Namun, tantangannya adalah, pertama, bias dalam berita; kedua, halusinasi dalam berita; dan ketiga, persoalan teknis serta etika akibat ketergantungan yang berlebihan pada AI," katanya.

Halusinasi AI merupakan kondisi ketika teknologi menghasilkan informasi yang keliru, tetapi menyajikannya seolah-olah benar.

Risiko lain yang menjadi perhatian Dedy adalah penggunaan AI generatif oleh anak-anak, khususnya siswa sekolah dasar.

Ia menilai AI dapat membantu meningkatkan kualitas pendidikan, termasuk menyediakan pembelajaran yang disesuaikan dengan kemampuan siswa. Namun, penggunaan langsung layanan seperti ChatGPT, Copilot, atau Gemini tanpa pendampingan berpotensi menimbulkan masalah.

Menurut Dedy, anak-anak belum memiliki kemampuan memadai untuk memverifikasi informasi yang dihasilkan AI, sementara teknologi tersebut masih dapat menghasilkan jawaban yang keliru.

"LLM cenderung mengalami halusinasi. Algoritma ini biasanya menghasilkan halusinasi, berita palsu, dan informasi palsu. Siapa yang akan bertindak sebagai pemeriksa?" ujarnya.

"Jika kita langsung memperkenalkan ChatGPT, Copilot, Gemini kepada siswa sekolah dasar, itu akan menjadi bencana bagi mereka," tegas Dedy.

Ia juga menyoroti kekhawatiran bahwa penggunaan AI secara berlebihan dapat memengaruhi perkembangan kemampuan kognitif anak. Karena itu, pengenalan teknologi tersebut perlu disertai pendampingan dan perlindungan yang sesuai dengan usia siswa.

Di luar persoalan keamanan dan pendidikan, Dedy mengingatkan bahwa AI juga berpotensi memperlebar ketimpangan sosial, terutama apabila teknologi dikembangkan menggunakan data yang tidak mewakili seluruh kelompok masyarakat.

Ia mencontohkan kesenjangan partisipasi tenaga kerja perempuan dan laki-laki serta keterbatasan akses pekerjaan bagi penyandang disabilitas. Menurutnya, AI dapat membuka peluang baru, tetapi juga menciptakan hambatan tambahan jika tidak dirancang secara inklusif.

Dedy menegaskan pentingnya prinsip human-centered AI, yakni memastikan manusia tetap mengendalikan penggunaan teknologi dan keputusan yang dihasilkan.

"Siapa yang akan bertanggung jawab jika terjadi kesalahan? Manusialah yang bertanggung jawab," ujarnya.

Meski demikian, ia mengingatkan pemerintah agar tidak terburu-buru menerbitkan berbagai regulasi AI tanpa terlebih dahulu mengukur kesiapan dan kebutuhan setiap sektor.

"Jangan FOMO. Jangan FOMO dengan AI," katanya.

Menurut Dedy, perlindungan masyarakat harus berjalan seimbang dengan upaya mendorong inovasi dan investasi. Regulasi yang berlebihan justru berpotensi menghambat pengembangan teknologi.

[Gambas:Video CNBC]