VP Corporate Communications HashMicro Syifa Fadiah menekankan pentingnya pengawasan yang memadai terkait dengan pemanfaatan AI agents di dunia bisnis.
Dia mengatakan, kemampuan AI kini berkembang melampaui fungsi merangkum percakapan atau menjawab pertanyaan pelanggan.
Syifa menegaskan AI agents dapat mengambil informasi pelanggan dan produk, memeriksa ketersediaan stok, hingga memproses seluruh pesanan penjualan.
"Teknologi ini juga dapat mengambil informasi pelanggan dan produk, memeriksa ketersediaan stok, hingga memproses seluruh pesanan penjualan. Ini merupakan perubahan yang sangat mendasar," ujar Syifa seperti dikutip CNBC Indonesia pada akhir Oktober.
Menurutnya, tantangan perusahaan bukan sekadar membangun AI agents, tetapi memastikan teknologi tersebut mampu bekerja secara andal dan tepercaya dengan data bisnis perusahaan.
Syifa menilai, perusahaan perlu menetapkan peran, batas kewenangan, serta mekanisme pengamanan dan akuntabilitas. AI agents juga harus memiliki batasan dalam mengambil keputusan, termasuk mengetahui kapan harus meminta persetujuan atau campur tangan manusia.
"Perusahaan tentu tidak ingin AI agents melakukan sesuatu di luar ruang lingkup bisnisnya atau mengakses data yang sebenarnya tidak boleh dilihat. Oleh karena itu, perusahaan juga perlu menerapkan AI agents secara bertahap," katanya.