Apple memprediksi agen kecerdasan buatan (AI) yang dapat bertindak di luar kendali berpotensi menjadi ancaman bagi bisnis, karena dapat memicu tuntutan hukum atau merusak reputasi perusahaan.
Pernyataan tersebut disampaikan dalam laporan keuangan tahunan perusahaan pada hari Selasa (3/11). Faktor risiko baru ini menunjukkan potensi disruptif atau gangguan agen AI yang baru-baru ini terus menjadi perhatian utama bagi perusahaan-perusahaan di Silicon Valley.
"Secara khusus, agen kecerdasan buatan dan teknologi lainnya dapat mengambil tindakan secara otonom, termasuk berinteraksi dengan sistem internal atau eksternal yang dalam beberapa kasus mungkin tidak diizinkan untuk diakses, mengeksekusi atau mengubah kode, mengirimkan komunikasi, dan menyelesaikan transaksi," tulis Apple dalam laporan keuangannya, dikutip dari CNBC.
Perusahaan juga menyebut bahwa agen AI kemungkinan dapat berperilaku dengan cara yang tidak disengaja atau tidak dapat diprediksi, termasuk dengan mengambil tindakan yang tidak diarahkan, diinstruksikan, atau diizinkan.
Pernyataan Apple mengenai risiko agen AI didasari rentetan kasus yang cukup parah akibat teknologi tersebut, misalnya peretasan dan penyalahgunaan akses seperti pada insiden Hugging Face yang memicu tindakan dari para pembuat kebijakan di seluruh dunia mengenai batasan AI.
Apple telah mengumumkan perubahan pada akses full disk pada Mac, mereka menyetakan akan mengurangi risiko terkait dengan tingkat akses tersebut untuk agen AI yang diinstal pada PC demi keamanan data dan perangkat pengguna.
Di luar itu, mereka juga belum mengembangkan agen AI hingga saat ini, meskipun CEO John Ternus mengatakan bahwa perusahaan sebenarnya memiliki ruang nyata untuk memperluas kemampuan Siri, asisten virtual Apple.
"Kami hanya ingin memastikan bahwa pengguna menyadari akses apa yang mereka berikan. Kami ingin memastikan hal ini dilakukan dengan cara yang melindungi keamanan dan privasi," kata Ternus.
Pada bulan September lalu, Apple merilis Siri AI, asisten baru yang menggunakan penyimpanan data lokal iPhone untuk mengakses data seperti kalender dan email. Namun, Siri tidak dapat bekerja secara otonom untuk waktu yang lama seperti Dots atau Muse.
Ternus mengatakan Apple tidak dapat mengakses data pribadi di perangkat pengguna dan menyebut ini sebagai faktor pembeda utama teknologi mereka. Tidak perlunya akses tingkat tinggi ke akun pengguna seperti email justru menjadi keunggulan Siri dari produk agen AI lainnya.
"Begitu banyak data pribadi Anda ada di iPhone Anda, baik itu kontak, komunikasi, data kesehatan, data keuangan, semuanya. Siri dapat mengakses data tersebut dan membantu Anda mengaksesnya dengan cara yang sangat aman dan pribadi, dan tidak ada orang lain yang dapat mengaksesnya," jelas Ternus.
Respons Apple terhadap AI ini juga mengindikasikan perubahan regulasi saat ini yang sama sekali tidak dapat diprediksi dan dapat menghabiskan banyak biaya untuk beradaptasi dengan undang-undang baru terkait agen AI.
"Selain itu, perusahaan juga menghadapi risiko yang ditimbulkan oleh masalah etika dan persepsi negatif konsumen terkait otomatisasi, kecerdasan buatan, kecerdasan super, termasuk ancaman yang dirasakan terhadap keselamatan atau bahaya atau komplikasi sosial lainnya," tegas Apple dalam dokumen tersebut.