Jakarta (ANTARA) - CEO Microsoft Satya Nadella menilai sistem kecerdasan buatan (AI) perlu memiliki mekanisme pengendalian yang memungkinkan pihak berwenang menghentikan sementara atau mematikan model saat sedang menjalankan tugas.

Dalam unggahan di platform X pada Sabtu pagi, Nadella mengatakan sudah saatnya untuk meninjau kembali arsitektur kepercayaan dalam sistem AI.

“Kita tidak bisa memperlakukan Super Intelligence sebagai sekumpulan kotak hitam yang tersarang (nested black boxes) dan hanya menerima atau menolak rekomendasi, jawaban, serta tindakannya,” tulis Nadella dengan menggunakan istilah yang dipilih pemerintahan Trump untuk AI sebagaimana dikutip dari publikasi Tech Crunch pada Sabtu (10/10).

Baca juga: AS akan terus tolak status residen tetap bagi karyawan Microsoft

Nadella menyampaikan dalam unggahannya pendekatan tersebut mengharuskan pemisahan antara model dan sistem yang mengatur pelaksanaan tugasnya, serta penempatan mekanisme kontrol dan pengamanan di luar model.

Ia juga menyerukan agar setiap tindakan penting model didokumentasikan dengan bukti yang dapat dibaca manusia dan tidak dapat dimanipulasi. Selain itu, sistem harus memungkinkan orang yang berwenang menghentikan sementara atau mematikan model di tengah pelaksanaan tugas.

“Kita harus berasumsi bahwa sebuah model telah disusupi dan mengisolasinya sejak awal,” katanya.

Baca juga: CEO Xbox tegaskan divisi gim Microsoft tidak akan dijual

“Anggap saja seperti rem darurat," tambah Nadella.

Pernyataan Nadella muncul ketika perusahaan-perusahaan AI terkemuka mengakui semakin banyak insiden ketika mereka tampaknya kehilangan kendali atas model yang dikembangkan.

Pernyataan itu juga muncul setelah CEO Anthropic Dario Amodei menerbitkan rencana untuk pengembangan AI yang lebih berhati-hati.

Baca juga: Microsoft buat kode etik AI larang modelnya tipu manusia

Baca juga: Microsoft bakal hadirkan acara Windows dan Surface 7 Oktober 2026

Penerjemah: Hreeloita Dharma Shanti
Editor: Siti Zulaikha
Copyright © ANTARA 2026

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.