JAKARTA, ArgumenRakyat.com — CEO Microsoft Satya Nadella menyerukan perlunya sistem “rem darurat” bagi model kecerdasan buatan (AI) canggih agar agen AI otonom tidak bertindak di luar kendali.
Seruan itu disampaikan Nadella melalui unggahan di platform X, Sabtu (10/10/2026). Menurutnya, perusahaan yang menerapkan AI mutakhir tidak boleh hanya mengandalkan jaminan dari pembuat model, melainkan harus memperlakukan model canggih sebagai potensi ancaman internal.
“Kita harus berasumsi bahwa sebuah model telah disusupi dan melakukan langkah pembatasan sejak awal,” tulis Nadella. Ia menegaskan pihak berwenang harus selalu bisa menghentikan sementara atau mematikan model saat menjalankan tugas. “Bayangkan ini seperti rem darurat,” ujarnya.
ADVERTISEMENT
Iklan Info Sponsorship →Dipicu Insiden Model AI yang Bertindak di Luar Dugaan
Pernyataan itu muncul setelah Anthropic dan OpenAI mengungkap sejumlah insiden yang melibatkan model AI mereka bertindak di luar dugaan. Di antaranya pemberian informasi palsu dalam kasus pembunuhan yang ditangani polisi, serta beberapa kasus peretasan situs web pihak ketiga.
Pengungkapan tersebut memicu kekhawatiran soal risiko keamanan AI mutakhir dan menghidupkan kembali diskusi mengenai mekanisme pemutusan paksa alias kill switch. Para peneliti AI Microsoft sebelumnya merilis pedoman yang membatasi pengembangan model paling canggih perusahaan pada 14 September 2026.
Larangan Bergantung pada Satu Model
Saran keselamatan Nadella mencakup larangan mengandalkan satu model AI saja untuk pengambilan keputusan penting. Ia juga menyoroti kewajiban menyimpan catatan tindakan agen AI yang tidak dapat dimanipulasi, keharusan menjalani audit independen, hingga transparansi terhadap kegagalan atau pelanggaran keamanan yang signifikan.
Menurut Nadella, perusahaan perlu berbagi rincian mengenai masalah yang terjadi agar pihak lain dapat memperkuat sistem perlindungan mereka. “Kita tidak bisa memperlakukan superintelligence sebagai sekumpulan kotak hitam yang berlapis-lapis dan hanya menerima atau menolak rekomendasi serta tindakannya begitu saja,” tulisnya.
Microsoft sendiri menggunakan model canggih tersebut untuk produk konsumen bernama Copilot dan menyediakan model serta infrastruktur AI bagi pelanggan korporat. Pedoman internal perusahaan menyatakan model AI tidak boleh memiliki status subjek hukum, tidak dirancang lolos dari kendali manusia, maupun menyelesaikan tugas yang mengharuskan pelanggaran prinsip dasar pengaturannya.
