JAKARTA, ArgumenRakyat.com — CEO Microsoft Satya Nadella menilai kecerdasan buatan (AI) yang makin canggih harus disertai mekanisme pembatasan dan rem darurat agar perilakunya tetap bisa dikendalikan manusia.
Pandangan itu ia sampaikan melalui cuitan di akun X pribadinya pada Sabtu (10/10/2026). Menurut Nadella, kemampuan model AI yang terus meningkat perlu diimbangi desain sistem yang kuat, kendali independen, dan prosedur operasional yang andal.
Rem Darurat dan Standar Industri
Nadella menyebut fitur penghentian darurat memungkinkan pihak berwenang menghentikan sementara atau mematikan model AI ketika tengah menjalankan tugas. Ia juga mendorong penetapan standar industri jika aturan yang berlaku dinilai belum memadai.
ADVERTISEMENT
Iklan Info Sponsorship →“Kita perlu melengkapi model yang perilakunya tidak selalu dapat diprediksi dengan desain sistem yang kuat dan terstruktur, kendali manusia, serta prosedur operasional yang dapat diandalkan. Kita juga perlu menetapkan standar industri, jika standar yang ada saat ini belum memadai,” ujar Nadella.
Ia menambahkan, memperlakukan model AI tercanggih, baik yang bersifat tertutup maupun yang bobot modelnya terbuka, seperti potensi ancaman dari orang dalam merupakan salah satu cara membangun sistem pengaman tersebut.
Prinsip Keterpantauan
Nadella menekankan sistem AI harus dirancang berdasarkan prinsip keterpantauan, yakni kemampuan memantau dan memahami tindakan serta proses yang dijalankan sistem. Prinsip itu mencakup penggunaan beragam model, pencatatan aktivitas model yang bisa dibaca manusia, pengujian berkelanjutan, kendali independen, kemampuan diaudit, mekanisme pembatasan, hingga pelaporan insiden.
“Sistem superintelligence yang paling terpercaya bukanlah sistem yang menggunakan model yang paling kita percayai. Melainkan sistem yang memungkinkan kita untuk sesedikit mungkin memercayai model tersebut,” kata Nadella.
Pernyataan bos Microsoft itu menambah panjang diskusi publik soal tata kelola AI menjelang gelombang peluncuran model baru dari sejumlah perusahaan teknologi global. Isu pengawasan, audit, dan keselamatan sistem menjadi sorotan seiring AI makin banyak dipakai di layanan publik maupun bisnis.
