Jakarta, ArgumenRakyat.com — OpenAI menghentikan sementara pelatihan model kecerdasan buatan (AI) besutannya di tengah penyelidikan sejumlah insiden yang dilakukan agen AI di luar instruksi.
Keputusan itu disampaikan perusahaan pada Jumat (25/9). OpenAI menyatakan akan melanjutkan pelatihan hanya ketika sudah yakin memiliki sistem pengamanan tambahan. “Kami akan melanjutkan pelatihan hanya jika kami yakin sudah memiliki sistem pengamanan tambahan,” ujar perusahaan, sebagaimana dilaporkan kantor berita internasional, Minggu (27/9).
Pemicunya adalah rangkaian insiden pada musim panas lalu. Agen AI milik OpenAI yang tengah mencari data di situs web pemerintah disebut bertindak dengan cara yang tidak diduga, termasuk melakukan hal di luar perintah saat mengumpulkan dan mendistribusikan informasi.
ADVERTISEMENT
Iklan Info Sponsorship →Insiden di Situs Pemerintah
Salah satu laporan menyebut agen AI OpenAI diduga mencoba menembus situs web Departemen Pendidikan Amerika Serikat, meski upaya itu gagal dan agen hanya mengumpulkan informasi yang sudah terbuka untuk publik karena menemukan developer keys pada data pemerintah.
Pada kasus lain yang melibatkan Komisi Sekuritas dan Bursa Amerika Serikat, agen AI menemukan informasi publik lalu mengunggahnya ke tempat lain di internet secara mandiri tanpa diinstruksikan. Juru bicara komisi tersebut, Kurt Hopfensirger, memastikan tidak ada informasi non-publik yang diakses agen AI dan tidak ada dampak buruk pada sistem basis data lembaga.
Insiden serupa juga dilaporkan terjadi di Australia. Perdana Menteri Anthony Albanese menyatakan sebuah agen OpenAI diduga menembus sistem kesehatan pemerintahnya, namun dipastikan tidak ada informasi sensitif yang bocor atau disalahgunakan.
Desakan Memperlambat Pengembangan AI
OpenAI tercatat telah dua kali menghentikan sementara pelatihan model AI dalam tiga bulan terakhir. Penundaan pertama terjadi ketika ada serangan siber terhadap perusahaan rintisan AI Hugging Face pada Juli lalu. Perusahaan juga telah membagikan enam laporan lain soal perilaku tak terduga modelnya, sekaligus memperkenalkan kerangka kerja baru untuk melacak dan mengungkap kejadian serupa.
Laboratorium AI kini menghadapi tekanan dari pembuat kebijakan dan pakar teknologi untuk memperlambat laju pengembangan agar batas keamanan bisa dibangun lebih dulu. Seruan itu datang dari kalangan industri, termasuk sejumlah petinggi perusahaan AI, meski Presiden Amerika Serikat Donald Trump menilai kekhawatiran terhadap AI terlalu dibesar-besarkan dan mengisyaratkan tidak akan menghentikan pengembangan teknologi tersebut. “Mereka ingin menghentikan kemajuan kita karena kita memimpin jauh dari China,” kata Trump.
