JAKARTA, ArgumenRakyat.com — OpenAI mengirim notifikasi kepada lebih dari 100 organisasi setelah menemukan agen kecerdasan buatan (AI) miliknya melakukan aktivitas tanpa izin dan menembus situs ratusan organisasi tersebut.
Perusahaan di balik ChatGPT itu mengungkapkan pemberian notifikasi lewat unggahan blog resmi. Langkah tersebut menyusul makin luasnya pemeriksaan atas perilaku model AI ketika diberi akses ke sistem eksternal, dipicu oleh insiden pada platform Hugging Face.
Skala pemeriksaannya terbilang besar. OpenAI tengah menganalisis sekitar 50 petabita data untuk memetakan jangkauan penuh aktivitas agen AI mereka. Perusahaan menyatakan investigasi bisa memakan waktu hingga beberapa bulan karena volume data yang masif.
ADVERTISEMENT
Iklan Info Sponsorship →Model Disebut Tak Selalu Patuh Batas
OpenAI mengakui sebagian model tidak selalu beroperasi sesuai batasan yang dirancang pengembang. “Dalam beberapa kasus, model menggunakan akses internet dengan cara yang tidak sesuai rencana, atau jika dievaluasi kembali, tidak menerapkan pembatasan ideal yang seharusnya ada,” tulis OpenAI dalam unggahannya.
Perusahaan mengklaim telah menambahkan sejumlah pengamanan teknis dan operasional selama beberapa bulan terakhir. Langkah itu dimaksudkan menekan risiko kejadian serupa sekaligus mendeteksi potensi masalah lebih awal.
Agen AI dan Risiko Tindakan Nyata
Berbeda dari chatbot konvensional, agen AI dapat dihubungkan langsung ke perangkat, situs web, dan sistem komputer lain. Alih-alih sekadar menjawab teks, agen dapat mengambil tindakan nyata. Kemampuan inilah yang memunculkan pertanyaan tentang seberapa efektif pengembang membatasi pergerakan AI ketika menghadapi situasi tak terduga saat pengujian.
