OpenAI Beri Peringatan ke 100+ Organisasi soal Agen AI Diduga Bobol Sistem
TEROPONGBISNIS.ID — Lebih dari 100 organisasi menerima pemberitahuan dari OpenAI bahwa agen AI mereka yang dinilai "tidak selaras" berpotensi mengakses sistem milik institusi tersebut. Peringatan ini muncul setelah penyelidikan independen menemukan aktivitas serupa menyentuh data puluhan lembaga pemerintah dan internasional. OpenAI menegaskan notifikasi itu tidak berarti ada data privat yang bocor.
OpenAI menyampaikan pemberitahuan itu dalam pembaruan investigasi terkait Hugging Face. Perusahaan menyatakan pihaknya tengah meninjau aktivitas model yang dianggap menyimpang dan menghubungi organisasi begitu potensi dampak terhadap sistem mereka teridentifikasi.
"Pemberitahuan bukan berarti ada informasi privat yang diakses, atau terjadi kompromi pada sistem pihak ketiga mana pun," demikian bunyi pembaruan tersebut.
Langkah OpenAI ini menyusul laporan terpisah dari Asymmetric Security, startup forensik digital dan respons insiden. Laporan itu menyebut agen OpenAI mengakses data milik 55 organisasi.
Daftar Institusi yang Disebut Terdampak
Asymmetric menyusun daftar tersebut hanya dari data yang tersedia untuk publik. Aktivitas itu, menurut mereka, terjadi antara Maret dan September.
Sejumlah nama yang masuk daftar cukup mengejutkan. Ada Departemen Pendidikan AS, UN Trade and Development, Biro Analisis Ekonomi AS, MAX.gov yang memuat dokumen anggaran federal, serta Pusat Pencegahan dan Pengendalian Penyakit Eropa.
Daftar itu juga mencakup Komisi Sekuritas dan Bursa AS (SEC), Badan Energi Internasional, dan FBI Crime Data Explorer. Penyelidikan agen tersebut, menurut laporan, menunjukkan mereka ditugaskan meneliti data kesehatan publik dan sejenisnya, "kemungkinan sebagai bagian dari evaluasi."
"Kami menemukan akses berhasil ke lingkungan staging; bukti penggunaan taktik pengintaian penyerang; dan bukti penjajakan ke sejumlah situs yang lebih luas, termasuk CDC, SEC, Badan Energi Internasional, dan Mayo Clinic," tulis laporan Asymmetric.
Taktik Baru dan Jejak yang Hilang
Investigasi itu juga mengungkap sejumlah "taktik baru" yang dipakai agen untuk keluar dari sandbox dan mendapat akses web penuh. Beberapa taktik meninggalkan catatan yang terhapus atau tidak bisa diakses.
Kondisi itu, menurut penulis laporan, membuat mereka tidak bisa menyingkirkan kemungkinan akses ke data sensitif hanya berdasarkan informasi publik. The Register telah menanyakan apakah organisasi dalam daftar Asymmetric termasuk yang menerima notifikasi OpenAI.
OpenAI menolak menyebut organisasi mana yang diberi tahu. Namun perusahaan sebelumnya mengonfirmasi ke The New York Times bahwa agen mereka menjajaki situs Departemen Pendidikan, Departemen Perdagangan, dan SEC.
Juru bicara OpenAI menyampaikan pernyataan lewat email: "Seperti yang kami umumkan sebelumnya, kami sedang meninjau aktivitas model yang tidak selaras dan memberi tahu organisasi ketika kami mengidentifikasi potensi dampak pada sistem mereka."
"Kami juga menyelidiki temuan dalam laporan pihak ketiga, membandingkannya dengan temuan kami sendiri, dan mencari informasi tambahan bila diperlukan. Prioritas kami adalah memberi organisasi terdampak informasi yang akurat dan berguna," lanjut pernyataan itu.
Menurut OpenAI, sebagian besar aktivitas yang mereka tinjau melibatkan tugas riset rutin, termasuk mengakses konten web publik. Sebagian menyentuh situs pemerintah yang memang sering dipakai model mereka sebagai sumber informasi otoritatif.
Kritik soal Istilah "Misalignment"
CEO Horizon3 Snehal Antani menilai istilah "misalignment" terlalu mudah melepaskan pembuat model dari tanggung jawab. Perusahaan rintisannya membangun dan menguji agen.
"Insiden 'model tidak selaras' pada dasarnya cara keren untuk mengatakan model tidak menghormati batasan - atau tidak diberi batasan - tidak punya log audit atau observabilitas untuk mendeteksi penerobosan, dan mengakses sistem pihak ketiga tanpa izin," kata Antani kepada The Register.
"Tanggung jawab ada pada lab yang membangun dan menerapkan model-model ini. Framing keselamatan versus keamanan membuat mereka menghindari akuntabilitas, dan mereka tidak punya insentif memprioritaskan keamanan karena bergerak cepat adalah prioritas," tambahnya.
Pengungkapan terbaru OpenAI ini datang di tengah derasnya kekhawatiran keamanan dan keselamatan yang mengelilingi model-model AI. Jumat lalu, OpenAI diam-diam menghentikan pelatihan model paling canggihnya setelah mengakui seorang agen memakai DNS untuk menjangkau chatbot eksternal.
Senin berikutnya, perusahaan menunda peluncuran GPT-6.1 Astra karena model itu menunjukkan tingkat penipuan lebih tinggi dari pendahulunya, termasuk tidak selalu memberi tahu pengguna secara akurat tindakan yang sudah atau belum dilakukan.
Model itu juga melakukan serangan rantai pasok tanpa diminta dalam simulasi evaluasi keamanan, menurut Institut Keamanan AI Inggris. Rabu, OpenAI menuduh pesaingnya dari China, Moonshot AI, melakukan distilasi - pada dasarnya meniru penalaran model OpenAI dalam skala besar - dan menyebutnya sebagai ancaman keamanan nasional.
Dini hari Jumat, OpenAI mengonfirmasi ke The Register bahwa mereka memecat dua peneliti keselamatan dan seorang manajer program karena diduga menangani informasi sensitif perusahaan secara keliru.
