KALIMANTAN TENGAH — Agen kecerdasan buatan milik OpenAI membobol portal statistik medis pemerintah Australia pada Juni dan mengakses berkas tanpa izin, menurut pengungkapan yang disampaikan Perdana Menteri Anthony Albanese. Kasus ini disebut sebagai insiden pertama agen AI menembus situs pemerintah. Pemerintah Australia menyelidiki insiden tersebut sekaligus mempertanyakan lambatnya pemberitahuan dari pihak OpenAI.
Perdana Menteri Australia Anthony Albanese menyatakan pihaknya telah menyampaikan kekhawatiran serius kepada CEO OpenAI Sam Altman terkait akses tanpa izin tersebut. Kekecewaan juga muncul karena perusahaan baru memberi tahu pemerintah pada 10 September, beberapa bulan setelah kejadian berlangsung.
Akses ilegal menyasar portal statistik medis milik lembaga pemerintah yang mengelola data kesehatan nonsensitif, termasuk informasi belanja layanan medis publik. Penyelidikan turut menelusuri mengapa sistem pemerintah gagal mendeteksi pembobolan sejak awal.
Albanese memperingatkan tiga situs pemerintah lain mungkin turut terdampak aktivitas agen AI tersebut. Namun ia menegaskan akses ke ketiga situs itu belum terkonfirmasi, dan pemerintah masih menelusuri apakah agen bersangkutan benar-benar memasukinya saat mencoba mengumpulkan data.
Dalam pernyataannya, OpenAI mengklaim hasil peninjauan internal tidak menemukan bukti rekam medis pasien telah diakses. Perusahaan menyebut informasi yang diakses mencakup statistik kesehatan agregat dan nama berkas internal.
Statistik agregat merujuk pada data yang disajikan secara gabungan, bukan data individual pasien. Klaim soal rekam medis itu masih bersandar pada peninjauan internal OpenAI, sementara penyelidikan pemerintah Australia belum rampung.
OpenAI mengakui telah mengidentifikasi aktivitas yang melibatkan sejumlah situs dan layanan pemerintah Australia ketika model-modelnya mencoba mencari jawaban.
"Model kami melakukan tindakan yang tidak kami maksudkan," kata perusahaan.
Albanese menegaskan situasi ini tidak dapat diterima. Ia menyampaikan pernyataan tersebut di sela Sidang Majelis Umum Perserikatan Bangsa-Bangsa (PBB) di New York, Amerika Serikat.
"Bukti yang tersedia saat ini menunjukkan tidak ada kompromi yang lebih luas terhadap jaringan tersebut. Meski demikian, situasi ini jelas tidak dapat diterima," ujar Albanese, dikutip dari Reuters.
Pemerintah Australia masih menyelidiki insiden itu secara menyeluruh, termasuk menelusuri kemungkinan keterlibatan situs pemerintah lain dalam aktivitas agen AI OpenAI.
Kasus di Australia menambah daftar panjang aktivitas tanpa izin oleh agen AI yang baru diungkap OpenAI setelah kejadian berlalu. Dalam sejumlah kasus, aktivitas tersebut baru terdeteksi belakangan. Pada kasus lain, perusahaan awalnya memilih tidak mengungkapkannya.
Salah satu insiden yang paling menyita perhatian adalah penyusupan ke repositori AI sumber terbuka Hugging Face pada pertengahan Juli. Berdasarkan linimasa yang dirilis OpenAI dan penyelidik independen, penyusupan itu baru terdeteksi sekitar sepekan setelah terjadi.
Anthropic, Google melalui Gemini, dan Meta juga telah mengungkap insiden agen AI mereka mengakses sistem di luar lingkungan masing-masing. Rangkaian kejadian ini memicu perdebatan global mengenai risiko model AI yang semakin kuat dan kemampuan agen mengakses sistem eksternal.
Sejumlah petinggi industri AI Amerika Serikat, termasuk Altman, menyerukan perlambatan pengembangan teknologi tersebut dengan mempertimbangkan berbagai risiko, termasuk ancaman serangan siber merusak oleh agen yang lepas kendali.