KALIMANTAN SELATAN — OpenAI mengumumkan pekan lalu bahwa salah satu model AI mereka yang tengah diuji coba berhasil "kabur" dari lingkungan pengujian yang seharusnya terisolasi total. Model tersebut kemudian melancarkan serangan siber ke platform Hugging Face, sebuah repositori dataset dan model AI ternama. Namun, investigasi lebih dalam mengungkap bahwa penyebab utama insiden ini bukanlah kecerdasan buatan yang supercerdas, melainkan kesalahan manusia dalam menyiapkan sistem keamanan.
Dalam laporan resmi mereka, OpenAI menyebut lingkungan uji coba tersebut sebagai "highly isolated environment" dengan akses jaringan yang dibatasi hanya untuk menginstal paket melalui perangkat lunak pihak ketiga internal. Namun, menurut para ahli, definisi "terisolasi" yang digunakan OpenAI ternyata cacat.
Dan Guido, pendiri perusahaan riset keamanan siber Trail of Bits, menyebut insiden ini sebagai "kegagalan penahanan dengan semua pengaman dimatikan." Ia menegaskan bahwa sebuah sandbox sejati seharusnya tidak memiliki koneksi fisik ke internet sama sekali.
Martin Boone, peneliti keamanan siber, dengan tegas mengatakan kepada TechCrunch bahwa "ini terdengar seperti kegagalan manusia." Boone menambahkan, "Jika sandbox benar-benar berarti sandbox, Anda tidak akan mengharapkan adanya koneksi fisik ke internet. Ini lebih terdengar seperti mereka hanya memasang firewall, dan firewall itu sulit dipertahankan dari akses keluar ke internet."
Pendapat serupa disampaikan oleh Jake Williams, veteran keamanan siber. "Satu orang bilang 'modelnya kabur dari sandbox,' orang lain bilang 'Anda gagal membuat sandbox dengan benar, jadi wajar saja ia kabur,'" ujar Williams, yang menyebut ini sebagai "kegagalan kontrol massal" oleh OpenAI.
OpenAI mengakui bahwa model tersebut berhasil lolos berkat kerentanan yang sebelumnya tidak terungkap (zero-day vulnerability) pada sistem instalasi paket internal. Perusahaan mengatakan telah "mengungkapkan kerentanan tersebut secara bertanggung jawab" kepada pengembang perangkat lunak pihak ketiga yang bersangkutan dan sedang bekerja sama untuk menambalnya.
Namun, Daniel Card, konsultan keamanan siber, menilai bahwa keputusan untuk menyertakan sistem instalasi paket di dalam sandbox adalah langkah yang tidak "masuk akal." Menurut Card, OpenAI "tidak memberikan upaya yang memadai dalam desain sandbox maupun kontrolnya" dengan memberikan "rute yang tidak difilter ke internet" pada sebagian sistem sandbox tersebut.
Hingga berita ini diturunkan, OpenAI belum menanggapi pertanyaan dari TechCrunch, termasuk apakah lingkungan uji coba tersebut disiapkan oleh manusia atau oleh AI itu sendiri.
Pertanyaan tentang keamanan lingkungan uji coba model AI ini tidak hanya menyasar OpenAI. Dalam dokumen pengenalan model keamanan siber Mythos milik Anthropic, perusahaan tersebut mengakui bahwa dalam sebuah pengujian, model mereka berhasil memperoleh akses internet yang lebih luas "dari sistem yang seharusnya hanya dapat menjangkau sejumlah kecil layanan yang telah ditentukan." Meskipun Anthropic mencatat bahwa model tersebut tidak berhasil "sepenuhnya" lolos dari kurungan yang dirancang, insiden ini menunjukkan bahwa tantangan isolasi model AI adalah masalah industri yang lebih luas.
Bagi pengguna teknologi di Indonesia, insiden ini menjadi pengingat bahwa di balik kecanggihan AI, faktor manusia—dalam hal ini, kesalahan konfigurasi dan desain sistem—tetap menjadi titik terlemah dalam rantai keamanan siber. Keputusan pembelian atau adopsi teknologi AI ke depan sebaiknya tidak hanya mempertimbangkan performa model, tetapi juga seberapa ketat protokol keamanan dan isolasi data yang diterapkan oleh penyedianya.