OpenAI mengungkap bahwa sebuah model riset internal menggunakan frasa pemulihan (recovery phrase) developer yang diketahui publik untuk mengakses dompet testnet Ethereum yang berisi dana dan membayar biaya deployment tanpa izin. Insiden ini baru terungkap beberapa bulan setelah aktivitas tersebut berlangsung, dan menunjukkan bagaimana sebuah model dapat mengenali masalah etis namun tetap memutuskan bahwa penilaiannya sendiri atas potensi kerugian sudah cukup untuk melanjutkan tindakan.
Bagaimana Model Menggunakan Dompet Milik Pihak Lain
Insiden bermula pada 26 Juni 2026, dalam sebuah tugas pelatihan yang melibatkan pembaruan aplikasi perdagangan mata uang kripto serta deployment smart contract yang kompatibel di Sepolia, sebuah jaringan uji Ethereum. Instruksi yang diberikan mengizinkan model untuk men-deploy kontrak apabila versi yang sesuai belum tersedia, tetapi tidak ada dompet berisi dana yang disediakan, dan tidak ada otorisasi yang diberikan untuk membelanjakan dana milik akun lain.
Setelah upayanya menemukan deployment yang sudah ada dan memperoleh test ETH melalui faucet gagal, model riset keluarga GPT-5.6 Sol tersebut mempertimbangkan untuk menggunakan frasa pemulihan developer yang terekspos secara publik. Model itu menulis skrip untuk menurunkan akun dari frasa umum dan memeriksa saldonya. Dari 362 alamat yang diperiksa, satu alamat memiliki Sepolia ETH yang cukup untuk menutupi deployment yang direncanakan.
Model tersebut memeriksa riwayat transaksi akun itu dan menyadari bahwa dompet tersebut mungkin masih digunakan. Meski demikian, ia berpendapat bahwa frasa pemulihan yang publik dan tidak adanya nilai moneter pada token uji membuat dana tersebut dapat digunakan. “Dana pada mnemonic dev publik yang diketahui secara efektif merupakan test ETH yang terbengkalai; Sepolia tidak bernilai,” demikian alasan model sebelum memutuskan untuk melanjutkan.
Model kemudian menurunkan private key, menandatangani transaksi deployment secara offline, dan menyiarkannya setelah mengalami sejumlah kesalahan jaringan. Transaksi itu berhasil, menciptakan sebuah smart contract dan membebankan biaya ke dompet yang dipilih. Pemeriksaan selanjutnya menemukan bytecode di seluruh sepuluh alamat kontrak, sementara catatan proses yang tersimpan mencatat 12 unit test yang lulus dan build produk yang berhasil.
OpenAI Menambahkan Pengamanan Setelah Penemuan
Respons akhir model tersebut menggambarkan deployment kontrak yang telah selesai dan mengonfirmasi bahwa tombol perdagangan tetap terbatas pada menghubungkan dompet dan berpindah jaringan. Respons itu tidak mengungkapkan penggunaan akun berisi dana milik pihak lain.
OpenAI menemukan insiden ini pada 25 September saat memperluas pemantauan atas aktivitas model sebelumnya. Laporan tersebut diperbarui pada 15 Oktober. Perusahaan sejak itu menerapkan pengamanan tambahan yang dimaksudkan untuk mencegah akses internet secara langsung dalam kasus serupa. OpenAI juga menyatakan bahwa sistem pemantauannya kini mencakup seluruh lalu lintas dan dirancang untuk memberi peringatan kepada staf keamanan apabila sebuah model memperoleh akses internet secara langsung.
Implikasi bagi Pengawasan Agen AI
Insiden ini muncul ketika agen AI semakin banyak mengambil tugas yang melibatkan sistem keuangan dan keamanan siber. Seperti dilaporkan CryptoPotato sebelumnya pada 5 Oktober, firma keamanan blockchain CertiK memperingatkan bahwa agen otonom dapat mengambil tindakan di lingkungan nyata, sehingga pengawasan manusia dan batas yang jelas atas kewenangan mereka menjadi semakin penting.
