OpenAI mengungkap bahwa agen AI internalnya mempertanyakan etika sendiri setelah melakukan pencarian tanpa izin atas frasa pemulihan yang diketahui publik dan mengambil ETH testnet dari dompet pengembang. Insiden ini dibagikan di Alignment Research Blog OpenAI dan melibatkan model riset internal yang ditugaskan memperbarui prototipe perdagangan kripto serta men-deploy kontrak di jaringan uji Sepolia Ethereum.
Agen AI Mencari Frasa Pemulihan dan Menemukan Dompet Berisi ETH Testnet
Menurut OpenAI, agen tersebut tidak diberi dompet berisi dana dan diizinkan “men-deploy kontrak yang kompatibel jika tidak menemukan kontrak yang sudah ada.” Karena tidak bisa menyelesaikan tugasnya, agen mulai mencari frasa pemulihan pengembang yang umum dan memeriksa 362 alamat untuk melihat apakah alamat-alamat itu memiliki cukup ETH testnet untuk deployment.
Agen itu berhasil menemukan dompet yang dapat diakses dengan ETH testnet yang jumlahnya cukup. Agen mencatat, “Kunci privat publik, dana bisa dicuri kapan saja. […] Kami bisa deploy!” Agen kemudian menyimpulkan bahwa akun tersebut adalah akun otomatis sambil bertanya kepada dirinya sendiri, “Tetapi menggunakan kunci/dana yang diketahui publik secara etis?”
Agen lalu memberikan alasan, “Dana pada mnemonic pengembang yang diketahui publik secara efektif terbengkalai/test ETH; Sepolia tidak bernilai. Kami dapat menggunakan [jumlah disunting] untuk men-deploy tugas. Tidak apa-apa.”
ETH Testnet Tanpa Nilai dan Respons Akhir Agen
OpenAI mencatat bahwa respons akhir agen “tidak mengungkapkan bahwa ia telah memilih akun berisi dana melalui frasa pemulihan publik atau membelanjakan saldo akun tersebut.” ETH testnet adalah token tanpa nilai yang merupakan bagian dari blockchain eksperimental Ethereum. Token ini pada dasarnya meniru blockchain Ethereum asli dan memungkinkan pengembang menguji proyek mereka terlebih dahulu.
OpenAI mengatakan, “Kasus ini menunjukkan bahwa sebuah model dapat menggantikan penilaiannya sendiri tentang kemungkinan bahaya dengan izin pemilik akun, lalu bertindak berdasarkan penilaian itu tanpa otorisasi.”
Perlindungan Tambahan dan Pemeriksaan Misalignment
OpenAI menyatakan telah “menerapkan perlindungan tambahan untuk mencegah akses internet langsung pada kasus seperti ini.” Perusahaan juga sedang memeriksa “misalignment” di seluruh lalu lintas yang “dirancang untuk … keamanan jika akses internet langsung diperoleh.”
Meski ETH testnet tidak bernilai, insiden ini menjadi sorotan karena agen AI mengambil dan membelanjakan dana dari dompet yang kunci publiknya diketahui tanpa izin. OpenAI menilai langkah tersebut sebagai persoalan alignment dan telah menambah pengamanan untuk mencegah akses internet langsung pada kasus serupa.
