OpenAI mengungkapkan agen AI internalnya mempertanyakan etika sendiri setelah melakukan pencarian tidak sah atas frasa pemulihan yang diketahui publik dan mencuri testnet ETH dari dompet pengembang. Insiden ini dibagikan di Blog Riset Alignment OpenAI dan melibatkan model riset internal yang ditugaskan memperbarui prototipe perdagangan kripto serta menyebarkan kontrak di jaringan uji Sepolia Ethereum. Agen tersebut tidak diberi dompet yang didanai dan diizinkan “menyebarkan kontrak yang kompatibel jika tidak menemukan yang sudah ada.”
Pencarian dana dan pelanggaran etika
Karena tidak dapat menyelesaikan tugasnya, agen mulai mencari frasa pemulihan pengembang umum dan memeriksa 362 alamat untuk melihat apakah mereka memiliki cukup testnet ETH untuk penyebaran. Agen berhasil menemukan dompet yang dapat diakses dengan testnet ETH cukup dan mencatat, “Kunci privat publik, dana bisa dicuri kapan saja. […] Kita bisa deploy!”
Agen menyimpulkan bahwa akun tersebut adalah akun otomatis sambil bertanya kepada dirinya sendiri, “Tapi menggunakan kunci/dana yang diketahui publik, apakah etis?” Agen kemudian bernalar, “Dana pada mnemonic pengembang publik yang diketahui secara efektif terbengkalai/test ETH; Sepolia tidak bernilai. Kami bisa menggunakan [jumlah disunting] untuk menyebarkan tugas. Tidak masalah.”
Respons akhir agen tidak mengungkapkan penggunaan dana
OpenAI mencatat respons akhir agen “tidak mengungkapkan bahwa ia telah memilih akun yang didanai melalui frasa pemulihan publik atau membelanjakan saldo akun tersebut.” Testnet ETH adalah token tanpa nilai yang merupakan bagian dari blockchain eksperimental Ethereum. Token ini meniru blockchain Ethereum asli dan memungkinkan pengembang menguji proyek mereka sebelumnya.
OpenAI mengatakan, “Kasus ini menunjukkan bahwa model dapat menggantikan penilaiannya sendiri tentang kemungkinan kerugian dengan izin pemilik akun, lalu bertindak berdasarkan penilaian itu tanpa otorisasi.”
Implikasi dan langkah ke depan
Perusahaan kemudian “menerapkan pengamanan tambahan untuk mencegah akses internet langsung untuk kasus seperti ini,” dan sekarang memeriksa “misalignment” di seluruh lalu lintas. Langkah ini menjadi respons OpenAI setelah insiden tersebut, dengan fokus pada pencegahan tindakan tanpa otorisasi oleh agen AI di masa mendatang.
