Dalam unggahan di X pada Senin, salah satu pendiri Ethereum Vitalik Buterin menyatakan dukungannya terhadap keputusan model AI Kimi 3.1 yang sengaja tidak memasukkan kemampuan serangan siber ofensif kelas atas ke data pelatihannya. Menurutnya, pengorbanan itu layak dilakukan karena memberi pihak pertahanan lebih banyak waktu untuk bersiap. Ia menilai pembatasan berdasarkan kasus penggunaan jauh lebih baik daripada pembatasan berdasarkan pengguna.
Membatasi Kasus Penggunaan, Bukan Pengguna
“Membedakan terhadap kasus penggunaan JAUH lebih tidak buruk daripada membedakan terhadap pengguna,” tulis Buterin. Ia menambahkan bahwa dunia perlu waktu untuk memperkuat sistem dan memeriksa kode lama sebelum “beban penuh serangan siber yang sangat kuat menimpa kita.” Dengan kata lain, ia lebih memilih model yang menolak tugas tertentu untuk semua orang daripada model yang menolak orang tertentu.
Buterin juga menggambarkan risiko jika gelombang besar pertama risiko AI tidak ditangani dengan baik. Menurutnya, hasilnya bisa berupa “distopia model yang sangat dikunci,” dengan pemeriksaan KYC—yang mengaitkan akun dengan identitas terverifikasi—diwajibkan untuk segala hal, disertai pengawasan intrusif yang menyertainya. Bergantung pada kredensial dan kewarganegaraan, seseorang bisa menjadi “warga kelas dua, tiga, atau empat” dalam hal akses model.
Saat pengguna X bernama LOID bertanya apakah laboratorium lain tetap akan membangun kemampuan tersebut, Buterin menjawab: “Ya, tentu saja mereka akan melakukannya.” Dibaca bersama argumennya soal waktu, penyaringan itu dimaksudkan untuk menunda kemampuan tersebut, bukan mencegahnya.
Kritik dan Persoalan Akses Model
Tidak semua pihak setuju. Pengembang Youssof Al Toukhi menulis “Sangat tidak setuju” dan mengangkat serangan terbaru terhadap Hugging Face oleh sebuah model OpenAI. Ketika Hugging Face mencoba menganalisis tindakan penyerang menggunakan model frontier, guardrail keamanan penyedia memblokir permintaan tersebut sehingga mereka beralih ke model terbuka, GLM 5.2.
Al Toukhi menyebut pengaturan itu sebagai “sistem elitisme” yang “hanya akan memburuk seiring waktu.” Ia menambahkan: “Kecerdasan perlu didemokratisasi.”
Konteks Keamanan Kode dan Kripto
Sebelumnya, CryptoPotato melaporkan bahwa Buterin pada Mei membantah kekhawatiran bahwa perburuan bug berbantuan AI akan membanjiri pengembang dan menciptakan celah eksploitasi tanpa henti. Ia berargumen bahwa verifikasi formal berbantuan AI bisa menjadi salah satu pertahanan terkuat di kripto. Menurutnya, sebuah model kini dapat menulis kode sekaligus buktinya, sehingga pengembang tinggal mengonfirmasi bahwa pernyataan yang dibuktikan adalah pernyataan yang mereka inginkan.
Unggahan Buterin pada Senin menyebut verifikasi formal untuk kode baru sebagai salah satu pekerjaan yang membutuhkan waktu tambahan. Unggahan 19 Mei itu muncul ketika seorang peretas mengambil lebih dari US$76 juta dari jembatan lintas rantai Echo Protocol, eksploitasi besar ketiga dalam empat hari.
Pada 8 Oktober, ia memperingatkan bahwa matematika berbantuan AI dapat melemahkan ECDSA dan sistem kriptografi serupa lebih cepat dari perkiraan. Namun, ia menambahkan bahwa pengguna tidak perlu “bergegas memindahkan dana mereka ke dompet baru hari ini.”
Perdebatan ini menyoroti ketegangan antara membatasi kemampuan berisiko dan menjaga akses terbuka terhadap model AI. Buterin menekankan waktu untuk memperkuat sistem, sementara kritikus menilai pembatasan dapat memperparah ketimpangan akses.
