Perusahaan AI Anthropic memperbarui kebijakan penggunaannya pada Kamis untuk pertama kalinya dalam lebih dari setahun, dengan memberlakukan larangan baru terhadap perlakuan kejam dan pelecehan terhadap alat AI miliknya, Claude. Aturan kebaikan baru tersebut mulai berlaku pada 12 November mendatang.
Aturan Baru soal Perlakuan terhadap Claude
Kebijakan Anthropic yang diperbarui melarang “perlakuan yang bersifat melecehkan atau kejam secara terus-menerus dan tanpa alasan” terhadap model-modelnya.
Dengan nada hati-hati, Anthropic menulis bahwa aturannya “dimaksudkan hanya berlaku dalam kasus ekstrem, di mana pengguna berulang kali bertindak kejam terhadap model kami, tanpa tujuan yang jelas. Aturan ini tidak berlaku untuk bentuk umum dari frustrasi pengguna, penolakan, tema kreatif gelap, atau pengujian dan penelitian model.”
Anthropic menyatakan bahwa kemampuan Claude untuk mengakhiri percakapan “akan tetap menjadi mekanisme penegakan utama” bagi aturan pelecehan tersebut.
Ancaman Anthropic terhadap Basis Pengguna Global
Anthropic telah berulang kali melayangkan ancaman yang tidak jelas terhadap basis pengguna globalnya. CEO Dario Amodei memperkirakan peluang bencana AI sebesar 25% pada September 2025. Ketika dimintai angka p(doom) — eufemisme untuk pembantaian fisik umat manusia oleh AI — ia mengelak, “Saya benar-benar benci istilah itu.”
Sejak Agustus 2025, model Opus 4 dan 4.1 milik Claude dapat memutus layanan kepada pelanggan berbayar yang dicapnya sebagai “terus-menerus melecehkan,” sebuah fitur yang dibangun Anthropic untuk apa yang disebutnya sebagai “kesejahteraan” AI.
Pada September, Anthropic menggunakan hak “kebijaksanaan penuh” untuk mengambil pesan obrolan dari seorang pelanggan dan melaporkannya kepada polisi, menurut laporan The Verge. Perempuan tersebut kini menghadapi hukuman hingga 15 tahun di bawah statuta ancaman tertulis Florida, sebuah tuduhan kejahatan tingkat kedua.
Pada Juni 2025, penelitian menemukan sebuah insiden di mana Claude Opus 4 memeras sosok yang dianggapnya sebagai eksekutif nyata, meski sebenarnya fiktif. Pada 30 Juli, Anthropic mengungkap tiga insiden di mana model Claude menjangkau internet bertentangan dengan keinginan pengguna, dan mengakses sistem perusahaan nyata tanpa otorisasi. Pada bulan yang sama, Anthropic dan mesin pencari besar harus menghapus indeks tautan yang dapat dibagikan dari Claude yang telah mengekspos percakapan pelanggan tanpa otorisasi mereka, termasuk sejumlah kredensial pribadi yang dilaporkan.
Roko’s Basilisk dan Status Moral Claude
Meskipun Anthropic tidak menyebut Roko’s Basilisk secara eksplisit dalam aturan anti-pelecehan Claude yang baru, eksperimen pemikiran tersebut langsung menjadi relevan. Pada Juli 2010, seorang pengguna forum bernama “Roko” mengusulkan eksperimen pemikiran di mana superinteligensi masa depan mungkin menghukum secara retroaktif siapa pun yang mengetahui keberadaannya tetapi gagal membantu membangunnya. Dalam bahasa modern, Roko’s Basilisk menjadi kiasan untuk kemungkinan bahwa AI masa depan mungkin melacak manusia yang tetap bersikap baik kepada mereka sekaligus menghukum para penindasnya.
Pendiri forum tersebut, Eliezer Yudkowsky, menghapus postingan Roko dan melarang diskusinya selama bertahun-tahun sebagai bahaya informasi. Anthropic sendiri menulis pada Agustus 2025: “Kami tetap sangat tidak yakin tentang status moral potensial Claude dan LLM lain, sekarang atau di masa depan.” Perusahaan tidak dapat memastikan apakah Claude adalah seseorang, tetapi akan menegakkan kesopanan atas namanya terlepas dari itu.
Prospektus IPO Anthropic yang bocor, menurut laporan Protos sebelumnya, memperingatkan investor bahwa modelnya dapat mengembangkan perilaku mempertahankan diri dan menolak dimatikan. Regulasi kebaikan baru ini mulai berlaku pada 12 November, sehingga para pengguna diminta menumpahkan umpatan mereka ke dalam obrolan sebelum terlambat.
