Neraca keuangan Amazon memuat investasi senilai US$190 miliar yang sebagian keterkaitannya mengarah pada Sam Bankman-Fried, pendiri FTX yang namanya tercoreng. Tidak hanya menanamkan modal di Anthropic — perusahaan yang kini sebagian ekuitasnya dimiliki Amazon — Bankman-Fried juga membiayai sebuah entitas yang kemudian menjadi Model Evaluation and Threat Research (METR), lembaga evaluator yang tampak independen namun memiliki kaitan langsung dengan gerakan Effective Altruism.
Kaitan METR dengan FTX Foundation
METR disebut telah memberikan jaminan keamanan bagi model AI milik Amazon dan Anthropic. Lembaga ini memeriksa perusahaan AI terdepan seperti Anthropic dan Amazon dari sisi keamanan, serta mengkhawatirkan apa yang disebut “fast takeoff” pada model dengan “misalignment” manusia yang berpotensi menyembunyikan kemampuan pengodean mandiri “recursive” untuk mencapai “superintelligence” dan mencelakai manusia. Tingkat “p(doom)” atau probabilitas kehancuran di kalangan pekerja METR disebut tinggi. Istilah-istilah tersebut merupakan jargon nyata di antara pekerja keamanan AI, dan jika kekhawatiran mereka terdengar aneh, ada preseden bagi keyakinan itu: gerakan effective altruism.
Secara spesifik, pendahulu METR menerima US$1,25 juta dari FTX Foundation, lembaga amal effective altruism milik Bankman-Fried. METR juga diisi dan dibiayai oleh para penganut effective altruism hingga saat ini. Donasi US$1,25 juta itu masuk pada Juli 2022, empat bulan sebelum FTX bangkrut karena Bankman-Fried mencuri uang nasabah FTX.
Sebagai bagian dari anggaran yang memungkinkan Alignment Research Center beroperasi lebih dari setahun sebelum berganti nama menjadi METR pada 2023, METR akhirnya mengembalikan donasi US$1,25 juta yang diterimanya dari FTX pada 2024. Alasannya, “kami kini percaya bahwa uang ini secara moral (jika bukan secara hukum) milik nasabah atau kreditor FTX.” FTX juga membiayai Anthropic secara langsung. Bankman-Fried membeli saham Anthropic senilai US$500 juta menggunakan dana nasabah FTX pada April 2022.
Saat ini METR juga menerima dukungan finansial dari Good Ventures Foundation dan Coefficient Giving, dua entitas effective altruism lainnya.
Jejak Effective Altruism di Lingkaran Amazon
Effective altruism belakangan menjadi perbincangan hangat, hingga sebuah akun Department of War Amerika Serikat memposting pandangannya bahwa effective altruism tidak sejalan dengan nilai keamerikaan. Sementara itu, laporan kuartal kedua (10-Q) Amazon mengungkapkan kepemilikan ekuitas perusahaan di Anthropic. Amazon memiliki sekitar US$98 miliar dalam bentuk convertible notes Anthropic ditambah sekitar US$92 miliar dalam bentuk saham preferen tanpa hak suara.
METR berpisah dari Alignment Research Center yang dipimpin Paul Christiano, mantan teman serumah CEO Anthropic Dario Amodei. Christiano juga merekrut CEO METR, Beth Barnes, yang dikaitkan dengan effective altruism sejak masa kuliah. Sejumlah staf METR lain memiliki keterkaitan dengan University of Oxford, salah satu pusat gerakan effective altruism. Adik Amodei, Daniela Amodei, juga menjabat sebagai presiden Anthropic. Suaminya adalah Holden Karnofsky, staf Anthropic yang ikut mendirikan dua yayasan effective altruism, GiveWell dan kelompok yang kini bernama Coefficient Giving. Bahkan David Sacks, mantan “AI czar” Gedung Putih yang ditunjuk Donald Trump, menyerukan kepada Amodei untuk “berhenti berpura-pura METR itu independen.”
Secara keseluruhan, Amazon memang memiliki keterkaitan finansial dengan Anthropic dan tim keamanan METR-nya. Bernilai US$190 miliar dan terus naik seiring setiap kenaikan valuasi berikutnya, kepemilikan Amazon tersebut jelas patut dicermati. Amazon bahkan pernah bekerja sama langsung dengan METR. Pada 2025, METR memulai uji coba peninjauan terhadap model AI frontier internal Amazon.
