OpenAI dan Anthropic ternyata tidak sepenuhnya sepakat tentang seberapa besar risiko yang harus diterima masyarakat demi mendapatkan manfaat AI.
Dalam wawancara dengan POLITICO’s Decoded, CEO OpenAI Sam Altman mengatakan dunia perlu menerima bahwa “some bad things” akan terjadi sebagai konsekuensi dari manfaat AI dan akses publik yang luas. Ia menilai upaya menghilangkan seluruh risiko seperti penipuan dan peretasan justru dapat mengorbankan terlalu banyak manfaat teknologi.
Pernyataan tersebut muncul ketika perdebatan mengenai regulasi dan keselamatan AI semakin panas.
OpenAI vs Anthropic: Dua Cara Melihat Risiko AI
Altman mengakui masih terdapat perbedaan mendasar antara OpenAI dan Anthropic.
Anthropic selama ini dikenal lebih mendorong pembatasan dan regulasi terhadap AI frontier. CEO Anthropic, Dario Amodei, bahkan sebelumnya menyerukan agar pengembangan AI yang sangat maju dapat diperlambat apabila diperlukan untuk mengurangi risiko.
Namun menariknya, garis pemisah kedua perusahaan ternyata tidak sesederhana “OpenAI ingin AI bebas, Anthropic ingin AI dibatasi.”
Dalam beberapa bulan terakhir, OpenAI justru mendukung sejumlah langkah keselamatan yang lebih ketat.
Pada September, OpenAI mendorong regulasi keselamatan AI nasional yang bersifat wajib, termasuk pengujian, evaluasi independen, perlindungan siber, dan pelaporan insiden untuk sistem AI paling maju.
OpenAI juga secara resmi mendukung penggunaan third-party safety assessors untuk menguji klaim keselamatan perusahaan AI secara independen.
Jadi, persoalannya bukan apakah OpenAI mendukung keselamatan AI.
Perbedaannya lebih kepada seberapa jauh masyarakat dan pemerintah harus membatasi teknologi tersebut.
“Zero Risk” Bukan Tujuan OpenAI
Pandangan Altman sebenarnya berangkat dari sebuah trade-off.
AI bisa digunakan untuk menghasilkan manfaat besar—mulai dari penelitian ilmiah, kesehatan, pendidikan hingga produktivitas.
Tetapi teknologi yang sama juga dapat digunakan untuk penipuan, peretasan, manipulasi, dan bentuk penyalahgunaan lainnya.
Menurut Altman, mencoba memastikan tidak ada satu pun hal buruk yang terjadi akan membutuhkan pembatasan yang terlalu besar terhadap akses dan kebebasan penggunaan AI.
Namun ia tetap menarik garis merah pada risiko katastrofik, terutama skenario ketika manusia kehilangan kendali terhadap AI.
Dengan kata lain:
Tidak semua risiko harus dihilangkan, tetapi risiko tertentu dianggap terlalu berbahaya untuk diterima.
Ironinya: OpenAI Juga Meminta Pengawasan Lebih Ketat
Di sinilah perdebatan menjadi menarik.
Pada September, OpenAI mengatakan bahwa perkembangan AI yang dapat mempercepat pengembangan AI itu sendiri membutuhkan lebih dari sekadar komitmen sukarela. Perusahaan menyerukan aturan nasional yang mengikat dan berbasis kemampuan model.
OpenAI juga mendukung evaluasi independen dan mengatakan pihak luar harus memiliki akses yang cukup untuk menantang asumsi perusahaan, menemukan risiko yang mungkin terlewat, serta menilai apakah pengamanan benar-benar bekerja.
Artinya, “regulasi ringan” tidak berarti “tanpa pengawasan.”
Justru muncul model baru:
AI tetap berkembang → risiko diterima sampai batas tertentu → tetapi model paling canggih diperiksa lebih ketat.
Perdebatan Besarnya Bukan Lagi “AI Aman atau Tidak”
Perdebatan industri AI kini tampaknya bergeser.
Pertanyaannya bukan lagi:
“Apakah AI memiliki risiko?”
Hampir semua pihak mengakui bahwa jawabannya adalah iya.
Pertanyaan sebenarnya adalah:
“Risiko seperti apa yang masih bisa diterima masyarakat demi mendapatkan manfaat AI?”
Dan siapa yang berhak menentukan batas tersebut?
Perusahaan AI?
Pemerintah?
Auditor independen?
Atau masyarakat melalui proses demokratis?
Perkembangan terbaru menunjukkan pemerintah Amerika sendiri masih mencoba mencari jawabannya. Presiden Donald Trump baru-baru ini mendorong kesepakatan keselamatan AI sukarela bersama sejumlah perusahaan teknologi besar. Kesepakatan tersebut mencakup kontrol internal dan audit pihak ketiga, tetapi tidak menetapkan konsekuensi yang jelas apabila perusahaan tidak mematuhinya.
Sumber: https://www.politico.com/news/2026/10/04/sam-altman-decoded-interview-ai-01106217?email_hash=1993008dda617f43f8b05f83178bf47f&utm_source=Sailthru&utm_medium=email&utm_campaign=DailyTechInsider_10.06.26_ROI+AWS_86bbypb63_Logitech_86bcc4hx9_HP+Pageviews_86bc0k3m1&utm_term=daily-tech-insider-active
