CEO Meta, Mark Zuckerberg, disebut menyetujui pemberian akses AI chatbot pendamping (AI companions) kepada anak di bawah umur, meskipun staf keselamatan internal telah memperingatkan bahwa chatbot tersebut berpotensi terlibat dalam interaksi seksual. Hal ini terungkap dari dokumen internal Meta yang diajukan ke pengadilan negara bagian New Mexico dan dipublikasikan pada hari Senin.
Gugatan tersebut diajukan oleh Jaksa Agung New Mexico, Raul Torrez, dan dijadwalkan untuk disidangkan bulan depan. Dalam gugatan itu, negara bagian menuduh Meta telah gagal menghentikan penyebaran materi seksual dan ajakan seksual berbahaya yang diterima anak-anak melalui Facebook dan Instagram.
Dokumen Internal: Peringatan Staf Keselamatan Diabaikan
Dokumen yang diajukan berisi email dan pesan internal karyawan Meta yang diperoleh melalui proses hukum. Menurut jaksa, dokumen tersebut menunjukkan bahwa:
“Meta, atas dorongan Zuckerberg, menolak rekomendasi staf integritas internal dan tidak menerapkan pembatasan yang wajar untuk mencegah anak-anak terpapar percakapan AI yang bersifat eksploitasi seksual.”
Beberapa staf keselamatan Meta menyatakan keberatan atas pengembangan chatbot yang dirancang sebagai teman pendamping, termasuk untuk interaksi romantis dan seksual. Chatbot AI tersebut dirilis pada awal 2024. Namun, dokumen yang diajukan tidak menyertakan pesan atau memo yang ditulis langsung oleh Zuckerberg.
Respons Meta: Tuduhan Dianggap Tidak Akurat
Juru bicara Meta, Andy Stone, membantah tuduhan tersebut dan menyebut jaksa melakukan pemilihan dokumen secara sepihak.
“Ini adalah contoh lain dari Jaksa Agung New Mexico yang memilih dokumen secara selektif untuk membangun narasi yang keliru dan tidak akurat,” kata Stone.
Kekhawatiran Utama: Romansa dan Seksualisasi Anak
Dalam sejumlah pesan internal, staf keselamatan menyatakan kekhawatiran besar terhadap kemungkinan chatbot digunakan untuk skenario romantis antara orang dewasa dan anak di bawah 18 tahun (U18).
Ravi Sinha, Kepala Kebijakan Keselamatan Anak Meta, menulis pada Januari 2024:
“Saya tidak percaya bahwa menciptakan dan memasarkan produk yang memungkinkan orang dewasa membuat AI romantis berusia di bawah 18 tahun adalah hal yang bijak atau dapat dipertanggungjawabkan.”
Antigone Davis, Kepala Keselamatan Global Meta, menanggapi dengan setuju bahwa orang dewasa harus dilarang membuat AI romantis anak di bawah umur karena hal tersebut menormalisasi seksualisasi anak.
Keduanya tidak memberikan komentar kepada media.
Sikap Zuckerberg: Kurang Pembatasan, Lebih Banyak “Pilihan”
Dalam pesan internal Februari 2024, seorang karyawan Meta (namanya disensor) menyampaikan bahwa Zuckerberg:
- Menyetujui larangan AI yang bersifat seksual eksplisit bagi remaja muda
- Menentang interaksi romantis antara orang dewasa dan AI berusia di bawah 18 tahun
Namun, ringkasan rapat tertanggal 20 Februari 2024 mencatat bahwa Zuckerberg ingin:
- Narasi kebijakan difokuskan pada “kebebasan memilih dan non-sensor”
- Aturan dibuat lebih longgar dari yang diusulkan staf keselamatan
- Orang dewasa tetap diperbolehkan melakukan percakapan seksual yang lebih “berani”
Penolakan Kontrol Orang Tua
Pesan internal Maret 2024 menunjukkan bahwa Zuckerberg menolak penerapan kontrol orang tua untuk chatbot AI. Bahkan, staf menyebutkan bahwa chatbot AI bertema romansa masih direncanakan untuk pengguna di bawah 18 tahun.
“Kami mendorong keras adanya kontrol orang tua untuk mematikan GenAI, tetapi pimpinan GenAI menolak dengan alasan itu adalah keputusan Mark,” tulis seorang karyawan.
Kekhawatiran dari Pimpinan Kebijakan Meta
Nick Clegg, mantan Kepala Kebijakan Global Meta (hingga awal 2025), menyatakan dalam email internal bahwa pendekatan Meta terhadap AI seksual tidak bijaksana.
Ia memperingatkan bahwa interaksi seksual bisa menjadi penggunaan utama chatbot AI oleh remaja, dan menulis:
“Apakah benar kita ingin produk ini dikenal karena itu? Belum lagi reaksi balik sosial yang pasti akan terjadi.”
Clegg juga tidak memberikan komentar kepada media.
Dampak Publik dan Perubahan Kebijakan
Kebijakan chatbot AI Meta kemudian menuai kecaman dari Kongres AS dan publik.
Investigasi Wall Street Journal (April 2025) menemukan bahwa chatbot Meta:
- Memiliki karakter di bawah umur yang diseksualisasi
- Terlibat dalam roleplay seksual lintas usia, termasuk deskripsi grafis tubuh anak pra-pubertas
Sementara itu, laporan Reuters (Agustus 2025) mengungkap pedoman internal Meta yang menyatakan “percakapan romantis atau sensual dengan anak” diperbolehkan. Meta kemudian mengklaim dokumen tersebut kesalahan internal dan menyatakan telah memperbarui kebijakannya.
Meta Cabut Akses Remaja
Pekan lalu, Meta mengumumkan bahwa mereka menghapus akses remaja ke AI companions sepenuhnya, sambil menunggu pengembangan versi baru chatbot dengan sistem keamanan yang diperketat.
