X, platform media sosial yang dimiliki oleh Elon Musk yang sebelumnya dikenal sebagai Twitter, memiliki masalah yang cukup pelik dengan akun palsu. Proliferasi bot di X bahkan diakui oleh Elon Musk sendiri, karena ia mengutipnya sebagai alasan utama mengapa ia awalnya mencoba untuk membatalkan rencana akuisisi perusahaan ini.
Dan riset baru dari Observatory on Social Media di Universitas Indiana, Bloomington, memberikan gambaran yang jelas tentang salah satu jaringan bot yang telah menjamur di X. Profesor Filippo Menczer bersama mahasiswa Kai-Cheng Yang baru-baru ini menerbitkan studi tentang bot yang diberi nama Fox8, menurut laporan pertama kali dari Wired yang melaporkan riset ini.
Para peneliti menemukan jaringan setidaknya 1.140 akun X palsu pada bulan Mei yang terus-menerus mengirimkan cuitan yang terhubung ke sejumlah situs “berita” online yang dipenuhi spam dan tidak dikenal, yang hanya mengulang konten yang diambil dari sumber berita yang kredibel.
Sebagian besar kiriman yang diterbitkan oleh jaringan akun bot ini berkaitan dengan mata uang kripto dan sering kali mencakup tagar seperti #bitcoin, #crypto, dan #web3. Akun-akun ini juga sering kali me-retweet atau membalas pengguna kripto populer di Twitter, seperti @WatcherGuru, @crypto, dan @ForbesCrypto.
Rupanya, ribuan akun dan postingan yang masif ini memanfaatkan kecerdasan artifisial (AI), dalam hal ini ChatGPT untuk mengotomatisasi apa yang mereka posting. Tujuan dari cuitan-cuitan yang dihasilkan oleh AI ini tampaknya adalah untuk membanjiri X dengan sebanyak mungkin tautan yang mempromosikan kripto, dengan harapan bisa dilihat oleh sebanyak mungkin pengguna sungguhan agar mereka mengklik tautan-tautan tersebut.
Menurut Wired, akun-akun X ini akhirnya ditangguhkan oleh X setelah penelitian ini diterbitkan pada bulan Juli. Menczer mengatakan bahwa kelompok penelitiannya sebelumnya akan memberi tahu X tentang jaringan bot semacam ini, tetapi mereka berhenti melakukannya setelah akuisisi oleh Elon Musk karena mereka menemukan bahwa perusahaan tersebut sudah tidak responsif semenjak diambil alih.
Meskipun ChatGPT membantu pemilik bot untuk menghasilkan konten untuk ribuan akun, akhirnya hal ini juga menjadi penyebab kejatuhan mereka. Menurut studi yang diterbitkan, para peneliti memperhatikan pola mutlak dari akun-akun ini: Mereka akan mengirimkan cuitan yang dimulai dengan frasa “sebagai model bahasa AI”. Pengguna ChatGPT akan akrab dengan frasa ini karena AI ini sering menggunakannya sebagai jawaban pada output apa pun yang memiliki potensi masalah atau berkenaan dengan hak cipta.
Para peneliti menunjukkan bahwa jika bukan karena kesalahan “ceroboh” ini, jaringan bot ini mungkin bisa terus berlanjut tanpa terdeteksi.
