Abeba Birhane adalah salah satu tokoh paling berpengaruh dalam penelitian etika kecerdasan buatan (AI) dan keadilan algoritma di dunia. Sebagai ilmuwan kognitif kelahiran Ethiopia, Birhane telah memainkan peran krusial dalam mengungkap bias dan ketidakadilan dalam sistem AI, terutama melalui audit dataset besar-besaran yang digunakan untuk melatih model AI modern. Karyanya telah mendapat pengakuan internasional, termasuk masuk dalam daftar TIME 100 Most Influential People in AI pada tahun 2023.
Latar Belakang dan Pendidikan: Dari Psikologi ke Ilmu Kognitif
Perjalanan Akademis yang Interdisipliner
Abeba Birhane lahir di Ethiopia dan kemudian pindah ke Irlandia untuk melanjutkan pendidikan. Ia memperoleh gelar Bachelor of Science dalam Psikologi dan Bachelor of Arts dalam Filsafat dari The Open University. Pada tahun 2015, ia menyelesaikan gelar Master of Science dalam Cognitive Science, dan pada tahun 2021, meraih gelar Ph.D. di Complex Software Lab di School of Computer Science, University College Dublin.
Spesialisasi dalam Embodied Cognitive Science
Latar belakang Birhane dalam embodied dan enactive cognitive science membentuk perspektif uniknya terhadap AI. Pendekatan ini menekankan konteks sosial, budaya, dan historis dalam memahami kognisi, bertentangan dengan pendekatan tradisional yang hanya fokus pada aktivitas otak. Perspektif ini kemudian menjadi dasar kritiknya terhadap asumsi-asumsi dalam machine learning yang menganggap perilaku manusia dapat direduksi menjadi data yang dapat dimodelkan.
Karier dan Posisi Kunci dalam Ekosistem AI Global
Peran di Mozilla Foundation
Sejak Februari 2022, Birhane menjabat sebagai Senior Fellow in Trustworthy AI di Mozilla Foundation. Dalam posisi ini, ia memimpin berbagai inisiatif untuk memastikan akuntabilitas dalam pengembangan dan penerapan AI. Karyanya di Mozilla mencakup audit komprehensif terhadap dataset yang digunakan oleh model generatif besar, termasuk LAION-400M dan LAION-2B-en.
Kepemimpinan di AI Accountability Lab
Pada November 2024, Birhane mendirikan dan memimpin AI Accountability Lab (AIAL) di Trinity College Dublin. Lab ini didukung oleh hibah hampir €1,5 juta dari AI Collaborative, Luminate, dan MacArthur Foundation. AIAL berfokus pada isu-isu kritis seperti pemeriksaan ekologi teknologi yang tidak transparan dan pelaksanaan audit pada model dan dataset pelatihan tertentu.
Peran dalam Badan Penasihat AI PBB
Pada Oktober 2023, Birhane diangkat sebagai salah satu dari 38 ahli global dalam UN Secretary-General’s AI Advisory Body. Badan ini bertugas memberikan saran kepada PBB tentang tata kelola AI yang terkoordinasi secara global. Posisi ini memungkinkannya untuk mempengaruhi kebijakan AI di tingkat internasional dengan fokus pada kelompok-kelompok yang rentan.
Penelitian Revolusioner: Mengungkap Bias dalam Dataset AI
Temuan Mengejutkan tentang ImageNet dan 80 Million Tiny Images
Salah satu kontribusi paling signifikan Birhane adalah penelitiannya bersama Vinay Prabhu yang mengungkap bahwa dataset gambar besar-besaran yang umum digunakan untuk mengembangkan sistem AI, termasuk ImageNet dan 80 Million Tiny Images, mengandung label rasis dan misoginis serta gambar-gambar yang menyinggung. Temuan ini mengakibatkan MIT secara sukarela dan resmi menghapus dataset 80 Million Tiny Images.
Penelitian ini menemukan bahwa database MIT mengandung ribuan gambar yang diberi label dengan penghinaan rasis dan misoginis, termasuk 2.000 penggunaan kata N dan istilah seperti “bitch” dan “whore”. Birhane menekankan bahwa menghubungkan gambar dengan makian dan bahasa yang menyinggung akan menyuntikkan prasangka dan bias ke dalam model AI dan ML, melanggengkan stereotip dan prasangka yang merugikan.
Audit Komprehensif Dataset LAION
Dalam penelitiannya yang lebih baru, Birhane melakukan audit komparatif terhadap dataset LAION-400M dan LAION-2B-en. Penelitian ini mengungkap keberadaan konten yang penuh kebencian dalam dataset tersebut, yang berkontribusi pada model-model terkait yang menghasilkan bias sosial dan stereotip negatif. Studi ini menunjukkan bahwa scaling dataset dapat memperburuk masalah konten berbahaya dalam AI.
Kontribusi Teoretis: Etika Relasional dan Dekolonisasi AI
Mengembangkan Kerangka Etika Relasional
Birhane mengembangkan konsep “etika relasional” sebagai alternatif pendekatan etika AI yang berfokus pada teknologi. Pendekatan ini menekankan pentingnya memusatkan kelompok-kelompok rentan dalam diskusi etika AI, bukan hanya fokus pada solusi teknis. Penelitiannya tentang etika relasional memenangkan penghargaan best paper di workshop Black in AI NeurIPS pada tahun 2019.
Teori Kolonialisme Algoritma
Birhane telah mengembangkan teori tentang “kolonialisme algoritma” yang menjelaskan bagaimana monopoli teknologi Barat berbagi karakteristik dengan kolonialisme tradisional. Teorinya menunjukkan bahwa AI yang dikembangkan Barat tidak hanya tidak cocok untuk masalah Afrika, tetapi invasi algoritma Barat secara bersamaan memiskinkan pengembangan produk lokal sambil meninggalkan benua itu bergantung pada perangkat lunak dan infrastruktur Barat.
Dampak Terhadap Kebijakan dan Industri AI
Perubahan Praktik Perusahaan Teknologi
Penelitian Birhane telah memaksa perusahaan teknologi besar untuk mengubah praktik mereka. Setelah penelitiannya mengungkap bias dalam algoritma cropping Twitter, Apple, dan Google, perusahaan-perusahaan ini mulai mengevaluasi ulang sistem mereka. Auditnya terhadap tools cropping menemukan bahwa sistem-sistem ini secara konsisten lebih menyukai individu kulit putih dibandingkan kulit hitam, dan cenderung mengobjectifikasi perempuan.
Pengaruh pada Regulasi AI
Sebagai anggota UN AI Advisory Body, Birhane berperan dalam membentuk rekomendasi untuk tata kelola AI internasional. Fokusnya pada distribusi bahaya dan manfaat yang tidak merata dalam AI telah mempengaruhi diskusi global tentang regulasi AI. Ia menekankan bahwa narasi tentang AI sering kali terlalu menekankan potensi abstrak dan manfaat masa depan sambil mengabaikan bahaya konkret yang sudah terjadi.
Visi Masa Depan: AI yang Bertanggung Jawab dan Inklusif
Pendekatan Holistik terhadap Akuntabilitas AI
Birhane memiliki pandangan yang luas dan komprehensif tentang akuntabilitas AI. Pendekatan ini mencakup pemahaman yang lebih baik dan pengawasan kritis terhadap ekologi AI yang lebih luas, termasuk studi sistematis tentang kemungkinan penguasaan korporat, hingga evaluasi model AI, tools, dan dataset pelatihan yang spesifik.
Dekolonisasi AI dan Partisipasi Komunitas
Visi Birhane untuk masa depan AI melibatkan dekolonisasi praktik AI dan peningkatan partisipasi komunitas. Ia mengadvokasi pendekatan “participatory AI” yang mengakui bahwa komunitas dan publik di luar desainer teknis memiliki pengetahuan, keahlian, dan kepentingan yang penting untuk AI yang bertujuan memperkuat keadilan dan kemakmuran.
Publikasi dan Pengakuan Internasional
Karya Akademis Berpengaruh
Birhane telah menerbitkan artikel di jurnal-jurnal terkemuka dan publikasi media seperti The New York Times, The Wall Street Journal, CNN, TIME, Foreign Policy, dan BBC. Karyanya tentang “Algorithmic Injustices: Towards a Relational Ethics” telah menjadi referensi penting dalam diskusi etika AI. Ia juga aktif mempresentasikan penelitiannya di konferensi internasional dan memberikan testimoni di hadapan badan-badan pemerintah.
Penghargaan dan Pengakuan
Selain masuk dalam daftar TIME 100 Most Influential People in AI 2023, Birhane juga telah diakui oleh VentureBeat sebagai top innovator dalam computer vision. Pengakuan ini mencerminkan dampak signifikan penelitiannya terhadap industri AI dan masyarakat luas.
Tantangan dan Hambatan dalam Riset AI
Keterbatasan Akses Computational Resources
Birhane mengidentifikasi tantangan signifikan dalam melakukan audit dataset besar-besaran, termasuk biaya akses ke API gambar dan sumber daya komputasi yang substansial. Untuk mengunduh LAION 2B-en saja membutuhkan 6.2TB penyimpanan, dengan sumber daya tambahan yang diperlukan untuk menjalankan analisis. Ia mengadvokasi penciptaan ekologi yang mengalokasikan sumber daya komputasi untuk auditor independen.
Kritik terhadap Self-Audit
Birhane menekankan bahwa self-audit oleh perusahaan teknologi memiliki keterbatasan dalam hal validitas dan kredibilitas dibandingkan dengan audit yang dilakukan oleh auditor independen. Ia mendorong penciptaan koalisi yang lebih luas dari komunitas, badan regulasi, dan badan pendanaan untuk memfasilitasi audit independen.
Kesimpulan: Visioner Keadilan dalam Era AI
Abeba Birhane mewakili generasi baru peneliti AI yang tidak hanya fokus pada kemajuan teknologi, tetapi juga pada dampak sosial dan etika dari teknologi tersebut. Melalui penelitiannya yang groundbreaking, ia telah mengubah cara industri AI memandang akuntabilitas dan keadilan. Pendekatannya yang interdisipliner, menggabungkan ilmu kognitif, teori kritis, dan studi dekolonial, memberikan perspektif unik yang sangat dibutuhkan dalam diskusi global tentang AI.
Dengan posisinya di berbagai institusi internasional dan laboratorinya yang baru didirikan, Birhane terus memimpin upaya untuk memastikan bahwa AI dikembangkan dan diterapkan dengan cara yang adil, transparan, dan bertanggung jawab. Visinya tentang AI yang berpusat pada keadilan sosial dan partisipasi komunitas memberikan roadmap penting untuk masa depan teknologi yang lebih inklusif dan etis.
Sering merasa overwhelmed dengan berita AI yang terlalu banyak? I hear you. Subscribe ke Artifisial Newsletter dan dapatkan informasi teknologi AI terkini agar kamu tetap up-to-date tanpa buang waktu.
