Margaret Mitchell adalah salah satu tokoh paling berpengaruh dalam bidang etika kecerdasan buatan (AI) dan keadilan algoritma di dunia. Sebagai peneliti komputer yang berfokus pada bias algoritma dan fairness dalam machine learning, Mitchell telah mendedikasikan kariernya untuk memastikan teknologi AI dikembangkan dengan mempertimbangkan kemanusiaan, transparansi, dan keadilan. Saat ini ia menjabat sebagai Chief Ethics Scientist di Hugging Face, setelah sebelumnya menjadi pendiri dan co-leader tim Ethical AI di Google.
Latar Belakang dan Pendidikan
Margaret Mitchell menempuh pendidikan sarjana dalam bidang Linguistics di Reed College, Portland, Oregon, dan lulus pada tahun 2005. Setelah bekerja sebagai research assistant di OGI School of Science and Engineering selama dua tahun, ia melanjutkan pendidikan dengan meraih gelar Master in Computational Linguistics dari University of Washington pada tahun 2009.
Mitchell kemudian melanjutkan program PhD di University of Aberdeen, di mana ia menulis disertasi doctoral tentang “Generating Reference to Visible Objects” dan lulus pada tahun 2013. Perjalanan pendidikannya yang menggabungkan linguistik, computational linguistics, dan computer science memberikan fondasi yang kuat untuk penelitiannya di bidang AI yang berfokus pada interaksi manusia-komputer.
Perjalanan Karier: Dari Akademis hingga Industri
Johns Hopkins University dan Microsoft Research
Setelah menyelesaikan PhD, Mitchell bergabung dengan Human Language Technology Center of Excellence di Johns Hopkins University sebagai postdoctoral researcher pada tahun 2012. Di sini ia melakukan penelitian statistik yang mendalam sebelum bergabung dengan Microsoft Research pada tahun 2013.
Di Microsoft Research, Mitchell menjadi research lead untuk proyek Seeing AI, sebuah aplikasi yang memberikan dukungan untuk tunanetra dengan mendeskripsikan teks dan gambar. Proyek Seeing AI yang ia pimpin meraih penghargaan bergengsi Helen Keller Award pada tahun 2017. Aplikasi ini menggunakan teknologi vision-to-language generation untuk membantu pengguna tunanetra menavigasi dunia dengan lebih mudah.
Era Google: Mendirikan Tim Ethical AI
Pada November 2016, Mitchell bergabung dengan Google Research and Machine Intelligence sebagai Senior Research Scientist. Di Google, ia mendirikan dan memimpin bersama tim Ethical Artificial Intelligence bersama Timnit Gebru. Tim ini berfokus pada penelitian foundational AI ethics dan operasionalisasi etika AI di dalam Google.
Pada Mei 2018, Mitchell terpilih untuk mewakili Google dalam Partnership on AI, sebuah inisiatif industri yang berfokus pada Fair, Transparent, dan Accountable AI. Posisi ini mencerminkan pengakuan terhadap keahliannya dalam bidang etika AI dan komitmennya terhadap pengembangan AI yang bertanggung jawab.
Kontroversi dan Pemecatan dari Google
Pada Februari 2021, Mitchell dipecat dari Google setelah perusahaan mengklaim ia melanggar kode etik perusahaan. Investigasi Google menemukan bahwa Mitchell telah memindahkan file di luar perusahaan. Pemecatan ini terjadi setelah selama lima minggu ia dikunci keluar dari sistem Google, termasuk email dan kalendernya.
Pemecatan Mitchell terjadi dalam konteks yang lebih luas setelah keberangkatan Timnit Gebru, rekan co-leader tim Ethical AI, pada Desember 2020. Kedua peneliti tersebut telah mengkampanyekan diversitas yang lebih besar di Google dan mengangkat kekhawatiran tentang sensor di dalam perusahaan. Kontroversi ini menyebabkan banyak pihak dalam komunitas ilmiah mempertanyakan etika melakukan penelitian dengan perusahaan teknologi besar.
Hugging Face: Era Baru dalam Etika AI
Pada November 2021, Mitchell bergabung dengan Hugging Face sebagai Chief Ethics Scientist. Di Hugging Face, sebuah platform AI open-source, ia fokus pada memastikan bahwa AI open-source membawa sebanyak mungkin manfaat dan sesedikit mungkin bahaya. Platform ini memungkinkan peneliti independen—bukan hanya perusahaan AI terbesar di dunia—untuk membangun dan meluncurkan tools AI.
Di Hugging Face, Mitchell membantu menciptakan protokol untuk penelitian ethical AI, rekrutmen inklusif, sistem, dan membangun budaya yang baik. Ia juga terlibat dalam coding dan pengembangan framework dokumentasi AI yang lebih baik.
Kontribusi Revolusioner: Model Cards
Konsep dan Implementasi
Salah satu kontribusi paling berpengaruh Mitchell adalah pengembangan “Model Cards,” sebuah framework untuk pelaporan model yang transparan. Model Cards adalah dokumen pendek yang menyertai model machine learning yang telah dilatih, memberikan evaluasi benchmark dalam berbagai kondisi seperti kelompok budaya, demografis, atau fenotipik.
Model Cards juga mengungkapkan konteks di mana model dimaksudkan untuk digunakan, detail prosedur evaluasi kinerja, dan informasi relevan lainnya. Framework ini dirancang untuk mendorong pelaporan model yang transparan dan meningkatkan akuntabilitas dalam sistem AI.
Dampak dan Adopsi
Model Cards telah menjadi standar industri untuk meningkatkan akuntabilitas dalam sistem AI dan telah diadopsi secara luas oleh berbagai perusahaan teknologi. Paper tentang Model Cards yang diterbitkan pada tahun 2019 telah dikutip lebih dari 2.395 kali, menunjukkan dampak signifikannya dalam komunitas machine learning.
Hugging Face telah mengimplementasikan Model Cards sebagai bagian dari platform mereka, dengan tools yang memudahkan pembuatan dan standardisasi struktur Model Cards. Tools ini dirancang untuk menurunkan barrier entry dalam menciptakan Model Cards dengan menyediakan graphical user interface (GUI) yang memungkinkan kolaborasi tim dengan berbagai keahlian.
Penelitian dalam Fairness dan Bias Mitigation
Adversarial Learning untuk Mitigasi Bias
Mitchell mengembangkan metode untuk mengurangi bias yang tidak diinginkan dalam model machine learning menggunakan adversarial learning. Paper “Mitigating Unwanted Biases with Adversarial Learning” yang ia tulis bersama rekan-rekannya pada tahun 2018 telah dikutip lebih dari 1.794 kali.
Metode adversarial debiasing yang dikembangkan Mitchell melibatkan setup di mana dua neural networks dilatih secara berlawanan untuk mengurangi bias. Network pertama, yang disebut “adversary,” mencoba memprediksi atribut yang dilindungi dari data, sementara network utama dilatih untuk meminimalkan kemampuan adversary dalam memprediksi atribut sensitif tersebut.
Penelitian Historical Fairness
Mitchell juga melakukan penelitian komprehensif tentang sejarah konsep fairness dalam testing dan machine learning. Paper “50 Years of Test (Un)fairness: Lessons for Machine Learning” yang ia tulis bersama Ben Hutchinson menelusuri bagaimana konsep fairness telah didefinisikan dalam komunitas testing pendidikan dan rekrutment selama setengah abad terakhir.
Penelitian ini menunjukkan bahwa beberapa definisi fairness dalam penelitian machine learning saat ini sebenarnya mirip atau identik dengan definisi yang telah dikembangkan puluhan tahun sebelumnya. Karya ini memberikan wawasan penting tentang apa yang dimaksud dengan fairness dan bagaimana mengukurnya dalam konteks modern.
Kontribusi dalam Natural Language Processing
Vision-to-Language Generation
Mitchell dikenal karena karyanya dalam vision-to-language generation, sebuah bidang yang menggabungkan computer vision dan natural language processing. Ia telah menerbitkan lebih dari 50 paper tentang natural language generation, assistive technology, computer vision, dan AI ethics.
Salah satu karya terkenalnya adalah pengembangan sistem VQA (Visual Question Answering) yang telah dikutip lebih dari 6.880 kali. Sistem ini memungkinkan komputer untuk menjawab pertanyaan tentang konten visual, menggabungkan pemahaman visual dengan kemampuan bahasa.
Assistive Technology
Penelitian Mitchell dalam bidang assistive technology sangat berdampak, terutama dalam mengembangkan teknologi yang membantu orang dengan disabilitas. Proyek Seeing AI yang ia pimpin di Microsoft telah membantu ribuan pengguna tunanetra untuk memahami lingkungan visual mereka melalui deskripsi AI.
TED Talk dan Advokasi Publik
Pada Februari 2018, Mitchell memberikan TED Talk berjudul “How we can build AI to help humans, not hurt us” 15. Dalam presentasi yang telah ditonton jutaan kali ini, ia menceritakan kisah cautionary tentang gaps, blind spots, dan bias yang secara tidak sadar kita encode ke dalam AI 15.
Mitchell menekankan bahwa semua yang kita lihat sekarang hanyalah snapshot dalam evolusi artificial intelligence 15. “Jika kita ingin AI berkembang dengan cara yang membantu manusia, maka kita perlu mendefinisikan tujuan dan strategi yang memungkinkan jalur tersebut sekarang,” tegasnya dalam TED Talk 15.
Pengakuan dan Penghargaan
TIME 100 Most Influential People
Mitchell terpilih dalam daftar TIME 100 Most Influential People pada tahun 2023, dan kemudian masuk dalam daftar TIME 100 Most Influential People in AI pada tahun yang sama. TIME Magazine mengakui kontribusinya sebagai salah satu tokoh terdepan dalam etika AI dan kritikus utama dari kurangnya diversitas dan inklusi di perusahaan-perusahaan AI.
TIME mencatat bahwa Mitchell berlangganan pada camp ketiga dalam diskursus AI: bahwa AI tidak sekuat yang diklaim banyak orang, dan bahwa pembicaraan tentang AI yang mempercepat akhir dunia sebenarnya membantu perusahaan-perusahaan yang mempromosikannya.
Dampak Akademik
Karya-karya Mitchell telah dikutip lebih dari 27.964 kali dalam literatur ilmiah, menunjukkan dampak yang luar biasa dari penelitiannya. Ia memegang beberapa paten dalam bidang conversation generation dan sentiment classification.
Filosofi dan Visi
Kritik terhadap Kultur AI
Dalam wawancara dengan TIME, Mitchell menyatakan bahwa yang membuatnya tidak bisa tidur bukan teknologi AI itu sendiri, melainkan kultur yang menciptakannya. “Ada insularity pemikiran dan mindset yang secara disproporsional mengeksklusi perempuan dan orang kulit berwarna,” katanya.
Mitchell berargumen bahwa setiap arah maju adalah arah yang tidak terinformasi dengan baik oleh keragaman nilai-nilai manusia. Ia mengkritik perusahaan-perusahaan AI yang mengklaim ingin membuat sistem yang selaras dengan nilai-nilai manusia tetapi melakukannya tanpa memahami apa itu pluralisme nilai dan hanya mendekatinya secara matematis yang terlalu disederhanakan.
Visi untuk AI yang Inklusif
Mitchell percaya bahwa AI tidak sekuat yang diklaim banyak orang dan bahwa pembicaraan tentang kehancuran dunia karena AI sebenarnya membantu perusahaan-perusahaan yang mempromosikan teknologi tersebut. Dalam paper berpengaruh tahun 2020, ia berargumen bahwa AI seperti ChatGPT tidak lebih dari tools autocomplete bertenaga tinggi yang sering mengakibatkan semakin mengakarnya ketidaksetaraan sosial.
Di Hugging Face, Mitchell memelopori bentuk-bentuk baru AI guardrails sambil bertindak sebagai kritikus terdepan dari kekuatan teknologi yang tidak bertanggung jawab dalam debat AI. Fokusnya adalah memastikan bahwa open-source AI membawa sebanyak mungkin manfaat dan sesedikit mungkin bahaya.
Warisan dan Dampak
Margaret Mitchell telah mengubah cara industri teknologi memandang tanggung jawab dalam pengembangan AI. Melalui Model Cards, penelitian fairness, dan advokasinya untuk AI yang lebih inklusif, ia telah membantu menetapkan standar baru untuk transparansi dan akuntabilitas dalam machine learning.
Warisannya terlihat dalam adopsi luas Model Cards sebagai standar industri, pengaruh penelitiannya terhadap kebijakan AI, dan perannya dalam membentuk diskusi publik tentang etika AI. Sebagai Chief Ethics Scientist di Hugging Face, Mitchell terus memimpin upaya untuk menciptakan ekosistem AI yang lebih demokratis dan bertanggung jawab, memastikan bahwa kemajuan teknologi AI menguntungkan semua orang, bukan hanya segelintir perusahaan besar.
Sering merasa overwhelmed dengan berita AI yang terlalu banyak? I hear you. Subscribe ke Artifisial Newsletter dan dapatkan informasi teknologi AI terkini agar kamu tetap up-to-date tanpa buang waktu.
