Dalam lanskap kecerdasan buatan yang berkembang pesat, para peneliti kini menghadapi tantangan paradoks: bagaimana menciptakan agen generatif yang cerdas namun tetap hemat sumber daya dan menghormati privasi? Makalah terbaru yang dipimpin oleh Saad Alqithami memperkenalkan terobosan bernama Memory-Aware Retention Schema (MaRS) – sebuah arsitektur memori kognitif yang dirancang khusus agar agen AI bisa “melupakan dengan bijak” tanpa kehilangan esensi fungsinya.
Dilema Memori: Menyimpan Segalanya atau Melupakan Sembarangan?
Agen generatif canggih yang dirancang untuk interaksi jangka panjang – seperti asisten virtual, pendamping digital, atau NPC dalam game – sering terjebak dalam pilihan sulit:
- Menyimpan semua memori → Boros komputasi & risiko privasi tinggi.
- Melupakan secara acak → Kehilangan koherensi & gagal menyelesaikan tugas.
“Pendekatan yang ada tidak berkelanjutan, baik secara teknis maupun etika,” jelas Alqithami. “Kami membutuhkan kerangka kerja yang menyeimbangkan efisiensi, akurasi, dan privasi.”
Solusi: MaRS dan Kebijakan “Melupakan” yang Terukur
Tim peneliti merancang MaRS, sebuah sistem yang meniru cara manusia menyaring dan mengelola ingatan. Framework ini dilengkapi dengan enam kebijakan melupakan (forgetting policies) yang teoritis dan dapat dikonfigurasi, termasuk:
- Berdasarkan Urutan Waktu
- Berdasarkan Relevansi Tujuan
- Berdasarkan Kepentingan Sosial
- Berdasarkan Dampak Emosional
- Kombinasi Hibrida (Hybrid)
Kebijakan hibrida terbukti paling efektif, dengan kemampuan mempertahankan informasi penting sementara secara otomatis mengarsip atau menghapus data yang redundan, sensitif, atau sudah kedaluwarsa.
Benchmark Baru: “Forgetful but Faithful Agent (FiFA)”
Untuk mengukur kinerja sistem ini, tim mengembangkan benchmark FiFA – sebuah platform evaluasi komprehensif yang menguji agen AI dalam lima aspek kritis:
- Koherensi Naratif – Kemampuan menjaga alur cerita.
- Penyelesaian Tujuan – Efektivitas dalam tugas.
- Akurasi Ingatan Sosial – Mengingat interaksi dan preferensi.
- Perlindungan Privasi – Tingkat anonimisasi data sensitif.
- Efisiensi Biaya – Penggunaan sumber daya komputasi.
Hasil Eksperimen: Skor Komposit 0.911 dengan Jaminan Privasi
Melalui 300 seri evaluasi dengan berbagai konfigurasi memori dan anggaran komputasi, kebijakan hibrida MaRS berhasil mencapai:
- Skor komposit tertinggi: 0.911 (mendekati sempurna).
- Pengurangan beban memori hingga 70% tanpa penurunan kinerja signifikan.
- Penghapusan otomatis data pribadi setelah periode retensi yang aman.
“Agen kami ‘lupa’ secara teknis, tetapi ‘setia’ pada misi dan identitasnya,” kata Alqithami. “Ini seperti memiliki asisten yang sangat efisien yang melindungi percakapan Anda sambil tetap mengingat apa yang penting.”
Implikasi: Masa Depan AI yang Manusiawi dan Berkelanjutan
Penelitian ini tidak hanya memberikan solusi teknis, tetapi juga pedoman praktis untuk penerapan agen generatif di lingkungan nyata yang sensitif terhadap privasi dan sumber daya terbatas, seperti:
- Layanan kesehatan digital
- Asisten pendidikan personal
- Platform konseling mental
- Interaksi customer service otomatis
Dengan standar baru ini, pengembang dapat menciptakan AI yang tidak hanya cerdas, tetapi juga dapat dipercaya, scalable, dan mematuhi regulasi privasi seperti GDPR dan undang-undang perlindungan data lainnya.
Melupakan sebagai Fitur, Bukan Bug
“Dalam AI, kemampuan melupakan dengan bijak sama pentingnya dengan kemampuan mengingat,” pungkas Alqithami. MaRS dan FiFA menandai pergeseran paradigma: dari AI yang menimbun data, menuju AI yang beringatan selektif, efisien, dan etis.
Penelitian ini dipublikasikan secara penuh dan tersedia untuk komunitas ilmiah, membuka jalan bagi pengembangan agen generatif yang lebih manusiawi dan berkelanjutan di masa depan.
Media
https://arxiv.org/abs/2512.12856?utm_source=Iterable&utm_medium=email&utm_campaign=DIWeekly-Iterable
