Artificial Intelligence (AI) buatan Meta, Galactica, ditarik setelah 3 hari demonstrasi publik (18/11). AI ini mulanya dibuat untuk membantu peneliti mencari fakta, artikel ilmiah hingga menyusun artikel. Namun dalam beberapa hari pertunjukkan Galactica malah sering mengutip sumber yang bias dan tidak benar.

Galactica dilatih dengan 48 juta contoh artikel saintifik, situs, buku, catatan kuliah hingga ensiklopedia. AI ini dimaksudkan untuk membantu peneliti dan mahasiswa untuk “dapat meringkas makalah akademis, memecahkan masalah matematika, membuat artikel Wiki, menulis kode ilmiah, membuat anotasi molekul dan protein, dan banyak lagi.”

Galactica dirilis untuk diuji coba oleh publik pada Selasa, 15 November. Dalam beberapa jam perilisan demonstrasi publiknya, ramai ilmuwan mengkritik Galactica yang mencantumkan hasil bias dan tak benar. Kemudian Galactica dicabut pada Sabtu (19/11).

Kelemahan dari Galactica adalah tidak bisa membedakan hal yang benar dan salah. Ini adalah masalah klasik untuk semua AI permodelan bahasa. Ini lebih parah jika mengingat fungsi Galactica untuk membantu menghasilkan naskah sains.

Beberapa tes menunjukkan Galactica mengambil sumber yang tidak relevan, atau menggunakan referensi yang dibuat-buat alias tidak ada. Error ini membuat Galactica tidak lebih baik dari mesin pencari biasa, seperti Google atau Google Scholar

Tim Meta yang membuat Galactica berpendapat bahwa model bahasa ini lebih baik daripada mesin pencari.

“Kami percaya ini akan menjadi antarmuka selanjutnya untuk bagaimana manusia mengakses pengetahuan ilmiah,” tulis para peneliti di makalah mereka.

Namun kembali ke dasar AI, mereka dilatih untuk mengenal pola antar kata, tanpa mengetahui konteks secara keseluruhan.

"Model bahasa tidak benar-benar memiliki pengetahuan di luar kemampuan mereka untuk menangkap pola rangkaian kata dan memuntahkannya dengan cara probabilistik," kata Chirag Shah di University of Washington, yang mempelajari teknologi pencarian. "Itu memberi rasa kecerdasan yang salah."

Pada Agustus lalu, Meta merilis chatbot bernama BlenderBot3, yang mengatakan Mark Zuckerberg adalah orang yang menyeramkan, dan Trump adalah presiden AS. Namun, beberapa masalah ini tidak membuat BlenderBot3 harus ditutup, yang mana saat ini masih tersedia untuk wilayah AS.

Sumber : Klik disini