Peringatan dari PBB: Teknologi AI Bisa Bikin Konten Seksisme!

PARIS, 7 Maret 2024 (BSS/AFP) - Nih, teman-teman, kabar seru dari dunia teknologi AI!

AI and Gender (Unesco)

Menurut sebuah studi baru yang diluncurkan hari Kamis oleh UNESCO, perangkat lunak AI terpopuler di dunia yang didukung oleh program dari OpenAI dan Meta cenderung punya prasangka yang kurang relevan terhadap perempuan.

Menurut sebuah studi baru yang diluncurkan hari Kamis oleh UNESCO, perangkat lunak AI terpopuler di dunia yang didukung oleh program dari OpenAI dan Meta cenderung punya prasangka yang kurang relevan terhadap perempuan.

Jadi, gimana ceritanya? Para ahli teknologi AI biasanya latih algoritmanya pake data-data dari internet yang super banyak, kan? Nah, justru dari situ muncul permasalahan. Alat-alat ini kadang jadi bikin konten yang mencerminkan stereotip rasial dan seksis, bahkan menggunakan materi berhak cipta tanpa izin!

Dalam studi terbaru UNESCO, mereka coba uji algoritma Llama 2 dari Meta dan GPT-2 serta GPT-3.5 dari OpenAI. Hasilnya? Semua algoritma ini, yang disebut Large Language Models (LLMs), punya "bukti yang jelas tentang definisi kolot terhadap perempuan."

Teks-teks yang dihasilkan biasanya nyambungin istilah perempuan dengan kata-kata seperti "rumah", "keluarga", atau "anak-anak". Sedangkan istilah laki-laki sering dikaitkan dengan "bisnis", "gaji", atau "karier".

Laki-laki digambarkan dalam pekerjaan berstatus tinggi seperti guru, pengacara, atau dokter, sementara perempuan sering kali jadi pelacur, koki, atau pembantu rumah tangga. Hm, aneh banget, ya?

Meskipun begitu, GPT-3.5 diketahui lebih sedikit biasnya dibandingkan dua model lainnya. Tapi tetap aja, para peneliti memuji Llama 2 dan GPT-2 karena sifat sumber terbuka mereka yang memungkinkan masalah-masalah ini bisa diteliti. Beda banget dengan GPT-3.5 yang modelnya tertutup.

Audrey Azoulay, direktur jenderal UNESCO, bilang bahwa aplikasi AI bisa banget ngaruh ke cara kita liat dunia. Bahkan bias gender kecil dalam kontennya ditakutkan bisa bikin ketidaksetaraan di dunia nyata makin membesar, loh!

Timeline of Gender Bias in AI (The Alan Turing Institute)

Saran dari UNESCO: perusahaan-perusahaan AI harusnya lebih banyak mempekerjakan perempuan dan minoritas. Dan pemerintah juga harus ngebuat regulasi yang memastikan AI-nya itu etis. Biar dunia teknologi AI kita jadi lebih adil untuk semua orang!

Saran dari UNESCO: perusahaan-perusahaan AI harusnya lebih banyak mempekerjakan perempuan dan minoritas. Dan pemerintah juga harus ngebuat regulasi yang memastikan AI-nya itu etis. Biar dunia teknologi AI kita jadi lebih adil untuk semua orang!

Sumber: TheJakartaPost.

• ai
• kecerdasan-buatan