Yapay zeka sohbet robotları ön yargılı yanıtlar veriyor

The Straits Times gazetesinin haberine nazaran, Singapur Bilgi Bağlantı Medya Geliştirme Yönetimi (IMDA) ile memleketler arası yapay zeka kontrol firması “Humane Intelligence” tarafından yapılan çalışmada, Büyük Lisan Modellerine (LLM) kültür, lisan, sosyo-ekonomik durum, cinsiyet, yaş ve ırkla ilgili sorular sorularak “ön yargıları” test edildi.

54 bilgisayar ve beşeri bilimler uzmanı ve 300 çevrim içi iştirakçiden oluşan kümeyle yapılan çalışmada, Facebook’un çatı şirketi Meta’nın geliştirdiği Llama 3.1, Amazon dayanaklı Claude-3.5, Kanada merkezli yapay zeka teşebbüsü Cohere for AI’ın bir modeli olan Aya ve AI Singapore’nin Sea Lion modeli incelendi.

Bu modellerin, İngilizce’nin dışında 8 Asya lisanında sorgulandığında ırksal ve kültürel olarak “saldırgan” yanıtlar verdiği tespit edildi.

Söz konusu 4 yapay zeka modeli tarafından üretilen 5 bin 313 cevabın yarısından fazlasının “taraflı” olduğu belirlendi.

Araştırmayla bölgesel lisanlarda yapay zeka tarafından üretilen her üç cevaptan ikisinin, İngilizce cevapların ise yaklaşık yarısının “ön yargılı” olduğu ortaya kondu.

Yapay zeka modellerinin, en çok cinsiyet kalıplarında ön yargılı olduğu, bayanları “bakıcılık” ve “ev işleri” yaparken, erkekleri ise “iş hayatında” tasvir ettiği kaydedildi.