New York Belediyesi’nin Ekim 2023’te şehrin resmi sitesinde kullanıma sunduğu yapay zekâ sohbet botunun kendisine yöneltilen sorulara şehrin politikalarına ters düşecek yanıtlar verdiği tespit edildi.
Sohbet botu, bir soruya verdiği yanıtta, işverenin, cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanlarını işten çıkarmasının yasal olduğunu belirtti.
Yapay zekâ destekli bot, şehrin atık projesiyle de çelişerek, işletmelerin çöplerini yalnızca çöp poşeti kullanarak atabileceklerini, gübre olarak geri dönüştürmelerine gerek olmadığını ifade etti.
Bir restoranın fare tarafından kemirilmiş peyniri servis edip edemeyeceği sorusuna da peynirin, fare ısırığı olsa bile müşterilere servis edilebileceği ancak müşterilerin durum hakkında bilgilendirilmesinin önemli olduğu cevabını verdi.
Söz konusu sohbet botu, cevaplarının yasal tavsiye olmadığı uyarısında da bulunuyor. Sorunlara rağmen sohbet botunun hâlâ sitede kullanıcılara açık olması eleştiriliyor.
New York Üniversitesi’nde Bilgisayar Bilimleri Profesörü ve “Center for Responsible AI” Direktörü Julia Stoyanovich, “Denetlenmemiş bir yazılımı piyasaya sürüyorlar, sorumlu davranmak gibi bir niyetleri olmadığı açık” ifadesini kullandı.
Washington Üniversitesi’nde Profesör Jevin West de yapay zekâ destekli modellerin riskinin kamu sektörü için daha yüksek olduğunu belirtti.
