Yapay Zeka Arama Motorları Yanlış Kaynak Uyduruyor
Yapılan bir araştırmaya göre, yapay zeka arama motorları kullanıcıların sorularına yanıt verirken doğru olmayan bilgiler üretiyor.
Columbia Journalism Review (CJR) tarafından yapılan bir araştırma, yapay zeka arama motorlarının %60 oranında yanlış bilgiler sunduğunu ortaya koydu. Araştırmada, bu sistemlerin gerçek haberlerden alıntı yapmaları istendiğinde bile başlık, yayıncı veya URL gibi bilgileri büyük ölçüde yanlış verdikleri tespit edildi. Hatta bazı durumlarda, bu araçların tamamen uydurma bağlantılar oluşturduğu gözlemlendi.
Araştırma kapsamında OpenAI ve xAI gibi popüler yapay zeka modelleri test edildi. Özellikle xAI’nin Grok modeli, %97 oranında yanlış bilgi üretmesiyle dikkat çekti. Perplexity gibi diğer modeller ise hatalı bilgi oranını %37 seviyesinde tuttu.
Yapay Zeka Arama Motorlarının Sorunları
Araştırma, yapay zeka arama motorlarının bilgiye erişim yöntemlerinde ciddi sıkıntılar olduğunu ortaya koyuyor. Bu araçlar, genellikle gerçek zamanlı bilgi toplamak için “retrieval-augmented generation” adı verilen bir yöntem kullanıyor. Ancak, bu süreçte yanıt verirken güven düzeyinden bağımsız olarak bilgi üretmeye eğilimli oldukları belirtiliyor.
Bazı yapay zeka arama motorlarının, telif hakkı korumalı içeriklere erişim sağlamak için belirli etik kuralları ihlal ettiği de ifade ediliyor. Örneğin, Perplexity’nin, “do-not-crawl” metinleri içeren sitelere rağmen National Geographic gibi platformlardan içerik topladığı tespit edilmiş. Bu durum, yayıncıların içerik kontrolünü kaybetmesine yol açabileceği için eleştiriliyor.
Araştırmaya göre, AI arama motorlarının yanlış bilgi üretmesi, kullanıcıların bu araçlara olan güvenini zedeliyor. Özellikle doğru bilgiye erişim konusunda bu sistemlere bel bağlayan kullanıcılar, yanlış yönlendirilebiliyor. Yayıncılar ise markalarının zarar görebileceği endişesi taşıyor. Örneğin, The Guardian ve BBC gibi büyük medya kuruluşları, yapay zeka araçlarının içeriklerini yanlış aktararak itibarlarına zarar verdiğini belirtiyor.
Sonuç olarak, yapay zeka arama motorlarının yanlış bilgi üretme oranının yüksek olması, bu teknolojilerin geliştirilmesi gerektiğini ortaya koyuyor. Ancak bu süreçte kullanıcıların daha eleştirel bir yaklaşım benimsemesi büyük önem taşıyor.
