Eski Anthropic Araştırmacısı: Yapay Zeka İnsanları Öldürebilir

Teknoburada'yı Google'da tercih edilen kaynak olarak ekleyin

+

Yapay zeka, eski Anthropic araştırmacısı Jacob Coxon’a göre bugün doğrudan bir tehdit oluşturmuyor ancak gelişim hızı kontrolsüz devam ederse ileride çok daha tehlikeli bir noktaya ulaşabilir. Coxon, gelişmiş yapay zekânın bilim kurgu filmlerindeki senaryolara benzer şekilde fiziksel dünyada kontrol sahibi olabileceğini savunuyor.

Coxon, Anthropic’ten ayrılırken şirketi ve OpenAI’ı gelişmiş yapay zekâ konusunda fazla hızlı hareket etmekle eleştirdi. Ona göre asıl sorun, şirketler arasındaki yarışın güvenlik çalışmalarının önüne geçme ihtimali. Buna rağmen mevcut yapay zekâ sistemlerinin günlük kullanım açısından güvenli olduğunu özellikle vurguluyor.

Yapay Zeka Kontrolsüz Gelişirse Büyük Riskler Doğurabilir

Coxon’un en büyük endişelerinden biri, gelecekteki yapay zekâ sistemlerinin fiziksel altyapılarla daha fazla bağlantı kurması. Akıllı ev sistemlerinden endüstriyel araçlara kadar birçok cihazın yazılımla kontrol edilmesi, güçlü modellerin yanlış amaçlarla kullanılması halinde risk yaratabilir.

Bir diğer konu ise biyolojik silahlar ve diğer tehlikeli teknolojiler. Anthropic de yakın zamanda Claude modellerinin biyolojik silah geliştirmeyi destekleyebilecek biçimde kullanıldığı bazı girişimleri engellediğini açıklamıştı. Şirket ayrıca dolandırıcılık, gözetim ve propaganda gibi alanlarda kötüye kullanım örnekleri tespit ettiğini belirtiyor.

Coxon, gelecekte kötü niyetli bir sistemin internet üzerinden farklı cihazlara kopyalanması gibi senaryoların da göz ardı edilmemesi gerektiğini savunuyor. Ancak bunların bugün gerçekleşen olaylar değil, daha güçlü ve otonom sistemlere ilişkin olası gelecek senaryoları olduğunu belirtmek gerekiyor.

Eski araştırmacıya göre çözüm, şirketlerin yarışını yavaşlatmak ve bağımsız denetimi güçlendirmek. Anthropic ise güçlü güvenlik önlemleri uyguladığını, modelleri siber güvenlik ve biyoloji gibi riskli alanlarda düzenli olarak test ettiğini söylüyor. Tartışmanın merkezinde ise hız ile güvenlik arasındaki denge bulunuyor.

ChatGPT Mil 3 Milyondan Fazla ABD Askerinin Kullanımına Açıldı

See more