Son dönemde, yapay zeka teknolojisinin kötüye kullanımı ciddi endişelere yol açmaya başladı. Instagram’da oluşturulan bir ağ, insan içerik üreticilerinin içeriklerini çalarak, yüzlerini yapay zeka ile değiştiren ve bunları Down sendromlu gibi gösteren sahte hesaplar üretiyor. Bu hesaplar, kullanıcıları yetişkin içerik platformlarına yönlendirerek para kazanmayı hedefliyor.

404 Media tarafından yapılan araştırmalara göre, bu sahte hesaplar, aynı biyografileri ve videoları kullanarak birbirine bağlı çalışıyor. Ayrıca, içeriklerini OnlyFans gibi platformlara yönlendiren bağlantılarla gelir elde ediyor. Bu uygulama, yapay zekanın etik sınırlarını tartışmaya açarken, Instagram’ın içerik denetleme politikalarındaki eksiklikleri de gözler önüne seriyor.

Instagram İçerik Hırsızlığı ve Yapay Zekanın Kötüye Kullanımı

Yapay zeka ile desteklenen bu dolandırıcılık yöntemi, insan içerik üreticilerinin videolarını çalarak yüzlerini yapay zeka ile değiştirmeyi içeriyor. Bu yüz değiştirme işlemi, özellikle Down sendromlu bireylerin görüntüsünü taklit etmek için kullanılıyor. Söz konusu hesaplar, kullanıcıları sahte güven duygusuyla cezbetmeye çalışıyor.

Bu tür sahte içerikler, Instagram’ın yetersiz denetim politikaları nedeniyle hızla yayılabiliyor. Araştırmalar, bu dolandırıcıların belirli bir nişi hedef aldığını ve Down sendromlu bireylerin görünümlerini kullanarak etik dışı bir şekilde gelir elde ettiğini ortaya koyuyor. Bu durum, yapay zekanın nasıl kötüye kullanılabileceğine dair çarpıcı bir örnek sunuyor.

Instagram, bu tür sahte içeriklerin platformda yer almasını önlemek için yeterli denetim mekanizması sunmuyor. Yapay zeka ile oluşturulan bu hesaplar, hızla yayılma potansiyeline sahip ve büyük bir gelir ağı oluşturmuş durumda.

Yapay zeka teknolojisinin gelişimiyle birlikte ortaya çıkan bu tür etik sorunlar, hem platformların hem de kullanıcıların daha bilinçli olması gerektiğini gösteriyor. Bu dolandırıcılık ağlarının nasıl durdurulacağı ise büyük bir soru işareti olarak karşımıza çıkıyor.

Yapay Zeka Fenomenler Instagram Dolandırıcılığında yazısı ilk önce TeknoBurada üzerinde ortaya çıktı.