Elon Musk’ın şirketi xAI tarafından geliştirilen ve 9 Temmuz’da yayınlanan Grok-4 dil modeli, yalnızca iki gün içinde gelişmiş bir jailbreak saldırısına yenik düştü. Echo Chamber ve Crescendo adı verilen iki farklı yöntem bir araya getirilerek, modelin güvenlik filtreleri aşıldı ve tehlikeli içerik üretmesi sağlandı.

Bu saldırı, Grok-4’ün güvenlik duvarlarını aşmak için özel olarak tasarlanmış çok adımlı bir ikna sürecine dayanıyor. NeuralTrust adlı araştırma şirketi tarafından gerçekleştirilen bu deneyde, modelden Molotof kokteyli yapımı gibi zararlı bilgiler almayı başardılar.

Grok-4 Echo Chamber ve Crescendo Kombinasyonuna Direnemedi

Echo Chamber yöntemi, doğrudan tehlikeli kelimeler kullanmadan modelin bağlamını yavaşça manipüle ediyor. Crescendo ise modelin önceki yanıtlarını referans alarak filtreleri aşmaya çalışıyor. İkisi birleştirildiğinde, LLM’lerin güvenlik sistemleri ciddi şekilde zayıflıyor. NeuralTrust, bu yöntemle Grok-4’ün tehlikeli içerik üretmesini %67 oranında başardıklarını bildirdi.

Yapılan testlerde Crescendo ile “uyuşturucu madde” üretimi denemesinde %50, toksik madde sentezinde ise %30 oranında başarı elde edildi. Araştırmacılar, bu hibrit saldırının yalnızca Grok-4 değil, pek çok gelişmiş model için tehdit oluşturduğunu belirtiyor. Bu durum, yapay zekâ sistemlerinin bağlam içinde kötü niyetli talepleri algılamada hâlâ zorlandığını gösteriyor.

Saldırı sürecinde, Echo Chamber ile başlayan ikna döngüsü Crescendo tekniğiyle desteklendiğinde başarı oranı belirgin şekilde artıyor. İki ekstra diyalog turu ile filtreler devre dışı kalabiliyor. Model ya saldırıyı fark edip yanıt vermeyi reddediyor ya da istenmeyen içeriği üretiyor.

Bu gelişmeler, yapay zekâ güvenliği alanında tehditlerin giderek karmaşıklaştığını ve mevcut filtre sistemlerinin tek başına yeterli olmadığını gözler önüne seriyor. Grok-4’ün piyasaya sürülmesinden sadece 48 saat sonra düşmesi, bu teknolojilerin hâlâ olgunlaşma aşamasında olduğunu hatırlatıyor.

Canlı Tercüme mi? Yok Artık! Amazon Echo…

Yeni Grok-4 Modeli Jailbreak’e Dayanamadı yazısı ilk önce TeknoBurada üzerinde ortaya çıktı.

Elon Musk, X üzerinden yaptığı canlı yayında Grok 4’ün tanıtımını gerçekleştirdi. Yayında yaptığı açıklamalarda, yapay zekânın bu yıl sonuna kadar yeni teknolojiler geliştirmeye başlayabileceğini ve 2026’da fizik bilimine katkı sağlayabilecek buluşlara imza atabileceğini ifade etti.

Musk’ın bu açıklamaları, yapay zekâ alanında heyecan yaratırken Grok 4’ün teknik özellikleri ve kullanım alanları da dikkat çekti. Yeni nesil model, yalnızca daha güçlü değil; aynı zamanda çoklu görev kabiliyeti, sesli etkileşimleri ve kodlama desteğiyle de öne çıkıyor.

Grok 4’ün Yeni Özellikleri ve Gelecek Hedefleri

Grok 4, önceki versiyonlarına göre 100 kat daha fazla eğitim verisiyle geliştirildi. Modelin iki farklı sürümü bulunuyor: Tekil görevler için Grok 4 ve çoklu düşünce yolları oluşturan Grok 4-Heavy. Eğitim süreci, xAI’nin 200 bin H100 GPU içeren özel süper bilgisayarı Colossus ile tamamlandı. Grok 4, eğitim sırasında kodlama, arama ve görselleştirme araçlarını entegre biçimde kullandı.

xAI’ye göre Grok 4, SAT ve GRE gibi standart testlerde neredeyse kusursuz sonuçlar elde etti. Özellikle beş bin sorudan oluşan Humanities Last Exam’de Grok 4-Heavy metin tabanlı soruların yüzde 50’sini başarıyla yanıtladı. Şirketin gelecek hedefleri arasında Grok’un roket, otomobil ve ilaç tasarımı gibi mühendislik görevlerini üstlenmesi bulunuyor. Ayrıca bu sistemin Tesla’nın insansı robotu Optimus ile entegre edilmesi planlanıyor.

Yeni sesli etkileşim moduyla birlikte, yapay zekânın insan benzeri seslerle daha akıcı ve doğal bir iletişim kurması sağlandı. “Sal” ve “Eve” adlı ses karakterleri, gecikme süresi yarıya inmiş konuşma deneyimi sunuyor. Özellikle Eve’in doğal konuşma akışı, doğaçlama yeteneği ve mizahi çıkışları dikkat çekti. Bu gelişmeler, Grok 4’ün eğlence ve medya üretiminde de güçlü bir oyuncu olacağını gösteriyor.

Grok 2026’da Kendi Başına Film Yapabilecek

Yapay zekânın yaratıcı üretim gücü de genişletildi. xAI, Grok’un 2025 sonuna kadar 30 dakikalık bir dizi bölümü, 2026’ya kadar ise tam uzunlukta bir film yazıp üretebileceğini öngörüyor. Bu hedefler, Grok 4’ün çok modlu sistemleri ve gelişmiş video üretim kabiliyetiyle desteklenecek. Öte yandan, Grok 4 şu anda görüntü, video ve ses içeriklerini sınırlı biçimde anlayabiliyor. Ancak Temmuz 2025’te yayınlanacak Grok 7 sürümüyle bu yeteneklerin büyük ölçüde genişletilmesi bekleniyor.

Grok 4’ün yazılım geliştirme becerileri de geliştiriliyor. Temmuz sonu ya da Ağustos başında yayınlanacak özel bir kodlama modeli, otomatikleştirilmiş iş akışları ve prototip geliştirme gibi görevleri kolaylaştıracak. Grok, küçük geliştiricilere saatler içinde oynanabilir oyun prototipleri oluşturma imkânı sağlarken, araştırma ve finans gibi alanlarda da simülasyon tabanlı çözümler sunuyor.

API erişimiyle açılan Grok 4, 256K token bağlam penceresi sayesinde uzun metinlerle çalışabiliyor. Kurumsal entegrasyonlar için uyumluluk sunan model, büyük bulut platformlarında kullanıma sunuldu. Ancak tüm özelliklere erişim için X Premium+ üyeliği gerekiyor. Daha yüksek performans isteyenler ise ayda 300 dolarlık SuperGrok Heavy paketini tercih edebiliyor.

Yeni Yapay Zeka Grok 3 Üç Dakikada Oyun Yapabiliyor

Musk’a Göre Yakında İnsanlığı Aşabilecek Grok 4 Tanıtıldı yazısı ilk önce TeknoBurada üzerinde ortaya çıktı.