Claude, OpenAI’a 72 Saatte Sızılmasına Yardım Etti

Hacktron araştırmacıları, ImageMagick ve libheif'teki bir açığı OpenAI'ın kimlik altyapısındaki bir kusurla zincirlemek için Anthropic'in Claude'unu kullandı ve 72 saatten kısa sürede dahili bir kod deposuna ulaştı. Ekip, birden fazla çalışanın ChatGPT ve Codex hesaplarına erişti, ardından ele geçirilen Codex hesaplarından birinin GitHub bağlantısını kullanarak OpenAI'ın özel yazılım ortamına girdi. Araştırmacılar zararsız bir pull request oluşturduktan sonra durdu ve özel kaynak kodunu incelemediklerini söyledi.

Neden önemli

Anthropic'in Opus 5'i piyasaya sürmesinin ardından operasyon hızlandı. Opus 5, adres alanı yerleşimi rastgeleleştirmesi kullanan standart savunmalara karşı Opus 4.8 ile yapılan önceki denemeler başarısız olduktan sonra çalışan bir istismar geliştirilmesine yardımcı oldu. Hacktron, Opus 5'in yaklaşık üç saat içinde yerel bir ARM64 istismarı ürettiğini, ardından bunu Discourse'un kullandığı x86-64 ve jemalloc yapılandırmasına uyarladığını söyledi. Ekip 25 Temmuz'a kadar saldırıyı uzak bir test ortamında yeniden üretmiş ve OpenAI'ın forumuna karşı kullanmıştı.

Olay, saldırganlarla savunmacılar arasındaki dengenin nasıl değiştiğini ortaya koyuyor. Hacktron, yetenekli insan yönlendirmesinin önemini koruduğunu söyledi, ancak kurucu ortağı Mohan Pedhapati, yapay zekânın istismar geliştirmek için gereken kıt uzmanlığı azalttığını savundu. Araştırmacılar ayrıca yapay zekâ kodlama ajanlarının ele geçirilen bir hesabın etki alanını genişletebildiğini gördü. Bunun nedeni, GitHub, Slack, e-posta ve diğer hizmetlerle yapılan entegrasyonlara erişilebilmesi.

Piyasa etkisi

Yapay zekâ şirketleri ve kurumsal yazılım alıcıları açısından risk, model güvenliğinin ötesine geçiyor. Kodlama ajanları çalışanlarla hassas geliştirme altyapısı arasında giderek daha fazla konumlanıyor ve izinleri az sayıda platformda yoğunlaştırıyor. Bu nedenle tek bir kimlik açığı, kaynak depolarına ve bağlantılı hizmetlere açılan bir yola dönüşebilir.

OpenAI, raporu aldıktan yaklaşık 14 saat sonra kimlik tarafındaki açığı giderdi ve Hacktron'a 6.500 dolarlık ödül ödedi. Discourse bir yama hazırladı ve görüntü işleme çevresine sandbox uygulaması ekledi. Yapay zekânın benimsenmesi açısından bir sonraki güvenlik testi, şirketlerin ajan erişimini genişlettikleri hızla ajan izinlerini de sınırlayıp sınırlayamayacağı olacak.