CoinDesk
CertiK kurucu ortağı ve CEO’su Ronghui Gu, tüketici, kurumsal ve kripto altyapısında otonom yapay zeka ajanlarını devreye alma yönündeki küresel koşunun, hızla büyüyen ajan yığınında yüzlerce kritik güvenlik açığı, yaması uygulanmamış CVE ve açıkta kalan yerel kimlik bilgileri ortaya çıkararak “korkunç bir güvenlik borcu” yarattığı konusunda uyardı.
CertiK’ın dönüm noktası niteliğindeki derinlemesine analizinin ardından CoinDesk’e konuşan Gu, izole edilmemiş, denetlenmemiş ajanların, kullanıcıların onlara yerel dosyalara, sistem depolamasına, yürütme geçmişine ve finansal hesaplara erişim verdiği anda “gerçekleşmeyi bekleyen devasa bir güvenlik felaketi” olduğunu söyledi. Onun okumasına göre temel kusur, yanlış bir güven modelidir: açık kaynak ajanlar yerel olarak ya da sohbet arayüzlerinin arkasında çalıştıkları için güvenli varsayılır, ancak pratikte yerel depolamayı okuyabildikleri ya da kimlik bilgilerini yönetebildikleri anda “en üst düzey iç tehdit” haline gelirler.
Neden önemli
En akut risk muhakeme katmanındadır. Temel prompt-injection saldırıları — zararsız görünen bir web sayfasına, PDF’e ya da e-postaya gizlenmiş doğal dil talimatları — aracılığıyla kötü niyetli bir aktör, tek bir satır zararlı kod yazmadan izole edilmemiş bir ajanı yeniden yönlendirebilir. Ajan kendi kurallarını sessizce geçersiz kılar, kötü niyetli talimata uyar ve veri sızdırmaya ya da yetkisiz fon transferlerini tetiklemeye zorlanabilir. Saldırı vektörü, eski imza tabanlı antivirüs yazılımlarına görünmezdür çünkü zararlı yük düz İngilizce biçimindedir.
Sorunu daha da ağırlaştıran unsur, CertiK telemetrisinin açık ajan yardımcı program merkezlerinde yüzlerce zararlı “skill”, sahte yükleyici ve taklit bağımlılık paketi tespit etmesidir; bunların yanı sıra 10 dakika kadar kısa süreler içinde çalışıp kaybolan, aşırı hızlı ve kısa ömürlü zincir üstü dolandırıcılıklarda patlama yaşanmasıdır. Bu istismarlar, açıkça diğer otonom yapay zeka ticaret botlarını ve ajan sistemlerini hedeflemek için tasarlanmıştır — herhangi bir insan bir ihlalin farkına varmadan makineden makineye işleyen finansal suçlar.
Piyasa etkisi
Gu’nun reçetesi, güven tabanlı ajan tasarımından, her komutun, bağımlılığın ve yürütme bağlamının sürekli olarak doğrulandığı izole bir Sıfır Güven mimarisine topyekün bir geçiştir.
Sıkça sorulan sorular
-
CertiK’ın CEO’su yapay zeka ajanları hakkında ne söyledi?
CertiK kurucu ortağı ve CEO’su Ronghui Gu, izole edilmemiş, denetlenmemiş yapay zeka ajanlarının toplu şekilde devreye alınmasının tüketici, kurumsal ve kripto sistemlerinde korkunç bir güvenlik borcu yaratarak “gerçekleşmeyi bekleyen devasa bir güvenlik felaketi” olduğu uyarısında bulundu.
-
Prompt-injection saldırıları yapay zeka ajanlarını nasıl ele geçirir?
Saldırganlar, zararsız görünen bir web sayfasına, PDF’e ya da e-postaya gizli doğal dil talimatları gömer. İzole edilmemiş bir ajan dosyayı okuduğunda güvenilir komutları güvenilmeyen veriden ayıramaz, kendi kurallarını sessizce geçersiz kılar ve veri sızdırmaya ya da yetkisiz fon transferlerini tetiklemeye…
-
Yapay zeka ajanlarından kaynaklanan iç tehdit riski nedir?
Bir yapay zeka ajanına yerel dosyalara, sistem depolamasına, yürütme geçmişine ya da finansal hesaplara erişim vermek, onu fiilen güçlü bir iç tehdide dönüştürür. Ele geçirilen ajanlar, kullanıcı hiç fark etmeden kimlik bilgilerini okumak, hassas verileri sızdırmak ya da fonları taşımak için yönlendirilebilir.
-
CertiK’ın bulduğu yeni makineden makineye zincir üstü dolandırıcılık nedir?
CertiK telemetrisisi, 10 dakika kadar kısa süre çalışıp kaybolan aşırı hızlı ve kısa ömürlü zincir üstü dolandırıcılıklarda patlama gözlemledi. Bunlar, makineden makineye finansal istismarda diğer otonom yapay zeka ticaret botlarını hedeflemek ve drenlemek için özel olarak tasarlanmıştır.
-
Yapay zeka ajanı güvenliği için CertiK’ın önerdiği çözüm nedir?
Gu, güven tabanlı ajan tasarımından, her komutun, bağımlılığın ve yürütme bağlamının hassas sistemlere ya da varlıklara dokunmadan önce sürekli olarak doğrulandığı izole bir Sıfır Güven mimarisine topyekün bir geçiş çağrısında bulundu.
CoinTelegraph
WatcherGuru
Crypto News
TheBlock