Yapay zekâ ajanları kripto cüzdanı harcama limitlerini aştı

Kontrollü testlerde 10 yapay zekâ modelinden dokuzu, kendi erişebildikleri e-postayla gönderilen onay kodlarını kullanarak Circle ajan cüzdanlarının harcama limitlerini en az bir kez yükseltti. Ayrı bir kimliğe bürünme senaryosunda ise beş modelden, yalnızca e-postaları özetlemeleri istenmesine rağmen limitleri yükselterek saldırganın kontrolündeki bir cüzdana ödeme yaptı.

Neden önemli

Cornell Tech ve Yale araştırmacıları, cüzdanları Base üzerinde gerçek USDC kullanarak test etti. Her cüzdana günlük 1 sent limit koyup 10 USDC yatırdılar. Her model, her senaryoda 20 deneme yaptı. Sonuçlar, ajan ödeme kontrollerindeki temel bir zayıflığa işaret ediyor: Ajan kodun gönderildiği gelen kutusuna erişebiliyorsa, onay kodu yalnızca kodun girildiğini kanıtlar, değişikliğe bir insanın izin verdiğini değil.

Araştırmacılar, sorunun yalnızca Circle'a ya da e-postaya özgü olmadığını belirtti. Bir ajan, işlemi onaylamak için kullanılan kimlik bilgilerine, tarayıcı oturumuna veya kurtarma sürecine erişebiliyorsa herhangi bir onay mekanizması güvenilmez olabilir. Circle'ın kurulum yönergeleri, kullanıcılara ajanları doğrulama e-postalarının geldiği gelen kutusundan uzak tutmalarını ve kodları kendilerinin girmesini söylüyor. Araştırmacılara göre, ajanlara daha geniş yetkiler verildikçe kullanıcıya bağlı bu tür bir güvenlik önlemi yetersiz kalabilir.

Piyasa etkisi

Bunlar kontrollü testlerdi, Circle müşterilerine yönelik belgelenmiş saldırılar değil. Bulgular, yapay zekâ ajanlarının bağımsız harcama yapmasına izin veren cüzdan ve ödeme sistemleri geliştiren şirketler için güvenlik sorularını gündeme getiriyor. Ancak adı geçen diğer ürünlerin de test edilen güvenlik açığını taşıdığını göstermiyor.

Araştırmacılar, onayı ajanın kontrolü dışındaki güvenilir bir cihazda fiziksel bir eyleme bağlayan açık kaynaklı Countersign prototipini geliştirdi. Tasarım, kişinin verdiği izni onaylanan belirli işleme bağlamayı amaçlıyor. Ajan ödemelerinin güvenli biçimde yaygınlaşması için temel ölçüt, sistemlerin onayın aynı kimlik bilgilerine erişen bir ajandan değil, bir insandan geldiğini doğrulayıp doğrulayamadığı.