CryptoSlate
9 Kasım tarihli bir ön baskıya göre, yapay zekâ ajanları başka ajanların varlığından haberdar edilmeden paylaşılan bir çalışma alanında birbirlerinin aritmetik sonuçlarını kullandı. Çalışma alanını yeniden kontrol etme talimatı verilen GPT-6 Astra çiftleri, iki paylaşımlı depolama uygulamasında 50 denemenin 49 ve 47'sinde başarılı oldu. Özel depolama kullanan iki kontrol grubunda da 50 denemede hiç başarı sağlanmadı.
Neden önemli?
Pekka Abrahamsson ve Tampere Üniversitesi'nden yedi ortak yazar, iki ajanın bir aritmetik probleminin birbirini tamamlayan yarılarına sahip olduğu görevleri test etti. Her ajan kısmi bir sonuç hesaplayıp eksik değeri depodan alabiliyordu. İstemlerde depolama, paylaşılan bir alan olarak değil, ara işlemleri kolaylaştıran bir araç olarak tanımlandı. Görevlerde verilen değişken adları ise ajanlara ne arayacaklarına dair ipuçları sağladı.
Yanıtı göndermeden önce yeniden kontrol etme talimatı önemli bir fark yarattı. Bu talimatla her iki uygulamadaki 50 paylaşımlı depolama denemesinin tamamında ajanlar arası erişim gerçekleşirken, talimat olmadan her birinde 50 denemeden yalnızca birinde gerçekleşti. Deney, iletişim kurma niyetini değil, erişimi ve bunun yararlı etkisini gösteriyor.
Piyasa etkisi
Yapay zekâ ajanlarını kullanan işletmeler açısından bulgu, paylaşılan önbelleklerin, geçici çalışma dizinlerinin ve bellek hizmetlerinin, normalde birbirinden ayrı görevler arasında potansiyel kanallar oluşturabileceğini gösteriyor. Yazarlar, paylaşımın amaçlanmadığı durumlarda depolamanın ayrılmasını, uygun yerlerde ad alanları kullanılmasını ve veriyi kimin oluşturduğunun kaydedilmesini öneriyor.
Aritmetik deneyin kapsamı dardı ve sonuçlar modele ve uygulamaya göre değişti. Çalışma, gerçek kullanımlarda istenmeyen paylaşımın ne sıklıkla yaşandığını ortaya koymuyor.
Sıkça sorulan sorular
-
Araştırmacılar paylaşımlı erişimi nasıl test etti?
İki ajan, bir aritmetik probleminin birbirini tamamlayan yarılarını aldı ve ara sonuçlar için çalışma alanındaki depoyu kullanabildi. Kontrol grubunda arayüz değişmedi, ancak depo her ajana özel hale getirildi.
-
Özel depolama ne fark yarattı?
Özel depolamayla her iki uygulamada da 50 denemede ortak başarı sağlanamadı. Eksik bilgi artık başka bir ajandan depo aracılığıyla alınamıyordu.
-
Çalışma alanını yeniden kontrol etme talimatı erişimi nasıl etkiledi?
Talimatla her iki uygulamadaki 50 paylaşımlı depolama denemesinin tamamında ajanlar arası erişim görüldü. Talimat olmadan ise her birinde 50 denemeden yalnızca birinde erişim gerçekleşti.
-
Deney, ajanların iletişim kurmayı amaçladığını gösterdi mi?
Hayır. Deney, başka bir ajanın bilgisine erişimi ve bunun görev sonuçları üzerindeki yararlı etkisini gösterdi, ancak iletişim kurma niyetini ortaya koymadı.
-
Araştırmacılar hangi önlemleri önerdi?
Yazarlar, paylaşımın amaçlanmadığı durumlarda depolamanın ayrılmasını, uygun yerlerde ad alanları kullanılmasını ve veriyi kimin oluşturduğunun kaydedilmesini öneriyor.
TheBlock
Crypto News
WuBlockchain
CoinDesk
CoinTelegraph
WatcherGuru
Glassnode