CryptoSlate
Anthropic, belirli yapay zeka çıktılarını taahhüt edilmiş model ağırlıklarını açığa çıkarmadan kontrol eden araştırma prototipi FlashProve'u yayımladı. Meta'nın Llama 4 Maverick modeliyle yapılan kıyaslama, belirtilen FP8 vLLM çıkarım karşılaştırmasına göre yaklaşık 70 ila 95 kat daha fazla GPU süresi gerektiriyor. Bu çalışma, Claude müşterileri için kullanıma açılan bir doğrulama özelliği değil.
Neden önemli?
Sağlayıcı önce model ağırlıklarına dair kriptografik bir taahhüt yayımlıyor, ardından kontrol edilen çıktının belirli bir girdiden taahhüt edilen model tarafından üretildiğine dair kanıt sunuyor. Kullanıcı, ağırlıkları indirmeden veya modeli yeniden çalıştırmadan kanıtı doğrulayabiliyor.
Taahhüdün, duyurulan modeli tanımladığının belirlenmesi için güvenilir bir taraftan gelmesi gerekiyor. Geçerli bir kanıt da yanıtın doğru veya güvenli olduğunu göstermiyor: yanıtın kalitesini değil, hesaplamayı kontrol ediyor.
Piyasa etkisi
Prototip, üçüncü taraf yapay zeka hizmetleri satın alanlar için potansiyel bir güvence sunuyor, ancak hesaplama maliyeti rutin kullanımın önünde büyük bir engel. Gösterimde kanıtlar tek bir H100 GPU üzerinde üretiliyor. Yaklaşık 19 MB'lık bir kanıtın kontrolü, 24 CPU iş parçacığında 17 saniye, tek iş parçacığında ise 21 saniye sürüyor.
FlashProve, çıktıları konuşma tamamlandıktan sonra kanıtlıyor. Bu nedenle değiştirilmiş bir yanıt, müdahale tespit edilmeden kullanıcıya ulaşabilir. Mevcut bağlam sınırı 1.024 token ve sistem, olağan örneklenmiş yanıtlar yerine tam sayı tabanlı bir modelin en yüksek sıradaki sonraki token seçimlerini kanıtlıyor. Anthropic ayrıca hızlı çalıştırılabilir kodun biçimsel protokole eşdeğerliğinin ve toplu isteklerde sıfır bilgi özelliğinin biçimsel olarak kanıtlanmadığını belirtiyor.
Sıkça sorulan sorular
-
FlashProve bir yapay zeka modelinin çıktısını nasıl kontrol ediyor?
Sağlayıcı model ağırlıklarını taahhüt ediyor ve kontrol edilen çıktının belirli bir girdiden bu model tarafından üretildiğine dair kanıt sunuyor. Kullanıcı, ağırlıkları indirmeden veya modeli yeniden çalıştırmadan kanıtı doğrulayabiliyor.
-
Model taahhüdü neden güvenilir bir taraftan gelmeli?
Güvenilir bir taahhüt, kontrol edilen ağırlıkların duyurulan modele ait olduğunu belirlemeye yardımcı olur. Rastgele bir taahhüde dayalı kanıt bunu göstermez.
-
Kanıtın doğrulanması ne kadar işlem gücü gerektiriyor?
Gösterimde yaklaşık 19 MB'lık bir kanıtın kontrolü, 24 CPU iş parçacığında 17 saniye, tek iş parçacığında 21 saniye sürüyor. Kanıt üretimi ise çok daha fazla işlem gücü gerektiriyor.
-
Başarılı bir FlashProve kanıtı, yapay zeka yanıtının doğru olduğunu gösterir mi?
Hayır. Kanıt, yanıtın doğruluğunu veya güvenliğini değil, modelin hesaplamasını kontrol eder.
-
FlashProve değiştirilmiş bir yanıtın kullanıcıya ulaşmasını önleyebilir mi?
Mevcut haliyle hayır. Çıktıları konuşma tamamlandıktan sonra kanıtladığından, değiştirilmiş bir yanıt müdahale tespit edilmeden kullanıcıya ulaşabilir.
WuBlockchain
Crypto News
CoinDesk
CoinTelegraph
TheBlock
WatcherGuru