Mysten Labs CEO’su Evan Cheng, düşmanca bir dünyada çalışan yapay zekâ ajanlarının sınırlarını belirlemek için deterministik protokollere ihtiyaç duyduğunu söylüyor.
Bu yaklaşım, ajan güvenliğinin merkezine öngörülebilirliği koyuyor: Açık ve uygulanabilir sınırlar, otonom sistemlerin düşmanca girdilerle veya ortamlarla karşılaştıklarında neler yapabileceklerini kısıtlamaya yardımcı olabilir. Yapay zekâ sektöründe güven, yalnızca ajanların neler başarabileceğine değil, eylemlerinin tanımlanmış kurallar içinde kalıp kalmadığına da bağlı.
Sıkça sorulan sorular
-
Evan Cheng’e göre yapay zekâ ajanlarının neye ihtiyacı var?
Cheng, düşmanca ortamlarda eylemlerine sınır koymak için yapay zekâ ajanlarının deterministik protokollere ihtiyacı olduğunu söylüyor.
-
Deterministik protokoller yapay zekâ ajanlarının güvenliği açısından neden önemli?
Ajanların, düşmanca girdilerle karşılaştıklarında bile neler yapabileceklerine dair açık ve öngörülebilir sınırlar getirebilirler.
-
Bu yaklaşım, yapay zekâ ajanlarına duyulan güvenle nasıl bağlantılı?
Bu görüşe göre güven, kısmen ajanların eylemlerinin tanımlanmış ve öngörülebilir sınırlar içinde kalmasına bağlı.
-
Yapay zekâ ajanları düşmanca ortamlarda hangi zorluklarla karşılaşıyor?
Düşmanca girdilerle veya koşullarla karşılaşabilirler; bu da eylemlerine açık kısıtlamalar getirilmesini önemli kılar.
-
Cheng’in görüşü yapay zekâ sistemleriyle ilgili daha geniş hangi konuyu gündeme getiriyor?
Yetenekli yapay zekâ sistemlerini yönetirken hem ajanların neler yapabildiğine hem de eylemlerini sınırlayan kurallara dikkat edilmesi gerektiğini vurguluyor.
WatcherGuru
Crypto News
CoinDesk
TheBlock
CryptoSlate
WuBlockchain