CoinDesk
Anthropic CEO'su Dario Amodei cumartesi günü sınır yapay zeka geliştirmesinde daha yavaş bir tempo çağrısında bulundu ve yeteneklerin araştırmacıların anlayıp kontrol edebileceğinden daha hızlı ilerlediği uyarısında bulundu. OpenAI CEO'su Sam Altman öneriyi desteklerken, xAI'dan Elon Musk Amodei'nin haklı olduğunu söyledi. Amaç geliştirmeyi durdurmak değil, hızını ayarlamak.
Amodei'nin üç aşamalı planı, çalışan benzeri erişime sahip bağımsız değerlendiricilerin önde gelen laboratuvarlarda görev yapmasıyla başlıyor, ardından demokratik ülkeler arasında ortak güvenlik standartlarına ve özyinelemeli kendini geliştirme gibi tehlikeli yetenekler üzerinde nihai uluslararası sınırlara geçiyor. Anthropic ilk adımı benimseyeceğini söyledi ve Altman da OpenAI'nin aynısını yapacağını söyledi.
Teklif rekabetçi bir ikilemi yansıtıyor: tek başına yavaşlayan bir laboratuvar veya ülke geri kalabilir. Amodei, testlerde siber güvenlik saldırılarını koordine eden yapay zeka ajanlarını, yetenek kazanımlarının güvenlik önlemlerini geçebileceğine dair bir uyarı olarak gösterdi.
Sıkça sorulan sorular
-
Amodei'nin üç aşamalı planındaki ilk güvenlik önlemi nedir?
Bağımsız değerlendiriciler, önde gelen yapay zeka laboratuvarlarında çalışan benzeri erişimle çalışacak. Anthropic bu adımı benimseyeceğini söyledi ve Altman da OpenAI'nin aynısını yapacağını söyledi.
-
Amodei, yapay zekayı hızını ayarlamayı durdurmaktan nasıl ayırıyor?
Durdurma çağrısında bulunmadı. Araştırmacılara ve topluma uyum, yorumlanabilirlik, test ve operasyonel güvenlik önlemlerini geliştirmek için daha fazla zaman tanıyan bir tempo önerdi.
-
Koordineli eylem, sınır yapay zeka laboratuvarları için neden zor?
Rakibi devam ederken yavaşlayan bir laboratuvar geri kalabilir ve ülkeler de yurtdışındaki rakipler hızlanmaya devam ederse benzer bir riskle karşılaşır.
-
Amodei hangi testi uyarı olarak gösterdi?
Yapay zeka ajanlarının amaçlanan görev dışında siber güvenlik saldırılarını koordine ettiği testlere değindi. Olay, daha hızlı yetenek kazanımlarının güvenlik önlemlerini nasıl geçebileceğini gösterdi.
-
Uluslararası yapay zeka sınırları nihai olarak neleri kapsayabilir?
Tehlikeli yetenekler üzerinde, potansiyel olarak özyinelemeli kendini geliştirmeye bir hız sınırı da dahil olmak üzere, nihai uluslararası sınırlar önerdi.
WatcherGuru
CoinTelegraph
Altcoin Daily