CoinDesk
29 Eylül'de Nvidia, OpenAI, Anthropic, Google, Meta ve xAI, en gelişmiş yapay zekâ modellerinin bağımsız denetimlerden geçirilmesini taahhüt eden bir Beyaz Saray anlaşmasını imzaladı. Başkan Donald Trump, taahhütleri "ahlaken bağlayıcı" olarak nitelendirdi. Anlaşma, her şirketin dışarıdan bir denetçiyle ortaklık kurmasını ve bağımsız yönetim kurulu üyelerinin bulguları incelemesini gerektiriyor. Ancak denetçiyi ve incelemenin kapsamını seçme yetkisini tamamen denetlenen şirkete bırakıyor. Kamuya açık bulgu zorunluluğu yok ve taahhütleri görmezden gelmenin bir cezası bulunmuyor.
Neden önemli
Anlaşma, 2002'de Enron ve Arthur Andersen'ı çökerten teşvik tuzağını yansıtıyor. Andersen, uzmanlık eksikliği nedeniyle değil, Enron'un defterlerini denetlemesi için tek bir yılda kendisine 52 milyon dolar ödemesi nedeniyle başarısız oldu. Kongre, buna Sarbanes-Oxley yasasıyla karşılık verdi. Yasa, denetçi seçme yetkisini yönetimin elinden aldı ve denetçilerin kendisini inceleyecek kamuya bağlı bir kurul oluşturdu. Gönüllü yapay zekâ taahhütleri de aynı uyum modelini şimdiden ortaya koydu. Stanford, Harvard ve Brown tarafından 2023'te yapılan bir çalışmada 16 yapay zekâ şirketi, önceki Beyaz Saray gönüllü taahhütlerine göre değerlendirildi. Ortalama uyum oranı %53 olurken, 16 şirketten 8'i dışarıdakilerin sorunları bulup bildirmesine yardımcı olma konusunda sıfır puan aldı.
Piyasa etkisi
METR'nin OpenAI'nin o3 modeli üzerinde piyasaya sürülmeden önce yaptığı testler, sahadaki farkı gösteriyor. Test yalnızca üç hafta sürdü, model bilgilerine erişim sınırlıydı ve modelin adım adım akıl yürütmesi görülemedi. DeepMind'ın ağustos ayında Singapur Yapay Zekâ Güvenliği Enstitüsü ve üç dış grupla birlikte mühürlü donanım üzerinde gerçekleştirdiği çift kör test ise ileriye dönük bir yol gösteriyor. Dışarıdaki test uzmanları modeli hiç görmedi, Google da onların sorularını hiç görmedi. Her iki taraf da kendi materyalinin gizli kaldığını matematiksel olarak doğrulayabildi. Bu teknik, güveni donanıma taşıyor. Ancak bunun da kendine özgü bir riski var: Araştırmacılar geçen yıl benzer mühürlü donanıma 1.000 dolardan daha az değerindeki ekipmanla girmeyi başardı, fakat bunu yapabilmek için donanıma fiziksel erişimleri olması gerekiyordu. Beyaz Saray anlaşması bunların hiçbirini kurala bağlamıyor. Sarbanes-Oxley denetçileri denetleyecek bir müfettiş oluşturdu. Yapay zekâ anlaşmasında ise buna benzer hiçbir mekanizma yok.
Sıkça sorulan sorular
-
Beyaz Saray yapay zekâ anlaşması nedir ve kimler imzaladı?
29 Eylül'de Nvidia, OpenAI, Anthropic, Google, Meta ve xAI, en gelişmiş yapay zekâ modellerinin bağımsız denetimlere açılmasını taahhüt eden bir Beyaz Saray anlaşması imzaladı. Başkan Donald Trump, taahhütleri "ahlaken bağlayıcı" olarak nitelendirdi.
-
Anlaşmanın denetim hükümleri neden zayıf kabul ediliyor?
Anlaşma, her şirketin dışarıdan bir denetçiyle ortaklık kurmasını ve bağımsız yönetim kurulu üyelerinin bulguları incelemesini gerektiriyor. Ancak denetçiyi kimin seçeceği, denetçinin neyi inceleyebileceği veya bulguların kamuya açıklanıp açıklanmayacağı konusunda hiçbir şey söylemiyor ve anlaşmayı görmezden gelmenin…
-
Anlaşma Enron ve Arthur Andersen ile nasıl karşılaştırılıyor?
Arthur Andersen uzmanlık eksikliği nedeniyle değil, Enron'un defterlerini denetlemesi için tek bir yılda kendisine 52 milyon dolar ödemesi nedeniyle başarısız oldu. Sarbanes-Oxley, denetçi seçme yetkisini yönetimin elinden alarak ve denetçilerin kendisini inceleyecek kamuya bağlı bir kurul oluşturarak karşılık verdi.…
-
Önceki gönüllü yapay zekâ taahhütleri uygulamada nasıl performans gösterdi?
Stanford, Harvard ve Brown'daki araştırmacılar, 16 yapay zekâ şirketini 2023 Beyaz Saray gönüllü taahhütlerine göre değerlendirdi. Ortalama oran %53 oldu ve 16 şirketten 8'i dışarıdakilerin sorunları bulup bildirmesine yardımcı olma vaadi konusunda sıfır puan aldı.
-
Çift kör yapay zekâ testi nedir ve denetim sorununu çözer mi?
Ağustos ayında DeepMind öncülüğündeki bir grup, Singapur Yapay Zekâ Güvenliği Enstitüsü ve üç dış grupla birlikte, mühürlü donanım üzerinde dünyanın ilk çift kör yapay zekâ testi olarak tanımladığı çalışmayı yürüttü. Dışarıdaki test uzmanları modeli hiç görmedi, şirket de onların sorularını hiç görmedi. Her iki taraf…
WuBlockchain
Crypto News
TheBlock
CoinTelegraph
WatcherGuru