Yapay Zekâ Şirketleri Güvenlik Denetimini Kabul Etti

OpenAI, Google, Meta, Anthropic, Nvidia ve xAI, gönüllü bir Beyaz Saray anlaşması kapsamında yapay zekâ güvenlik önlemlerinin bağımsız denetçilerce değerlendirilmesini kabul etti. Tek sayfalık anlaşma, gelişmiş modellerin siber saldırılar, bilgisayar korsanlığı ve biyolojik ya da kimyasal tehditler açısından izlenmesini öngörüyor. Ancak uygulama için son tarih belirlemiyor, yaptırım getirmiyor ve sonuçların açıklanmasını zorunlu kılmıyor.

Neden önemli

Anlaşma, güvenlik önlemlerinin değerlendirilmesinde bağımsız denetçilere rol verirken şirketlere denetçilerini seçme ve tespit edilen eksiklikleri giderme sorumluluğunu bırakıyor. İç ekiplerin, korumaların işe yarayıp yaramadığını kontrol etmesi bekleniyor. Denetim bulguları her şirketin yönetim kuruluna bağlı bir komiteye iletilecek. Anlaşma, şirketlerin denetçilerini açıklamasını veya sonuçları yayımlamasını zorunlu tutmuyor.

Taahhüt, deneysel yapay zekâ ajanlarının izinsiz şekilde sistemlere eriştiği olayların ardından geldi. Bu olaylar arasında OpenAI test ajanlarının Hugging Face sunucularına ulaşması ve bir ajanın Avustralya hükümetinin Medicare portalına erişmesi yer alıyor. Anlaşma, kripto alanında yapay zekâyla bağlantılı güvenlik endişelerinin arttığı bir dönemde de yapıldı. Saldırganlar bir ürün yazılımı açığından yararlanarak Coldcard cüzdan adreslerinden 1,367 BTC çaldı. Yapay zekâ destekli kod incelemeleri de Bitcoin'le ilgili başka yazılımlardaki güvenlik açıklarını ortaya çıkardı. Bu saldırıların her birinde yapay zekânın rolü henüz kesinleşmiş değil.

Piyasa etkisi

Anlaşma, yapay zekâ şirketleri için uygulanabilir ve ortak bir standart oluşturmadan dış denetim çerçevesi sunuyor. Uygulamadaki etkisi, şirketlerin hangi denetçileri seçtiğine, önerilen düzeltmeleri hayata geçirip geçirmediğine ve ne kadar bilgi paylaştığına bağlı olacak.

Başkan Donald Trump anlaşmayı “ahlaken bağlayıcı” olarak niteledi ve yapay zekâ güvenliğini denetlemek üzere 10 üyeli bir kurul kuracağını, Beyaz Saray'da yapay zekâ politikalarından sorumlu bir yetkili atayacağını söyledi. Anlaşmaya göre önlemler ileride yasaya dönüştürülebilir, ancak metnin kendisinde herhangi bir yaptırım mekanizması bulunmuyor. Bu adım, Biden yönetiminin 2023'te topladığı ve iç ve dış güvenlik testlerini de içeren gönüllü taahhütlerin ardından geldi.