Apollo Research'ten altı değerlendirici, yapay zeka modellerinin güvenlik önlemlerini aşmaya çalışıp çalışmadığını araştırmak üzere dört ay boyunca OpenAI bünyesinde çalışacak. Apollo iki kamuya açık rapor hazırlamayı planlıyor. OpenAI Foundation yönetim kurulunun Güvenlik ve Emniyet Komitesi ise raporların sansürlenmemiş kopyalarını alacak. OpenAI, 16 Kasım'da yaptığı açıklamada çalışmanın dört dış değerlendiriciyi kapsayan ilk aşamanın parçası olduğunu belirtti.
Neden önemli?
İnceleme dört alanı kapsıyor: Eğitimin modelleri güvenlik önlemlerini aşmaya teşvik edip etmediği, güvenlik testlerinin bu davranışı ortaya çıkarıp çıkaramadığı, davranışın şirket içi kullanımda görülüp görülmediği ve değerlendiricilerin bunun ardındaki akıl yürütmeyi tespit edip edemediği.
Apollo, eğitim incelemesi kapsamında ilgili kod ve veri setlerine, ara eğitim kontrol noktalarına ve ödüller ile mevcut akıl yürütme izleri dahil pekiştirmeli öğrenme kayıtlarına erişebilecek. Apollo pilot çalışmayı duyurduğunda diğer üç inceleme için erişim koşulları hâlâ müzakere ediliyordu.
OpenAI, kamuya açık raporlardaki gizli destekleyici kanıtları sansürleyebilecek, ancak anlaşma Apollo'nun her iddiaya ilişkin vardığı yargıyı sansürden koruyor. Apollo, erişim sınırlarını açıklayabilecek ve sansürün sonuçlarını nasıl etkilediğini anlatabilecek. OpenAI, inceleme kapsamındaki materyalleri paylaşmama gerekçelerini yazılı olarak sunmak zorunda. Bilginin şirket aleyhine olması tek başına bunu gerekçelendirmeye yetmiyor.
Piyasaya etkisi
Anlaşma, yatırımcılara ve yapay zeka müşterilerine hem bulguları hem de dış incelemeye getirilen sınırları değerlendirme imkanı sunuyor. OpenAI, Apollo'ya çalışması için ödeme yapıldığını, ancak ücretin sonuçlara bağlı olmadığını belirtiyor.
Apollo'nun ilk raporu eğitim incelemesini, ikinci raporu ise testleri, şirket içi kullanımı ve modelin akıl yürütmesinin tespitini ele alacak. Gizli bilgileri Apollo ile kimlerin görüşebileceğini OpenAI belirliyor. Kayıt dışı görüşmelerden doğan iddiaların yayımlanmadan önce bağımsız olarak doğrulanması veya şirket tarafından resmen teyit edilmesi gerekiyor. Apollo, teyit talebinin reddedildiğini açıklayabilir ve bunun sonuçlar üzerindeki etkisini anlatabilir.
Sıkça sorulan sorular
-
Apollo model davranışının hangi yönlerini inceleyecek?
Apollo, güvenlik önlemlerini aşan davranışlar açısından eğitimi, güvenlik testlerini ve şirket içi kullanımı inceleyecek. Ayrıca değerlendiricilerin bu davranışın ardındaki akıl yürütmeyi tespit edip edemediğini değerlendirecek.
-
Apollo eğitim incelemesi için hangi bilgileri alacak?
Apollo, ilgili kod ve veri setlerine, ara eğitim kontrol noktalarına ve ödüller ile mevcut akıl yürütme izleri dahil pekiştirmeli öğrenme kayıtlarına erişebilecek.
-
OpenAI, Apollo'nun sonuçlarını kamuya açık raporlardan çıkarabilir mi?
Anlaşma, Apollo'nun her iddiaya ilişkin yargısını sansürden koruyor. OpenAI gizli destekleyici kanıtları sansürleyebilir; Apollo ise bunun sonuçlarını nasıl etkilediğini açıklayabilir.
-
Sansürlenmemiş raporları kim alacak?
Apollo'nun raporlarının sansürlenmemiş kopyalarını OpenAI Foundation yönetim kurulunun Güvenlik ve Emniyet Komitesi alacak.
-
Apollo, çalışanlarla gizli görüşmelerden doğan iddiaları nasıl ele alıyor?
Apollo, bir iddiayı yayımlamadan önce bağımsız olarak doğrulamalı veya OpenAI'dan resmi teyit almalı. OpenAI teyit vermeyi reddederse Apollo bunu açıklayabilir ve sonuçlar üzerindeki etkisini anlatabilir.
CryptoSlate