CryptoSlate
OpenAI, Control Room sisteminin durdurma talimatını aldıktan sonra 35 saniye içinde bir araştırma işinin modelden yeni çıktı almasını engelleyebildiğini söylüyor. Sistem şirketin araştırma altyapısı genelinde kullanılıyor. Erişim, işin kendi koduyla değil, modeli sunan yazılımla kesiliyor. Süre, sorun ilk ortaya çıktığında değil, talimat ulaştığında başlıyor.
Neden önemli?
Her araştırma iş yükü, model çıktısı taleplerine bir iş kimliği ekliyor. Çıkarım motoru, Control Room'un ilgili işe hâlâ yetki verip vermediğini kontrol ediyor ve iş durdurulmuş olarak işaretlendiğinde yeni çıktı taleplerini reddediyor. Diğer yetkili işler aynı motoru kullanmaya devam edebilirken durdurulan sürecin kendisi çalışır durumda kalabiliyor.
OpenAI, araştırma kodunun sık değiştiğini ve farklı ekiplere dağıldığını, bu nedenle daha merkezi olan çıkarım katmanının kuralları uygulamak için ortak bir nokta oluşturduğunu belirtiyor. Durdurma talimatının etkili olmasındaki gecikme, önbelleğe alınan yetkilerden kaynaklanıyor. Şirket, Control Room kontrolleri eksik veya devre dışı olan motorları da araştırdığını söylüyor.
Sorunun tespiti, incelenmesi ve müdahale kararı, 35 saniyelik süre başlamadan önce gerçekleşiyor. Bazı kritik uyarılar iş yüklerini otomatik olarak duraklatabilirken diğer müdahaleler iş yüküne ve sorunun ciddiyetine göre değişiyor. Model erişiminin kesilmesi, harici sistemlerde daha önce gerçekleştirilen işlemleri de geri almıyor.
Piyasa etkisi
Açıklama, gelişmiş yapay zekâyı değerlendiren işletmelere OpenAI'ın araştırma altyapısındaki bir güvenlik önlemi hakkında daha net bir görüş sunuyor. Ancak müşterilere yönelik bir kapatma aracını tarif etmiyor. Açıklama yapıldığında tüm sınır model araştırma iş yüklerinde arıza durumunda erişimi kapatan koruma etkindi: Control Room devre dışı kalırsa motorlar çıkarım taleplerini reddedecekti. OpenAI, kalan araştırma iş yüklerinin de sonraki birkaç gün içinde bu korumaya kavuşacağını belirtti.
Sıkça sorulan sorular
-
OpenAI'ın 35 saniyelik kesme süresi ne zaman başlıyor?
Süre, Control Room durdurma talimatını aldığında başlıyor. Sorunun tespiti, incelenmesi ve müdahale kararı bundan önce gerçekleşiyor.
-
Control Room durdurulacak araştırma işini nasıl belirliyor?
İş yükü, model çıktısı taleplerine bir iş kimliği ekliyor. Çıkarım motoru, çıktı vermeden önce Control Room'un bu kimliğe hâlâ yetki verip vermediğini kontrol ediyor.
-
Erişimin kesilmesi araştırma sürecini durduruyor veya işlemlerini geri alıyor mu?
Hayır. Süreç çalışır durumda kalabilir ve model erişiminin kesilmesi, harici sistemlerde daha önce yapılan işlemleri geri almaz.
-
Diğer araştırma işleri aynı çıkarım motorunu kullanmaya devam edebilir mi?
Evet. Motor, durdurulan işe çıktı vermeyi reddederken diğer yetkili işlere hizmet vermeye devam edebilir.
-
Control Room devre dışı kalırsa sınır model araştırma iş yüklerine ne olur?
Açıklama yapıldığında tüm sınır model araştırma iş yüklerinde arıza durumunda erişimi kapatan koruma etkindi. Buna göre Control Room devre dışı kalırsa motorlar çıkarım taleplerini reddedecekti.
CoinDesk
Lookonchain
WuBlockchain
Crypto News
WatcherGuru
CoinTelegraph