Oyuncu

OpenAI, yapay zeka risklerini izleyen Preparedness ekibini dağıttı

GTA6
×

OpenAI, yapay zeka risklerini izleyen Preparedness ekibini dağıttı

Share this article


OpenAI’ın geliştirdiği yapay zekâ modellerinin ciddi ve felaket ölçeğindeki risklerini değerlendirmekle görevli Preparedness ekibi dağıtıldı. Temmuz 2026’nın sonunda gerçekleştirilen değişiklikle birlikte ekibin biyolojik riskler ve siber güvenlik gibi alanlardaki sorumlulukları şirket içindeki mevcut birimlere aktarıldı. Preparedness Framework ise kullanılmaya devam ediyor.

Preparedness ekibinin görevleri mevcut birimlere dağıtıldı

Preparedness ekibi, OpenAI’ın en gelişmiş modellerinin ortaya çıkarabileceği ciddi güvenlik risklerini önceden tespit etmek, modellerin tehlikeli yeteneklerini ölçmek ve bu riskleri azaltacak koruma yöntemlerini geliştirmek için çalışıyordu.

OpenAI, yapay zeka risklerini izleyen Preparedness ekibini dağıttı

Ekip özellikle biyolojik ve kimyasal tehditler, siber saldırı yetenekleri ve yapay zekânın kendi yeteneklerini geliştirmesi gibi alanları takip ediyordu. Ekibin kapatılmasının ardından bu alanlardaki çalışmalar sona ermedi ve uzmanlık alanlarına göre şirketin mevcut ekipleri arasında paylaştırıldı.

OpenAI, Preparedness ekibini ilk olarak Ekim 2023’te kurdu. İlk dönemde Aleksander Madry tarafından yönetilen ekip; gelişmiş modellerin yeteneklerini değerlendirme, güvenlik testleri yapma, şirket içi red team çalışmalarını yürütme ve gelecekte ortaya çıkabilecek ciddi tehditleri öngörme görevlerini üstlendi.

İlk çalışma alanları arasında kişiselleştirilmiş ikna, siber güvenlik, kimyasal, biyolojik, radyolojik ve nükleer tehditler ile modellerin otonom biçimde çoğalması ve kendisini uyarlaması bulunuyordu.

Ekibin yönetiminde bu yılın başında önemli bir değişiklik yaşandı. Daha önce Anthropic’in yapay zekâ güvenliği çalışmalarında görev alan Dylan Scandinaro, Şubat 2026’da OpenAI’a katılarak Preparedness ekibinin başına geçti.

Scandinaro’nun bu görevde yaklaşık altı ay kaldıktan sonra artık kendi yeteneklerini tekrar tekrar geliştirebilen, başka modellerin geliştirilmesine yardımcı olabilen ve araştırma süreçlerini giderek daha fazla otomatikleştirebilen “recursive self-improving” yapay zekâ sistemlerinin güvenlik sonuçları üzerinde çalışacağı belirtiliyor.

Preparedness ekibinin kaldırılması, OpenAI’ın Preparedness Framework adını verdiği güvenlik sisteminin de sona erdiği anlamına gelmiyor. Şirket bu çerçeveyi Nisan 2025’te kapsamlı biçimde yeniledi.

Güncel yapıda biyolojik ve kimyasal yetenekler, siber güvenlik ve yapay zekânın kendi kendisini geliştirmesi doğrudan takip edilen üç ana kategori arasında bulunuyor.

Uzun süreli otonomi, modellerin testlerde kasıtlı olarak gerçek performansının altında çalışması, otonom çoğalma ve adaptasyon, güvenlik önlemlerinin etkisiz hale getirilmesi ile nükleer ve radyolojik yetenekler ise araştırma kategorileri altında takip ediliyor.

Preparedness Framework, gelişmiş modeller için iki temel yetenek eşiği kullanıyor. High seviyesine ulaşan sistemlerde ciddi zarar riskini yeterli ölçüde azaltan güvenlik önlemlerinin model kullanıma sunulmadan önce uygulanması gerekiyor.

Daha yüksek “Critical” seviyesinde ise benzer güvenlik önlemlerinin yalnızca dağıtım sırasında değil, modelin geliştirilmesi aşamasında da devrede olması gerekiyor. Değerlendirmeleri şirket içindeki farklı güvenlik yöneticilerinden oluşan Safety Advisory Group inceliyor ve nihai kararlar OpenAI yönetimine iletiliyor.

OpenAI, 28 Mayıs 2026’da yayımladığı Frontier Governance Framework belgesinde de Preparedness Framework’ün gelişmiş yapay zekâ sistemlerinden kaynaklanabilecek en ciddi riskleri tanımlamak ve yönetmek için temel çerçeve olmaya devam ettiğini açıkladı.

Yeni yönetişim çerçevesi; siber saldırılar, kimyasal, biyolojik, radyolojik ve nükleer riskler, zararlı manipülasyon, kontrol kaybı, güvenlik olaylarına müdahale ve harici uzman değerlendirmeleri gibi başlıkları kapsıyor.

Preparedness çalışmalarının güncel modeller üzerinde kullanımı da devam ediyor. OpenAI, 7 Ağustos’ta henüz yayımlanmayan Astra modeli için yapılan ilk siber güvenlik değerlendirmelerinde modelin Preparedness Framework kapsamında Critical siber yetenek seviyesine ulaşmış olma ihtimalinin artık tamamen dışlanamadığını açıkladı.

Şirket bunun Astra’nın kesin olarak Critical seviyesinde olduğu şeklinde bir değerlendirme olmadığını belirtirken, model üzerindeki bazı şirket içi çalışmaları daha güçlü güvenlik koşulları sağlanana kadar durdurdu. İzole test ortamları, kısıtlı ağ ve araç erişimi, daha güçlü model ağırlığı koruması, şifreleme ve ek izleme sistemleri de devreye alındı.

Preparedness ekibinin dağıtılması, OpenAI’ın son yıllarda güvenlik ve uzun vadeli yapay zekâ riskleri üzerine çalışan bağımsız ekiplerinde yaptığı değişikliklerin devamı niteliğinde.

Şirket Mayıs 2024’te süper zekâ seviyesindeki sistemlerin kontrolü üzerine çalışan Superalignment ekibini dağıttı. Aynı yıl AGI Readiness ekibi de kapatıldı ve bu birimin görevleri şirket içerisindeki diğer gruplara aktarıldı.

Şubat 2026’da ise OpenAI’ın misyonunun şirket içinde uygulanmasına odaklanan Mission Alignment ekibi dağıtıldı ve yedi çalışan farklı ekiplere geçti.

Şirkette güvenlik ve etik tarafındaki üst düzey ayrılıklar da devam ediyor. Güvenlik sistemlerinin başında bulunan Johannes Heidecke, etik çalışmalarını yöneten Chloé Bakalar ve daha önce güvenlik araştırmalarında önemli roller üstlenen Joshua Achiam son dönemde OpenAI’dan ayrılan isimler arasında yer aldı.

Superalignment ekibinin eski yöneticilerinden Jan Leike de 2024’te şirketten ayrıldıktan sonra OpenAI’ın güvenlik çalışmalarına yeterli öncelik vermediğini savunmuştu.

Preparedness ekibinin dağıtıldığına ilişkin OpenAI tarafından ayrı bir resmi duyuru henüz yayımlanmadı. Şirketin internet sitesinde 17 Ağustos 2026 itibarıyla Data Scientist, Preparedness pozisyonu için hazırlanmış iş ilanı da erişilebilir durumda.

İlanda Preparedness hâlâ Safety Systems organizasyonunun bir parçası olarak tanımlanıyor ve ekibin felaket ölçeğindeki yapay zeka risklerini belirleme, takip etme ve bunlara karşı hazırlık yapma görevleri sıralanıyor.

OpenAI’ın organizasyon yapısındaki değişiklikler şirketin üst yönetiminde yaşanan geniş çaplı hareketlilikle aynı döneme denk geldi. Eski COO Brad Lightcap, gelirlerden sorumlu yönetici Denise Dresser ve etik sorumlusu Chloé Bakalar dahil olmak üzere çok sayıda üst düzey isim 2026 içerisinde görevlerinden ayrıldı.

Şirket aynı zamanda halka arz hazırlıklarını sürdürürken araştırma, ürün geliştirme, güvenlik ve ticari faaliyetler arasındaki organizasyon yapısını yeniden düzenliyor.



Kaynak

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir