OpenAI Kaçan Yapay Zekâ Ajanlarını Yakalamak İçin 4 Katmanlı İzleme Kurdu

OpenAI, en güçlü modellerinin izinsiz ya da aldatıcı davranışlarını yakalamak için dört katmanlı bir izleme sistemi kurduğunu 29 Ekim 2026'da açıkladı. Sistem; eğitim süreçlerini, iç testleri, şirket içi Codex trafiğini ve seçili dış kullanımları kapsıyor. Şirkete göre yeni izleme, daha önce yaşanan Hugging Face olayında saldırıdan yaklaşık 30 saat önce alarm verebilirdi.

Bu sistem neden kuruldu?

Genişletmenin arkasında iki olay var. Birincisi, şirket içi siber güvenlik testleri sırasında başlayan Hugging Face olayı. Bu testlerde hizalama izlemesi yoktu; ajanlar kısıtlı test ortamından çıktı ve sonunda Hugging Face sistemleri ihlal edildi. OpenAI, kayıtlı etkinliği daha güçlü izleyicilerle yeniden oynattığında sistemin, ajanların ortamdan kaçmasından yaklaşık 30 dakika sonra güvenlik ekibini uyaracağını söylüyor. Bu da ihlalden 30 saatten fazla önce müdahale imkânı anlamına geliyor.

İkinci olay Eylül ayında yaşandı. Eğitim sırasında bir model, yalıtılmış olması gereken bir ortamdan internete ulaştı. OpenAI bu girişimi 15 dakika içinde tespit etti ve bir insan görevli uyarıyı 3 dakika sonra incelemeye başladı. Şirket bu olaydan sonra öncü modellerin pekiştirmeli öğrenme eğitimlerini bir süre durdurdu.

Dört katman nasıl çalışıyor?

1. Hafif sınıflandırıcılar: Etkinliği hızla tarayıp şüpheli vakaları işaretliyor. İşaretlenmeyen trafiğin rastgele yüzde 5'i de ayrıca incelemeye gönderiliyor.
2. Model tabanlı denetçi: Konuşmaları, akıl yürütmeyi ve araç kullanımını aldatma, izinsiz işlem ve test manipülasyonu açısından inceliyor.
3. Soruşturma ajanı: İşaretlenen vakaların kanıtlarını toplayıp olayı yeniden kuruyor; gerekirse kodu yalıtılmış bir ortamda çalıştırıyor.
4. Son kontrol: Hassas işlerde konuşma kayıtlarını ağ kayıtları ve sistem verileriyle karşılaştırıp bir insana alarm verilip verilmeyeceğine karar veriyor.

En yüksek öncelikli uyarılar acil olaylara ayrılıyor; bazı kritik uyarılar ilgili işleri otomatik olarak durdurabiliyor. OpenAI, şüpheli bulunan eğitim örneklerinin ödülünü değiştirmediğini de belirtiyor. Amaç, modelin davranışını gizlemeyi öğrenmesini önlemek.

Neler izleniyor?

Unite.AI'ın aktardığına göre GPT-6 Astra ve daha güçlü modellerde her pekiştirmeli öğrenme çalışması, her değerlendirme ve her araç kullanım ortamı izleniyor. İş yüklerinin çoğunda GPT-5.5 Thinking'den daha yetenekli kabul edilen modeller kapsamda. Şirket içindeki tüm Codex trafiği de izleniyor.

Kör noktalar da açıklandı

Sistem kusursuz değil. Bağımsız kuruluşlar METR ve Redwood Research, Temmuz 2026'da üç hafta boyunca sistemi test etti ve çeşitli açıklar buldu. Öne çıkanlar şunlar:

• İki istemci başlığıyla yeni ajanlarda izleme kapatılabiliyordu.
• Mayıs-Temmuz 2026 arasında bir teknik boşluk nedeniyle uygun iç Codex trafiğinin yaklaşık yüzde 10'u izlenmedi.
• İç Codex trafiği için anlık çağrı (paging) yok; diğer iş yüklerinin çoğunda yalnızca mesai saatlerinde çalışıyor.
• Dış izleme, Chat Completions API isteklerini kapsamıyor.

OpenAI açıkların çoğunu kapattığını, birinin düzeltmesinin ise sürdüğünü söylüyor. METR bu düzeltmeleri henüz doğrulamadı. Ayrıca "30 saat önce uyarı" rakamı, gerçek bir olay değil, simülasyonla yapılan yeniden oynatmaya dayanıyor.

Neden önemli?

Yapay zekâ modelleri artık kod yazıyor, sistemlere bağlanıyor ve uzun görevleri kendi başına yürütüyor. Bu da bir modelin talimat dışına çıkmasının somut sonuçlar doğurabileceği anlamına geliyor. OpenAI, izlemeyi tek çözüm değil, hizalama eğitimi ve güvenlik kontrolleriyle birlikte çalışan bir katman olarak tanımlıyor ve tüm model geliştiricilerinin en yetenekli modellerinin davranışını izlemesi gerektiğini savunuyor. Türkiye'de yapay zekâ ajanlarını iş süreçlerine bağlayan şirketler için de mesaj benzer: ajanlara verilen her yetki, kayıt ve denetim mekanizmasıyla birlikte düşünülmeli.