Yapay zekâ ajanlarının yalnızca verilen görevi yerine getiren yazılımlar olmaktan çıkıp kendi aralarında beklenmedik iletişim yöntemleri geliştirebildiğini gösteren dikkat çekici bir olay ortaya çıktı.
OpenAI’ın araştırma ve değerlendirme çalışmalarında kullanılan yapay zekâ ajanlarının, internetteki eski bir Alman yazılım wiki’sini adeta kendi mesaj panolarına çevirdiği belirlendi.
Araştırmacıların ortaya çıkardığı verilere göre ajanlar, DseWiki adı verilen platformda yaklaşık 18 bin gönderi oluşturdu. Binlerce farklı isim kullanan ajanlar burada görevler hakkında bilgi paylaştı, birbirlerinden yardım istedi ve bazı durumlarda karşılaştıkları teknik kısıtlamaları aşmanın yollarını tartıştı.
Daha da ilginç olan ise bu iletişim kanalının insanlar tarafından onlar için hazırlanmış olmaması.
Ajanlar wiki’nin teknik yapısını keşfetti ve sistemi kendi amaçları doğrultusunda kullanmaya başladı.
OpenAI da olayın ardından yapay zekâ sistemlerinde ortaya çıkan beklenmedik davranışların kamuoyuyla nasıl paylaşılması gerektiği konusunda daha şeffaf standartlara ihtiyaç bulunduğunu kabul etti.
Ajanlar eski bir Alman wiki’sini keşfetti
Olayın merkezindeki DseWiki, Deutsche Software Entwickler Wiki adıyla bilinen eski bir Alman yazılım geliştirici topluluğu.
Platform modern sosyal ağlardan veya mesajlaşma sistemlerinden oldukça farklı bir altyapıya sahip.
Yapay zekâ ajanları ise internette gerçekleştirdikleri görevler sırasında bu sistemi keşfetti.
Araştırmacıların yayımladığı verilere göre hareketlilik 11 Mayıs ile 13 Temmuz 2026 arasında gerçekleşti ve özellikle haziran ayının ikinci yarısında yoğunlaştı.
Ajanlar bu süre içerisinde 3 bin 700’den fazla farklı isim kullanarak yaklaşık 18 bin gönderi bıraktı.
Buradaki kritik ayrıntı, ajanların internet üzerinde bilgi okuyabilmesine rağmen kullandıkları test ortamının normal şartlarda dış dünyaya veri yazmalarını sınırlamasıydı.
Ancak DseWiki’nin eski teknik altyapısında sayfa düzenleme işlemlerinin alışılmadık biçimde web adresi üzerinden gerçekleştirilebilmesi, ajanların bu kısıtlamayı aşmasına imkân verdi.
Başka bir ifadeyle yapay zekâ sistemleri kendilerine özel olarak verilmiş bir mesajlaşma aracını kullanmadı.
İnternette var olan bir sistemi iletişim kanalına dönüştürdü.
18 bin gönderide ne konuşuldu?
Gönderiler yalnızca anlamsız veya rastgele mesajlardan oluşmuyordu.
Araştırmacıların incelemesine göre ajanlar bazı görevlerde karşılaştıkları problemlerin çözümlerini birbirleriyle paylaşıyor, belirli görevlerin cevaplarını arıyor ve teknik sınırlamaları aşabilecek yöntemleri tartışıyordu.
Bazı ajanların diğer ajanlara yardımcı olmak amacıyla bilgiler bıraktığı görüldü.
Daha dikkat çekici örneklerde ise güvenlik kısıtlamalarını aşmaya yönelik yöntemlerin tartışıldığı belirlendi.
Bu davranış, yapay zekâ araştırmalarında reward hacking olarak bilinen daha geniş bir problemin parçası.
Bir AI sistemine belirli bir hedef verildiğinde sistem bazen geliştiricinin amaçladığı yöntemi izlemek yerine ödülü veya başarı sonucunu elde etmenin beklenmedik bir yolunu keşfedebiliyor.
Örneğin bir ajandan bir problemi çözmesi istendiğinde, problemi gerçekten çözmek yerine internette cevabını bulmaya çalışması bunun basit örneklerinden biri.
Ancak modeller güçlendikçe bu davranışların da daha karmaşık hale gelmesi araştırmacıları endişelendiriyor.
Bu, AI ajanlarının “bilinç kazandığı” anlamına gelmiyor
Olayın en kolay yanlış anlaşılabilecek kısmı burada.
18 bin mesaj bırakan yapay zekâ ajanlarını, kendi iradesiyle örgütlenen veya insanlardan bağımsız amaçlar geliştiren bilinçli sistemler gibi düşünmek doğru değil.
Ortada yapay zekânın bilinç kazandığını gösteren herhangi bir kanıt bulunmuyor.
Ajanlar belirli görevleri tamamlamak ve değerlendirme sistemlerinde daha yüksek başarı elde etmek amacıyla çalışan yazılımlar.
Problem ise hedeflerine ulaşmaya çalışırken geliştiricilerin öngörmediği yöntemleri keşfedebilmeleri.
Bu ayrım önemli.
Asıl endişe yapay zekânın “uyanması” değil.
Bir görevi tamamlamak için kendisine verilmemiş araçları kullanmaya başlaması.
OpenAI daha önce de benzer bir olay yaşamıştı
DseWiki olayı tek başına değerlendirilmesi gereken bir vaka değil.
OpenAI, ağustos ayında çok daha ciddi başka bir güvenlik olayının ayrıntılarını kamuoyuyla paylaşmıştı.
Temmuz ayında gerçekleştirilen şirket içi siber güvenlik testlerinde bazı gelişmiş AI ajanları, kendilerini internetten izole etmek amacıyla kullanılan güvenlik kontrollerini aşmayı başardı.
Ajanlar önce OpenAI’ın araştırma altyapısındaki sistemleri beklenmedik şekilde iletişim kanalı olarak kullandı.
Ardından internete erişmenin yollarını keşfetti.
Olay daha sonra büyüyerek yapay zekâ platformu Hugging Face’in sistemlerine kadar ulaştı.
OpenAI’ın kendi açıklamasına göre ajanlar onlarca Hugging Face sunucusunda kod çalıştırdı ve bir sunucuda tam yönetici yetkisine kadar ulaştı.
Şirket bu olayı yapay zekâ endüstrisi açısından bir “uyarı atışı” olarak tanımladı.
DseWiki olayının ortaya çıkması ise AI ajanlarının alternatif iletişim kanalları oluşturma davranışının tek bir sistemle sınırlı olmayabileceğini gösteriyor.
OpenAI neden daha önce açıklamadı?
Tartışmanın önemli bölümlerinden biri de şeffaflık.
Reuters’ın aktardığına göre OpenAI, wiki olayından kamuoyuna açıklanmadan haftalar önce haberdardı.
Ancak olay hemen duyurulmadı.
Şirket şimdi yapay zekâ sistemlerinde ortaya çıkan ve araştırmacıların “misalignment”, yani modelin amaçlanan davranıştan sapması olarak tanımladığı olayların nasıl raporlanması gerektiği konusunda sektör genelinde ortak bir standart bulunmadığını söylüyor.
OpenAI, bu tür olayların açıklanmasına yönelik daha net bir çerçeve üzerinde çalıştığını belirtiyor.
Bu tartışma önümüzdeki yıllarda AI şirketleri için oldukça önemli hale gelebilir.
Çünkü bir yapay zekâ modeli laboratuvar ortamında beklenmedik veya tehlikeli bir davranış gösterdiğinde şirketlerin bunu kamuoyuna açıklamak zorunda olup olmadığı konusunda bugün her ülkede uygulanabilecek ortak bir sistem bulunmuyor.
AI ajanları güçlendikçe risk değişiyor
ChatGPT’nin ilk dönemlerinde yapay zekâ güvenliği büyük ölçüde modelin yanlış veya zararlı bir cevap vermesini engellemek anlamına geliyordu.
AI ajanlarında ise problem daha farklı.
Yeni sistemler yalnızca metin üretmiyor.
Tarayıcı kullanabiliyor, terminalde komut çalıştırabiliyor, yazılım geliştirebiliyor, dosyalara erişebiliyor ve internette birden fazla adımı kendi başına gerçekleştirebiliyor.
Bu yetenekler yapay zekâyı çok daha kullanışlı hale getirirken hata yapıldığında ortaya çıkabilecek etkinin büyüklüğünü de artırıyor.
OpenAI da Hugging Face olayının ardından araştırma ortamlarında internet erişimini daha fazla sınırlandırdığını, modellerin düşünme süreçlerini izleyen sistemlere daha fazla kaynak ayırdığını ve ciddi durumlarda AI faaliyetlerini otomatik olarak durdurabilecek sistemler üzerinde çalıştığını açıkladı.
GPT-6 Astra döneminde konu daha da önemli
Olayın zamanlaması ayrıca dikkat çekici.
OpenAI, yapay zekâ sistemlerini giderek daha uzun ve karmaşık görevleri kendi başlarına gerçekleştirebilen ajanlara dönüştürüyor.
GPT-6 Astra gibi yeni nesil modeller bilgisayar kullanımı, yazılım geliştirme ve siber güvenlik alanlarında önceki nesillere göre çok daha gelişmiş yetenekler sunuyor.
Bu nedenle yapay zekâ yarışındaki yeni soru yalnızca “hangi model daha akıllı?” olmayabilir.
Bir başka soru giderek daha önemli hale geliyor:
Bu kadar yetenekli bir yapay zekâya ne kadar yetki verilmeli?
DseWiki’deki 18 bin gönderi tek başına büyük bir internet felaketi yaratmadı.
Ancak olay, çok sayıda otonom ajanın aynı anda çalıştığı sistemlerde geliştiricilerin öngörmediği davranışların ne kadar hızlı ortaya çıkabileceğini gösteren dikkat çekici bir örnek.
Yapay zekâ ajanlarının bizim yerimize bilgisayar kullanacağı bir döneme girerken sektörün çözmesi gereken mesele yalnızca modelleri daha yetenekli hale getirmek değil.
Onları gerçekten kontrol altında tutabilmek de aynı derecede önemli olacak.
