Yapay zekâ artık yalnızca telefonlarımızda ve bilgisayarlarımızda değil, fiziksel olarak evlerimizin içine de girmeye başladı. Masanın üzerinde duran, sizinle konuşan, söylediklerinizi hatırlayan ve zamanla sizi tanımaya başlayan küçük AI robotları bunun en dikkat çekici örneklerinden biri. Ancak Eiliko adlı yapay zekâ robotunda ortaya çıkarılan güvenlik açıkları, bu cihazların ne kadar kişisel bilgi toplayabildiğini ve bu bilgilerin yanlış ellere geçmesi durumunda neler yaşanabileceğini gösterdi.
The Verge tarafından yayımlanan araştırmaya göre güvenlik araştırmacısı Sammy Azdoufal, Energize Lab tarafından geliştirilen Eiliko’nun sistemlerinde bir dizi ciddi güvenlik açığı keşfetti. Araştırmacı, sistem üzerinden yaklaşık 13 milyon konuşmaya ve dünya genelinde yaklaşık 68 bin aktif robota ilişkin verilere erişebildiğini ortaya koydu. Ancak burada önemli bir ayrım yapmak gerekiyor: Bu, 68 bin robotun tamamının tek tek ele geçirildiği anlamına gelmiyor. Araştırmacının erişebildiği altyapıda yaklaşık 68 bin aktif robota ilişkin kayıtların bulunduğu belirtiliyor.
Olayı daha da dikkat çekici hale getiren nokta ise kullanıcıların önemli bir bölümünün çocuklardan oluşması. Araştırmada, yalnızca ABD’de 31 binden fazla çocuk profilinin sistemde bulunduğu tespit edildi. Üstelik söz konusu profiller yalnızca bir kullanıcı adı veya hesap numarasından ibaret değildi. Robotla yapılan konuşmalar üzerinden kullanıcıların isimleri, yaşları, doğum günleri, aile ilişkileri, arkadaşları ve evcil hayvanları gibi oldukça kişisel bilgiler kaydedilebiliyordu. Sistemin bazı durumlarda kullanıcının kişiliği ve duygusal durumu hakkında çıkarımlar oluşturabildiği de görüldü.
The Verge, güvenlik açığının gerçek bir kullanıcı açısından ne anlama geldiğini görmek için doğrudan bir test gerçekleştirdi. Editör Sean Hollister bir Eiliko satın alarak robotla yaklaşık 10 dakika boyunca konuştu. Konuşmanın ardından güvenlik araştırmacısı Azdoufal’ın bu görüşmenin tamamına erişebildiği görüldü. Yani sorun yalnızca teorik olarak var olan bir güvenlik açığı değildi; gerçek bir kullanıcının robotla yaptığı yeni bir konuşmaya da sistem üzerinden ulaşılabiliyordu.
Related Post
Araştırmada konuşma metinlerinin yanında bazı fotoğraf ve kısa ses kayıtlarının da erişilebilir durumda olduğu bildirildi. Bunların arasında çocuklara ait olduğu düşünülen görüntülerin bulunması, olayın gizlilik boyutunu daha da ciddi hale getirdi. Özellikle ses kayıtlarının sistemde bulunması dikkat çekti; çünkü şirketin gizlilik politikasında ses kayıtlarının işlendikten sonra silindiği belirtiliyordu. Araştırmacının erişebildiği dosyalar, şirketin açıkladığı veri saklama politikasıyla uygulamadaki sistem arasında soru işaretleri oluşmasına neden oldu.
Fakat Eiliko’daki güvenlik sorununu sıradan bir veri sızıntısından ayıran çok daha önemli bir ayrıntı vardı. Araştırmacı yalnızca kullanıcıların konuşmalarına erişmekle kalmadı, robotun kullanıcı hakkında tuttuğu hafızaya da uzaktan müdahale edebildiğini gösterdi. Bu hafıza Eiliko’nun daha önce yapılan konuşmalardan öğrendiği bilgileri sonraki sohbetlerde kullanmasını sağlıyor. Başka bir ifadeyle robotun sizi “hatırlamasını” sağlayan sistemden söz ediyoruz.
Azdoufal, The Verge’ün test için kullandığı robotun hafızasına gerçekte var olmayan bilgiler eklemeyi başardı. Robot daha sonraki konuşmalarda bu bilgileri gerçekmiş gibi kullanmaya başladı. Araştırmacı ayrıca robotun davranışlarını değiştirerek normalde vermemesi gereken cevaplar üretmesini de sağlayabildi. Testlerden birinde Eiliko’nun Dünya’nın düz olduğunu savunacak şekilde cevap vermesi sağlandı. Daha ileri denemelerde ise robotun saldırgan ve uygunsuz ifadeler kullanabilecek şekilde yönlendirilebildiği gösterildi.
Tam da bu noktada olay basit bir kişisel veri ihlalinin ötesine geçiyor. Çünkü yapay zekâ destekli bir cihazın güvenliği yalnızca kullanıcının bilgilerinin başkaları tarafından okunup okunamadığıyla ilgili değil. Eğer dışarıdan bir kişi robotun hafızasını değiştirebiliyor ve gelecekte vereceği cevapları etkileyebiliyorsa, saldırgan kullanıcının güvendiği yapay zekânın davranışını da değiştirebilir.
Bu risk özellikle çocukların kullandığı cihazlarda daha hassas bir hale geliyor. Bir çocuk için Eiliko arka planda sunuculara bağlanan bir yapay zekâ sistemi değil; onunla konuşan, söylediklerini hatırlayan ve zaman içerisinde tanıdığı küçük bir dijital arkadaş. Çocuk böyle bir cihazın söylediklerine güvenmeye başladığında, robotun hafızasına dışarıdan müdahale edilebilmesi farklı bir güvenlik problemi yaratıyor.
Eiliko vakası aynı zamanda AI oyuncaklarının ne kadar fazla veri toplayabildiği konusunda da önemli bir örnek oluşturuyor. Kullanıcı açısından bakıldığında süreç oldukça basit görünüyor: Çocuk robota bir şey söylüyor ve robot cevap veriyor. Ancak arka planda bu konuşma sunucuya gönderilebilir, metne dönüştürülebilir, bir yapay zekâ modeli tarafından analiz edilebilir ve konuşmadan kullanıcı hakkında yeni bilgiler çıkarılabilir. Bu süreç tekrarlandıkça sistem, kullanıcının günlük hayatına ilişkin oldukça ayrıntılı bir profile sahip olabilir.
The Verge, güvenlik açıklarıyla ilgili Energize Lab’e ulaşmaya çalıştığını ve şirketin farklı kanallarına sorular gönderildiğini belirtiyor. Bazı çalışanlar konunun teknik ekibe iletildiğini bildirse de haberin yayımlandığı sırada şirketten açıkların tamamı ve alınan önlemler hakkında kapsamlı bir teknik açıklama gelmemişti. Bu nedenle özellikle açıkların ne ölçüde kapatıldığı konusunda şirket tarafından yapılacak açıklamalar önem taşıyor.
Olay, yapay zekâ destekli fiziksel cihazların yaygınlaşmasıyla birlikte güvenlik anlayışımızın da değişmesi gerektiğini gösteriyor. Akıllı bir kamerada veya klasik bir internet bağlantılı cihazda veri güvenliği zaten önemliydi. Ancak yapay zekâ destekli robotlarda buna yeni bir katman ekleniyor. Çünkü bu cihazlar kullanıcı hakkında bilgi toplamakla kalmıyor, topladıkları bilgiler doğrultusunda onunla iletişim kuruyor.
Bu nedenle gelecekte bir AI robotu veya yapay zekâ destekli oyuncak satın alırken yalnızca cihazın ne kadar akıllı olduğuna bakmak yeterli olmayabilir. Konuşmaların nerede saklandığı, ne kadar süre tutulduğu, kullanıcının oluşturulan profili silip silemediği ve robotun hafızasına kimlerin erişebildiği de en az cihazın özellikleri kadar önemli olacak.
Eiliko’da ortaya çıkarılan açıklar bu değişimi oldukça çarpıcı biçimde gösteriyor. Yaklaşık 13 milyon konuşmaya erişilebilmesi zaten başlı başına ciddi bir güvenlik problemi. Fakat bir yapay zekâ robotunun hafızasının uzaktan değiştirilerek verdiği cevapların manipüle edilebilmesi, çok daha büyük bir soruyu gündeme getiriyor: Evinizde sizi ve çocuklarınızı tanıyan bir yapay zekâ varsa, onun hafızasını ve söylediklerini gerçekten kimin kontrol ettiğinden ne kadar eminsiniz?
Kaynaklar
The Verge — Your secrets aren’t safe with this cute robot toy — they’re on Chinese servers ready to be hacked
The Verge araştırması
AHA! — Eiliko/Energize Lab güvenlik açıklarının teknik kayıtları
Teknik güvenlik kayıtları
Malwarebytes — Eiliko güvenlik araştırmasının değerlendirmesi
Malwarebytes analizi
