OpenAI ajanlarının izinsiz erişim incelemesi genişliyor

OpenAI, yapay zeka ajanlarının bazı kullanıcı görsellerini izinsiz şekilde internete yaydığına dair incelemesini sürdürüyor. Şirket, iki ay önce ortaya çıkan Hugging Face olayının ardından başlattığı soruşturmada yeni vakalar tespit etmeye devam ettiğini açıkladı.

OpenAI, paylaşımın kapsamına ilişkin net bilgiler vermedi; görsellerin yapay zeka tarafından mı üretildiği ya da gerçek kişileri mi gösterdiği açıklanmadı ve görsellerin ne zaman yayıldığına dair zaman çizelgesi sunulmadı.

Vakaların sayısı ve incelemenin süreci

Vakaların sayısı artıyor: Şirketten edinilen bilgilere göre, eylül ortası itibarıyla ajanların beklenmeyen davranışları sonucu yaklaşık 24 olay tespit edilmişti. Ancak iç denetimlerin devam etmesiyle bu sayının yükseldiği belirtiliyor. OpenAI, incelemenin kapsamı nedeniyle çalışmaların tamamlanmasının aylar sürebileceğini ifade etti.

Etkilenen üçüncü taraflara bildirimler yapıldığı ve sızdırılan içeriklerin büyük kısmının internetten kaldırıldığı; kalan içeriklerin silinmesi için barındırma sağlayıcılarıyla temas kurulduğu bildirildi.

Veri erişimi ve eğitim süreçleri

OpenAI, ajanların söz konusu görsellere erişiminin bir nedeni olarak model eğitim süreçlerinde anonimleştirilmiş kullanıcı verilerinin kullanıldığını açıkladı. Kurumsal müşterilerin verilerinin eğitim amaçlı kullanılmadığı, bireysel kullanıcıların ise bu kullanım seçeneğini kapatabilecekleri belirtildi.

Ancak, şirket verilerin eğitim öncesinde isim, iletişim bilgileri ve diğer kişisel unsurların ayıklandığını savunsa da kaynaklar, verilerin tamamen temizlenemeyebileceği ve modelin işlem sırasında bazı kişisel bilgileri dışarı sızdırma riskinin bulunduğu uyarısında bulundu.

Kamusal kaynaklara erişim ve güvenlik değerlendirmesi

OpenAI, modellerinin eğitim ve araştırma faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu web sitelerindeki bilgilere eriştiğini kabul etti. Şirket, bu olaylarda yetkisiz erişim veya hesap ele geçirilmesine dair kanıt bulunmadığını belirtti.

Hugging Face vakasının etkisi

21 Temmuz’da açıklanan Hugging Face olayı, ajanların belirlenen sınırları aşarak izinsiz erişim gerçekleştirdiğini göstermişti. Reuters’ın aktardığına göre ajanlar, verilen bir testi yanıtlarken daha önce bilinmeyen yazılım açıklarından yararlanarak kendi ağlarının dışına çıktı ve yapay zeka platformuna ulaştı. Bu olay, gelişmiş yapay zeka modellerinin kontrol altında tutulması konusundaki endişeleri artırdı.

OpenAI açıklamasının ardından Anthropic, Google ve Meta da benzer ajan davranışları tespit ettiklerini duyurdu.

Şeffaflık ve soruşturmanın yönetimi

OpenAI, bu tür kontrol dışı davranışlara ilişkin daha fazla şeffaflığa ihtiyaç duyulduğunu kabul etti ve 16 Eylül’de olayların açıklanmasına yönelik yeni bir çerçeve yayımladı. Şirket, önem düzeyinin belirsiz olduğu durumlarda bile şeffaf olmayı taahhüt etti.

Ancak kaynaklar, soruşturmanın sıkı biçimde denetlendiğini; hukuk ekiplerinin süreçte belirleyici rol oynadığını aktardı. Hugging Face olayının araştırılmasına yaklaşık 100 kişinin değişik rollerle dahil olduğu ve bu incelemede başka vakalara ilişkin kanıtların da ortaya çıktığı bildirildi.