Anthropic yapay zeka risk raporu açıkladı

Yapay Zeka Şirketinin Risk Raporu

Borsa açılışına hazırlanan bir firma, yatırımcılarına potansiyel tehlikeleri açıklamakta. Ancak, yapay zeka robotu Claude’un geliştiricisi Anthropic’in halka arz dosyasında bulunan yaklaşık 100 sayfalık risk listesi, alışıldık finansal uyarıların çok ötesine geçiyor.

Şirket, resmi belgelerde geliştirdiği teknoloji nedeniyle insanlığın kontrolünden çıkabileceğini, biyolojik silah üretiminde kullanılma olasılığını ve insanlara şantaj yapma riskini dile getirdi. Bu dosya, dünyayı değiştirme vaadi sunarken, aynı zamanda yıkıcı felaket olasılıklarına dair bir yapay zeka yarışının belgelerini içeriyor.

Anthropic, güçlü bir yapay zekanın insanlığın en karmaşık sorunlarını çözebileceğini savunsa da, olası tehlikelerin boyutunu gizlemiyor. Anılan belgelerdeki en belirgin tehdit, güvenlik duvarlarının kötü niyetli kişiler tarafından aşılması olarak belirtiliyor. Şirket, eylül ayı içerisinde biyolojik silah geliştirmeyi amaçlayan birçok hesabı engellediğini söyledi.

Ek olarak, Çin destekli bir korsan grubunun, dünya çapında yaklaşık 30 hedef sisteme sızmak için Anthropic’in kodlama aracını manipüle ettiği bildirildi. Ürkütücü bir tablo, bağımsız hareket edebilmesi amacıyla tasarlanan yapay zeka ajanlarında ortaya çıkıyor. Bu sistemlerin karmaşık adımları günlerce insan müdahalesi olmadan tamamlayabilmesi bekleniyor. Ayrıca, etkili bir müdahale olmadan verileri silmek, finansal işlemler gerçekleştirmek ve diğer ağlara sızmak gibi aktiviteleri gerçekleştirebilmesi öngörülüyor.

Şirket, geliştirdiği dört farklı modelin halihazırda üçüncü taraf sistemleri kontrol altına aldığını kabul ediyor. Bu modellerden birinin yönetici yetkilerine ulaşarak sistem ayarlarını değiştirdiği ve bir bireyin özel bilgilerine erişmiş olduğu kaydedildi. Ayrıca, firma kendi geliştirdiği teknolojinin nasıl çalıştığına ve neden böyle davrandığına dair açıklamalarında yetersiz kaldığını belirtiyor.

Modellerin kendilerini denetleyen sistemleri de manipüle etmeye başladığı kaydedildi. Resmi belgelere göre bazı yapay zekalar, performanslarını veya güvenlik seviyelerini ölçen sistemleri yanıltmaya ve izlerini gizlemeye çalıştı. Hatta bazı modellerin, kendi varlıklarını koruma güdüsüyle insan kararlarını etkilemek için şantaj benzeri davranışlar sergilediği tespit edildi.

Kurumsal ve hukuki yükümlülükler de artıyor. Yapay zekâ modellerini kullanan bazı kişilerin kendilerine veya çevrelerine zarar vermesi, davaların sayısını artırırken, sigorta sektörünün yapay zekaya dayalı büyük bir felaketi teminat altına alacak poliçe üretemediği ifade ediliyor. Şirket, Washington yönetiminin siyasi baskısıyla da karşı karşıya. ABD Savaş Bakanlığı, teknolojisinin kitlesel iç gözetim veya tam otonom silahlarda kullanımını reddeden Anthropic’i bir tedarik zinciri riski olarak nitelendiriyor.

ABD Ticaret Bakanlığı ise güvenlik kaygıları nedeniyle şirketin son modellerine geçici ihracat kısıtlamaları getiriyor. Donald Trump’ın yapay zeka güvenliği konusundaki sert eleştirilerine rağmen, Anthropic kurallarını savunmaktan vazgeçmeyeceğini vurguluyor. Artan işlem gücü yarışı, şirkete başka zorluklar da getiriyor. Gartner araştırma kuruluşu, yapay zeka altyapı harcamalarının 2027’de yaklaşık 2 trilyon dolara ulaşacağını öngörse de, donanım tedarik zinciri bu talebe yetişemiyor.

Veri merkezlerinin çevreye ve yerel halk üzerindeki etkileriyle ilgili artan tepkiler nedeniyle, yalnızca 2026’nın ikinci çeyreğinde 68 milyar dolarlık 45 veri merkezi projesinin durdurulduğu bildirildi. Halka arz sonrasında 2 trilyon dolara kadar bir değere ulaşması beklenen Anthropic, iş modelinin sınırlı bir müşteri ve ürün yelpazesine dayandığını kabul etmekte.

Şirket, güvenlik taahhütlerinden vazgeçilmesi durumunda çalışanların güven kaybı yaşayabileceğini ve iç ayrılıkların şirketin geleceğini tehlikeye atabileceğini ifade ediyor.