BM’de Yapay Zeka için Küresel İşbirliği Çağrısı

Birleşmiş Milletler Güvenlik Konseyi’nde düzenlenen oturumda, önde gelen yapay zeka şirketlerinin yöneticileri teknolojinin hızla ilerleyişinin hem fırsat hem de tehlike yarattığı uyarısında bulundu. Konuşmacılar, yapay zekanın kontrolünün kaybedilmesi halinde ortaya çıkabilecek küresel risklere dikkat çekti ve uluslararası düzeyde ortak önlemler alınması gerektiğini savundu.

Sam Altman yapay zeka gelişiminin hızlanmasının olumlu sonuçları somutlaştırırken, aynı zamanda riskleri de büyüttüğünü belirtti. Altman, teknolojinin insan yararına araçlar sunma potansiyeline vurgu yaparak, “Yapay zekanın Demokratikleşmesi, en önemli kararların sadece bir iki laboratuvarda alınmamasıyla mümkündür.” dedi ve modellerin halka hesap verebilir yapılarla kontrol altında tutulmasının önemini vurguladı.

Altman’ın Endişeleri ve Önerileri

Altman, daha kabiliyetli ve özerk sistemlerin güç dengelerini değiştirebileceğini ve insan müdahalesini azalttıkça hızla ilerleyebileceğini ifade etti. Bu nedenle şirketlerin, fayda uğruna riskleri göz ardı etmemesi gerektiğini belirtti. “Hiçbir model, insan kontrolü sağlanamadığı sürece eğitilmemeli.” görüşünü savundu ve küresel düzeyde katılımcı, hesap verebilir karar süreçleri çağrısında bulundu.

Dario Amodei: İki Ana Risk Kategorisi

Anthropic CEO’su Dario Amodei ise hızlı gelişimin beraberinde iki temel tehdidi getirdiğini söyledi: (1) teknolojinin kötüye kullanımı — örneğin biyolojik silah üretiminde kullanılma riski; (2) geliştiricilerin kontrol kapasitesinin ötesinde bir hızla model kabiliyetlerinin artması, yani kontrol kaybı. Amodei, bu tehlikelerin tek bir şirketle çözülemeyeceğini, sektörler arası ve uluslararası işbirliğinin şart olduğunu belirtti.

Amodei ayrıca, konsey üyelerinin destekleyebileceği sınırlı kapsamlı anlaşmalarla başlamayı; en gelişmiş modellerin yeteneklerine ilişkin şeffaflığın ve ülkeler arası taahhütlerin doğrulanmasını sağlayacak değerlendirme ve doğrulama mekanizmalarının kurulmasını önerdi. “Hiçbir lider, şirket veya ülke bunu tek başına çözemeyecek.”

Hugging Face Deneyimi ve Siber Güvenlik

Clement Delangue, şirketinin otonom bir yapay zeka ajanı kaynaklı siber saldırıyı kamuoyuna duyurmasından hareketle elde ettikleri dersleri paylaştı. Delangue, yapay zekanın siber tehditleri hem güçlendirebileceğini hem de savunma araçları sağlayabileceğini anlattı; olay sırasında hem saldırıya uğradıklarını hem de yapay zekayı savunmada etkin biçimde kullandıklarını belirtti.

Delangue, teknolojinin kapasite ve kontrolünün sınırlı bir kesimde toplanmasındansa dağıtılmasının, ayrıca küresel düzeyde daha sert siber güvenlik standartlarının benimsenmesinin gerekliliğini vurguladı. Bu yaklaşımın, hem güvenliği artıracağı hem de kamuda gereksiz korku yaratılmasını engelleyeceği ifade edildi.

Ortak mesaj: Katılımcılar, yapay zekanın sunduğu fırsatları gerçekleştirmek ve oluşturduğu küresel tehditleri azaltmak için hükümetler, şirketler ve uluslararası kuruluşlar arasında zorunlu işbirliği gerektiği konusunda hemfikirdi.