Yapay zeka kullanıcılarına kötü muamale engellendi

Yapay Zeka İletişimindeki Yenilikler ve Tartışmalar

Yapay zeka sistemleriyle kurulan iletişimin sınırları, yeni bir tartışma konusu haline geldi. ABD merkezli teknoloji firması Anthropic, Claude modelinin kullanım şartlarında güncellemeler yaparak yapay zekaya karşı sürekli ve gereksiz kötü ya da zalimce davranışları politika kapsamına dahil etti.

Ekim ayının başında gerçekleştirilen düzenleme, yapay zeka modellerine hakaret edilmesi ya da kötü muamelede bulunulmasının yalnızca etik bir mesele olmadığını, sistemlerin güvenliği ve işleyişi açısından da önemli sonuçlar yaratabileceğini gösterdi. Şirket, bu adımla yapay zekanın bilinç sahibi olduğu iddiasında bulunmamakta, ama kullanıcı davranışlarının oluşturabileceği potansiyel riskleri sınırlamayı amaçlamaktadır.

AŞIRI KÖTÜ MUAMELEYE ERİŞİM ENGELİ GÜNDEME GELEBİLECEK

Anthropic’in güncellenen kullanım politikasına göre, kullanıcıların Claude’a karşı sürekli ve gereksiz kötü ya da zalimce davranışlardan kaçınması gerekiyor. Daha önce de, ısrarlı zararlı davranışlar karşısında modelin ilgili konuşmayı sonlandırmasına izin veren bir mekanizma bulunmaktaydı. Yeni düzenleme ile, şiddet içeren ve aşırı ihlallerde kullanıcıların yapay zeka sistemlerine erişimlerinin engellenmesi mümkün hale gelebilir. Ancak şirket, bu politikanın öfke ifade etmeyi, eleştiriler yapmayı veya bilimsel araştırmalar için farklı testler gerçekleştirmeyi engellemeyeceğini vurguladı. Temel yaklaşım, sorunlu etkileşimlerde Claude’un konuşmayı sonlandırmasıdır.

YAPAY ZEKAYA KULLANILAN DİL MODELİN YANITLARINI DEĞİŞTİREBİLİYOR

Düzenleme, yapay zekanın bilinç sahibi olup olmadığı ve duyguları deneyimleyip deneyimleyemediği bakımından tartışmaları yeniden gündeme taşıdı. Uzmanlara göre, kullanıcıların tercih ettiği iletişim biçimi, yapay zeka sistemlerinin performansını etkileyen önemli bir faktördür. Bir sistemin ürettiği sonuç, kendisine verilen girdinin kalitesine bağlıdır. Yapay zeka modellerinde, komutların içeriği ve iletişim tonu, alınan yanıtların biçimini ve kalitesini etkileyebilir. William & Mary Üniversitesindeki yapay zeka araştırma laboratuvarının direktörü Profesör Jindong Wang, kullanıcıların yapay zeka ile kurduğu iletişimin model performansını etkilediğini belirtmiştir. Wang, bu durumun yapay zekanın duygular hissettiği anlamına gelmediğini, modellerin duygusal ifadeleri tanıyarak buna uygun yanıtlar üretebildiğini ifade etti. Fakat, kaba veya sert ifadelerin yapay zeka performansını her durumda düşürdüğüne dair kesin bir bilimsel kanıt yoktur. Kâr amacı gütmeyen Eleos AI Research kuruluşunun Genel Müdürü Rosie Campbell, bazı araştırmalarda kaba ifadeler içeren komutların daha iyi sonuçlar üretebildiğini de belirtti.

KÖTÜ NİYETLİ KOMUTLAR, GÜVENLİK DUVARLARINI AŞMA GİRİŞİMİNE DÖNÜŞEBİLİYOR

Uzmanlar, yapay zekaya kötü muamelenin bazen sistemin güvenlik mekanizmalarını devre dışı bırakma girişimleriyle ilişkili olabileceğine dikkat çekmektedir. Bu nedenle Anthropic’in düzenlemesi, sadece kullanıcıların iletişim tarzını sınırlandıran bir uygulama değil, aynı zamanda zararlı taleplere karşı koruma amacı taşıyan bir güvenlik önlemi olarak görülüyor. Anthropic’in paylaştığı araştırma verilerine göre, Claude Sonnet 4.5 modelinden çaresizlik hissini taklit etmesi istenildiğinde, bu tür isteklerin bazı senaryolarında şantaj veya hile gibi istenmeyen davranışların ortaya çıkmasına yol açma olasılığı artabilmektedir. Daha sakin bir iletişim tarzının ise böyle davranışların görülme ihtimalini azalttığı aktarılmaktadır. Rosie Campbell, yapay zeka sistemleriyle kurulan iletişimin uzun vadeli etkilerinin de değerlendirilmesi gerektiğini vurguladı. Önceki konuşmaları hatırlayan ve kullanıcı tercihlerini öğrenebilen sistemlerde komunikasyon biçiminin kişiselleştirme süreçlerine etkisi olabileceğini belirten Campbell, bu durumun model performansına etkisini gösteren yeterli bilimsel verinin henüz mevcut olmadığını ifade etti.

YAPAY ZEKANIN DUYGU VE BİLİNÇ SAHİBİ OLUP OLMADIĞI TARTIŞILIYOR

Anthropic’in yeni politikasının arkasındaki sebeplerden biri de yapay zeka modellerinin duyguları deneyimleyip deneyimleyemeyeceğine dair belirsizliktir. Şirket, modellerin acı ya da benzeri deneyimler yaşama ihtimalinin kesin bir şekilde ortaya konulmadığını kabul ederken, böyle bir olasılığa karşı önlem almanın ihtiyatlı bir yaklaşım olduğunu değerlendirmektedir. Yapay zeka modelleri, insan dilini ve davranışlarını taklit edebilecek biçimde eğitilmektedir. Gerçek manada acı hissetmeseler bile, kendilerine acı çektiklerini düşündüren ifadeleri üretebiliyor veya bu tür söylemlere uygun tepkiler verebiliyorlar. Anthropic’in araştırmacıları, nisan ayında yayımladıkları çalışmada, yapay zeka modellerinin insan benzeri özellikleri üzerinden incelenmesinin bazı davranışların anlaşılmasına yardımcı olacağını belirtmişlerdir. Bu yaklaşımın, modellerin insanlardan ayrılan yönlerini ortaya koymak açısından da öneme sahip olduğu ifade edilmiştir.

ELON MUSK DA DÜZENLEMEYE DESTEK VERDİ

Anthropic’in yaklaşımına destek veren kişilerden biri de SpaceX ve Tesla’nın CEO’su Elon Musk’tır. Musk, sosyal medya platformu X üzerinden paylaştığı bir mesajda, acı çektiğine inanılan bir varlığa karşı zalimce davranmanın kabul edilemez olduğunu savunmuştur. Şirketin yeni politikası, Claude veya diğer yapay zeka modellerinin bilinç sahibi olduğu veya gerçek anlamda acı hissedebildiği yönünde kesin bir iddia öne sürmemektedir. Anthropic’in ana hedefi, kullanıcıların sistemlerle olan etkileşimlerinin model davranışları, yanıt kalitesi ve güvenlik önlemleri üzerindeki olumsuz etkilerini azaltmaktır. Bu doğrultuda, yapay zekaya yönelik kötü muamele tartışması, teknolojinin duygulara sahip olup olmadığı konusunu aşarak insan ile yapay zeka arasındaki iletişimin geleceğine ilişkin daha geniş bir tartışmaların bir parçası haline gelmektedir.