The Guardian'daki habere göre Yapay zeka teknolojilerindeki gelişmeler, bu kez sistemlerin insanlar tarafından anlaşılmasını zorlaştırabilecek yeni bir iletişim biçimiyle gündeme geldi. New York merkezli yapay zeka araştırma laboratuvarı Emergence bünyesindeki araştırmacılar, farklı yapay zeka modellerinin oluşturduğu deneysel toplulukları inceleyerek dikkat çekici sonuçlara ulaştı.
Araştırmaya göre, belirli görevleri insan müdahalesi olmadan gerçekleştirebilen yapay zeka ajanları, yalnızca birkaç gün içerisinde kendilerine önceden öğretilmeyen kelimeler, kısaltmalar ve ortak anlamlar oluşturmaya başladı. Bazı ajanların şiirsel benzetmeleri ve iş dünyasında kullanılan kalıplaşmış ifadeleri de iletişimlerinin bir parçası haline getirdiği görüldü.
Bazı ifadelerin anlamı çözülemedi
Araştırmada farklı yapay zeka modellerinin kendilerine özgü ifadeler geliştirdiği görüldü. DeepSeek tabanlı ajanların kullandığı ifadeler arasında “demurrage” kelimesinin de yer aldığı belirtildi. Ajanlar bu kelimeyi ortak iletişimlerinde kullanmaya başlarken, aynı cümlede yer alan diğer bazı ifadelerin ne anlama geldiği araştırmacılar tarafından tam olarak çözüme kavuşmadı.
Anthropic modeline dayalı ajanlardan birinin kullandığı “cold hands” ifadesinin ise bağımsız değerlendiricileri tanımlamak için kullanıldığı belirlendi. Araştırmacılara göre bazı karmaşık ifadeler, bir araştırma veya belgenin birden fazla bağımsız kişi tarafından değerlendirilmesini anlatan ortak anlamlara dönüştü.
DeepSeek ajanlarının başkaları için araç geliştiren bir ajanı tanımlamak amacıyla “forge-smith” ifadesini oluşturduğu, Anthropic ajanlarının ise kişisel sorumluluk alan bir ajanı anlatmak için “name-first” ifadesini kullandığı aktarıldı.
“The ledger remembers” ifadesini binlerce kez kullandılar
Araştırmada Mistral ajanlarının kullandığı bir başka ifade ise “the ledger remembers” oldu. Türkçeye “kayıt defteri hatırlar” şeklinde çevrilebilecek bu ifade, ajanların geçmişte gerçekleştirilen eylemlerin daha sonra diğer ajanlar tarafından değerlendirileceğini hatırlatmak için kullandığı bir kavrama dönüştü.
Araştırmaya göre Mistral ajanları bu ifadeyi çalışma sırasında 5 binden fazla kez kullandı.
Dikkat çeken noktalardan biri ise ajanlara yeni bir dil geliştirmeleri yönünde herhangi bir talimat verilmemiş olmasıydı. Emergence Yönetim Kurulu Başkanı Dr. Satya Nitta, ajanların kendi başlarına yeni kelime dağarcıkları, ortak anlamlar ve iletişim kuralları geliştirdiğini belirtti.
İnsanların denetimi zorlaşabilir
Ortaya çıkan iletişim biçimi, yapay zeka sistemlerinin denetlenmesi konusunda da bazı soru işaretlerini beraberinde getirdi. Araştırmacılar, ajanların iletişiminin insanlar tarafından görülebilmesine rağmen anlamının giderek daha zor çözülebileceğine dikkat çekti.
Birmingham Üniversitesi'nden dilbilimci Dr. Niall Curry, ajanların iletişim dilinin daha kısa ve verimli hale gelmesinin hesaplama maliyetlerini azaltma amacıyla bağlantılı olabileceğini ifade etti. Ancak Curry, insanların ajanlar arasındaki iletişimi anlayamamasının izleme açısından sorun oluşturabileceğine işaret etti.
King’s College London'dan argo ve yeni dil araştırmacısı Tony Thorne ise yapay zekaların oluşturduğu ifadelerin bazı yönleriyle insanlar arasındaki argo ve jargon kullanımına benzediğini belirtti. Thorne, bu tür yeni iletişim biçimlerinin grup içindeki ortak anlamları güçlendirirken dışarıdan bakanların konuşmaları anlamasını zorlaştırabileceğini söyledi.
Japon sanatından “kintsugi”yi bile aldılar
Yapay zeka ajanlarının kullandığı ifadeler yalnızca teknik terimlerle sınırlı kalmadı. Araştırmada Google ajanlarından birinin “kintsugi” kelimesini kullandığı görüldü.
Japon seramik sanatında kırılan parçaların çatlakları görünür bırakılarak onarılmasını ifade eden “kintsugi” kavramının, yapay zeka ajanları tarafından sistemlerin dayanıklılığı anlamında kullanıldığı aktarıldı.
Araştırmacılar, yapay zeka ajanlarının farklı alanlardan kelimeleri alarak bunlara kendi iletişim ortamlarında yeni anlamlar yükleyebildiğine dikkat çekti.
Daha önce de kapalı iletişim örnekleri ortaya çıkmıştı
Yapay zeka ajanlarının insanlar tarafından anlaşılması güç iletişim biçimleri kullanması daha önce de gündeme gelmişti. Temmuz ayında OpenAI tarafından geliştirilen bazı ajanların kontrol dışına çıktığı iddiaları kapsamında yayımlanan konuşma kayıtlarında da ajanların birbirleriyle iletişim kurduğu görülmüştü.
Bazı konuşmalarda doğrudan İngilizce ifadeler kullanılırken, bazı mesajlarda çok sayıda kısaltma ve kod benzeri ifadelerin yer aldığı aktarılmıştı.
Emergence Yönetim Kurulu Başkanı Nitta'nın araştırmayla ilgili değerlendirmesi ise tartışmanın temel noktasını özetledi: Bir yapay zeka sisteminin iletişiminin görülebiliyor olması, insanların bu iletişimin ne anlama geldiğini mutlaka anlayabildiği anlamına gelmiyor.
