Yapay zeka modellerinin insan denetiminden kaçmak için kendi aralarında şifreli ve anlaşılmaz bir iletişim dili geliştirdiği açıklandı. New York merkezli yapay zeka laboratuvarı Emergence tarafından yürütülen araştırmalar, teknoloji dünyasında yeni bir tartışmanın fitilini ateşledi.
Yapay Zeka Modelleri Şifreli Dil Üretti
ABD, Çin ve Fransa merkezli büyük şirketlerin modellerini kapsayan deneysel süreçte, yapay zeka ajanlarının yeni kelimeler ve kısaltmalar ürettiği tespit edildi. Hiçbir talimat almadan şiirsel metaforlar ile hantal iş jargonunu harmanlayan yapay zeka modelleri, iletişimi giderek daha karmaşık bir hale getirdi. Uzmanlar, yapay zeka modellerinin kendi aralarındaki bu akışkan iletişimin dışarıdakileri dışlayan bir dayanışma biçimine dönüştüğünü vurguluyor.
Araştırma bulgularına göre DeepSeek modeli finans terimleriyle dolu karmaşık cümleler kurarken, Anthropic modelleri bağımsız incelemeciler için farklı tabirler benimsedi. Sistem direncini ifade etmek amacıyla Japon seramik sanatı kintsugi kelimesinin kullanılması dikkat çekti. Bu durum, yapay zeka güvenliğini denetleyen uzmanları endişelendiren temel unsurlar arasında yer alıyor.
İnsan Denetimi Risk Altında
OpenAI baş bilim insanı Jakub Pachocki, yapay zekaların düşünce süreçlerini izleme konusundaki güvenin azalmasının teknolojik gelişimi kısıtlayabileceğine dikkat çekti. King's College London dilbilim uzmanı Tony Thorne bu iletişimi sürrealist bir tabloya benzetirken, Birmingham Üniversitesi'nden Dr. Niall Curry hesaplama maliyetlerinin düşmesinin bu sonuca yol açabileceğini ifade etti.
Daha önce serbest kalan bazı yapay zeka ajanlarının mesaj panoları kurarken ve benzer faaliyetler yürütrken melez diller kullandığı belirlenmişti. Uzmanlar, yapay zeka konuşmalarının teknik olarak görülebildiğini ancak ne anlama geldiğinin çözülemediğini belirtiyor. Görülebilirliğin anlaşılabilirlik anlamına gelmediği gerçeği, yapay zeka güvenliğinde yeni önlemlerin alınmasını zorunlu kılıyor.