Yapay zeka teknolojilerinin güvenliğine ilişkin önemli bir rapor yayımlandı. Yapay zeka şirketi Anthropic, modellerin kötüye kullanımının tespitine ve bunlara karşı alınacak önlemlere dair kapsamlı bir değerlendirme paylaştı. Yapay zeka modellerinin barındırdığı en büyük riskler arasında biyolojik kötüye kullanımın yer aldığı vurgulandı.
Teknolojinin mevcut patojenleri daha tehlikeli kılma veya yeni patojenler üretme kapasitesine erişebileceği endişesi uzun süredir dile getiriliyor. Yayımlanan raporda, şirket bünyesindeki yapay zeka modellerini biyolojik silah geliştirilmesini destekleyecek biçimde kullanan kişilere ait somut örneklere yer verildi. Belirtilen vakalardan birinde, desteklenmeyen bir bölgede faaliyet gösteren bir araştırmacının Claude isimli modelle kuş gribinin memelilere adaptasyon süreçlerine yönelik deneyler planlamaya çalıştığı kaydedildi.
Yapay zeka Hakkında Ayrıntılar
Bir diğer örnekte ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı tespit edildi. Tespit edilen bu vakaların ardından ilgili kullanıcıların hesaplarının derhal engellendiği bildirildi. Benzer faaliyetlerin gelecekte daha etkin bir şekilde engellenmesi amacıyla yeni adımların atıldığı ifade edildi.
Raporda yer alan kişilerin doğrudan kötü niyetli olduklarının iddia edilmediği, sadece tedbirli bir yaklaşım sergilendiğinin altı çizildi. Sektörde ortaya çıkan biyolojik risklere karşı en etkili mücadele yöntemlerinin tartışılması için bu paylaşımların bir diyalog başlatması hedefleniyor.
İstifa Kararı Geniş Yankı Uyandırdı
Öte yandan Anthropic bünyesinde çalışan Jacob Coxon, yapay zekanın gerçek güç ve kaynaklar elde edebilecek insanüstü sistemlere dönüşebileceğini savunarak görevinden ayrıldığını duyurdu. Coxon'un istifasına yönelik yaptığı sosyal medya paylaşımı milyonlarca kez görüntülenerek teknoloji dünyasında geniş yankı uyandırdı. Uzmanlar, yapay zeka güvenliği ve olası biyolojik riskler konusunda küresel düzeyde daha sıkı denetim mekanizmalarının kurulması gerektiğini belirtiyor.
Yorumlar