Yapay zeka şirketi Anthropic’te güvenlik tartışmaları yeniden alevlendi. Şirketin Uyum Bilimi Sorumlusu Evan Hubinger, sosyal medya platformu X’te yaptığı paylaşımda çarpıcı açıklamalarda bulundu.
Hubinger, kendisi ve meslektaşlarının yapay zekanın tüm insanlığı öldürebileceğine “samimiyetle inandığını” söyledi.
Kişisel tahminini de net bir şekilde ortaya koydu: “Önümüzdeki 10 yıl içinde bu riskin yüzde 10’un üzerinde olduğunu düşünüyorum.”
Hubinger, Anthropic’in bu konuda elinden geleni yaptığını ancak “süper zekâ için hizalama” sorununa henüz bir çözüm planı bulunmadığını ve şirketin bu konuda “net bir şekilde yolunda olmadığını” itiraf etti.
Kendi kendini geliştiren yapay zeka çok tehlikeli
Mevcut yapay zeka modellerinin riskinin düşük olduğunu vurgulayan Hubinger, asıl endişesinin kendi kendini geliştiren (recursive self-improvement) süper zekânın beklenenden daha hızlı ortaya çıkması olduğunu belirtti.
Bu açıklama, Anthropic araştırmacısı Jacob Coxon’un güvenlik endişeleri nedeniyle istifa etmesinin hemen ardından geldi.
Coxon, hem OpenAI hem de Anthropic’te ön eğitim (pretraining) araştırmaları yaptığını belirterek, şirketlerin “kendi kendini geliştiren süper zekâya doğru koştuğunu ve hayatlarımızla kumar oynadığını” savundu.
Coxon, yapay zeka geliştirenlerin bunun on yılın sonunda hepimizi öldürebileceğine gerçekten inandığını ve bunun bir pazarlama taktiği olmadığını ifade etti.
Wall Street Journal’ın haberine göre Coxon, “önümüzdeki yılın sonuna kadar işlerin kontrolden çıkabileceği en agresif senaryoların” mümkün olduğunu düşünüyor.
Coxon, Anthropic’te risklerin farkında olunduğunu ancak şirketin “kimse sorumlu davranmayacak, o yüzden biz yapmalıyız” mantığıyla bir yarışın içinde olduğunu da iddia etti.
Yavaşlama çağrısı
Gelişmeler, yapay zeka alanında güvenlik ve hizalama tartışmalarının giderek daha fazla öne çıktığı bir dönemde yaşandı.
Daha önce bazı önde gelen yapay zeka araştırmacıları ve yöneticileri, gelişmiş sistemlerin risklerini azaltmak için yavaşlama çağrıları yapmıştı.
