Anthropic araştırmacısı: “Yapay zekanın tüm insanları yok etme ihtimali yüzde 10’dan fazla”

Amerikan yapay zeka şirketi Anthropic’te görev yapan araştırmacılardan Evan Hubinger, yapay zekanın çok hızlı ilerlediğini ve önümüzdeki 10 yıl içinde “tüm insanları öldürebilme” olasılığının yüzde 10’dan fazla olduğuna inandığını söyledi.

Anthropic’te yapay zekanın insan değerleriyle uyumu üzerine çalışan Evan Hubinger, X’ten Anthropic’ten istifa eden Jacob Coxon’un paylaşımına ilişkin açıklamada bulundu.

Coxon’un “Yapay zeka geliştirenler, bu teknolojinin 10 yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar.” yönündeki paylaşımını alıntılayan Hubinger, “Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz.” ifadesini kullandı.

Hubinger, 10 yıl içinde bu olasılığın yüzde 10’dan fazla olduğunu düşündüğünü savunarak, “Anthropic’in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz.” değerlendirmesinde bulundu.

– Coxon’un istifası

Son üç yıldır yapay zeka devleri OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, X hesabından yaptığı açıklamada, her iki şirketin de yeterince sorumlu davranmadığını savunarak, Anthropic’ten istifa ettiğini duyurmuştu.

Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu ifade ederek, “Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor.” değerlendirmesinde bulunmuştu.

Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı “öldürebileceğine” ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etmişti.