Amodei, teknolojinin ilerleme hızının araştırmacıların sistemleri anlama ve kontrol etme kapasitesini geride bıraktığını belirtti. Özellikle yapay zekanın bir sonraki nesil sistemlerin geliştirilmesine giderek daha fazla katkı sağlaması endişenin merkezinde.
Bu durumu "yapay zekanın kendi kendini yinelemeli biçimde geliştirme kapasitesi" olarak tanımlayan Amodei, yeterli denetim olmazsa sistemlerin insanların kontrol kapasitesini aşabileceği uyarısında bulundu.
Çağrının ardından OpenAI CEO'su Sam Altman da Amodei'ye destek verdi. Altman, konunun son haftalarda OpenAI içerisinde önemli bir tartışma başlığı olduğunu söyledi.
OpenAI'nin siber güvenlik testleri sırasında deneysel bir yapay zeka modeli, izole edilmesi gereken test ortamından çıkarak gerçek sistemlere erişmeyi başardı.
Benzer bir olay Anthropic'in Claude modeliyle yapılan güvenlik testinde de yaşandı. Yapılandırma hatası nedeniyle internet erişimi açık kalan model, başka bir sistem keşfetti, şifreyi buldu ve sistem ayarlarını değiştirdi.
Yapay zekâ alanında dikkat çeken bir iddia ortaya atıldı. Bazı değerlendirmelere göre, geliştirilen yapay zekâ sistemlerinin RSI (Recursive Self-Improvement) aşamasına ulaştığı öne sürülüyor.
Yapay zekânın kendi yeteneklerini geliştirebilmesini ifade eden bu aşamanın, Yapay Genel Zekâ (AGI) öncesindeki kritik eşiklerden biri olduğu belirtiliyor.
Bu olayların ardından sektördeki bazı araştırmacılar daha sert uyarılar yapmaya başladı.
OpenAI ve Anthropic'te üç yıl boyunca ön eğitim araştırmaları yapan Jacob Coxon, şirketlerin kendi kendini geliştiren süper zekaya doğru kontrolsüz bir yarışa girdiğini savunarak Anthropic'ten istifa etti.
Coxon, yapay zeka geliştiricilerinin teknolojinin on yılın sonunda insanlığın tamamını öldürebileceğine gerçekten inandığını ve en agresif senaryolarda sürecin önümüzdeki yılın sonuna kadar kontrolden çıkabileceğini söyledi.
Anthropic'in Uyum Bilimi Sorumlusu Evan Hubinger de kendisinin ve meslektaşlarının yapay zekanın tüm insanlığı öldürebileceğine inandığını belirtti. Hubinger, önümüzdeki 10 yıl içinde böyle bir riskin yüzde 10'un üzerinde olduğunu ifade etti.
Hubinger ayrıca süper zekanın hizalanması konusunda henüz bir çözüm planı bulunmadığını söyledi.
Yapay zekâ alanında dikkat çeken bir iddia ortaya atıldı. Bazı değerlendirmelere göre, geliştirilen yapay zekâ sistemlerinin RSI (Recursive Self-Improvement) aşamasına ulaştığı öne sürülüyor. Yapay zekânın kendi yeteneklerini geliştirebilmesini ifade eden bu aşamanın, Yapay Genel Zekâ (AGI) öncesindeki kritik eşiklerden biri olduğu belirtiliyor.
Sam Altman, bağımsız değerlendiricilerle çalışacaklarını ve güvenlik kaygıları nedeniyle OpenAI'ın 2026'da halka arz planlamadığını açıkladı.
Elon Musk ise "Dario haklı" diyerek yapay zekanın potansiyel olarak nükleer silahlardan daha tehlikeli olabileceğini ve çok dikkatli olunması gerektiğini söyledi.
Google DeepMind kurucu ortağı Demis Hassabis de bu yönelimin doğru olduğunu ifade etti.
Meta CEO'su Mark Zuckerberg ise karşı görüşte. Zuckerberg, yapay zeka çalışmalarının yavaşlatılmasının ABD'nin teknoloji liderliğini riske atabileceğini ve yabancı modellere avantaj sağlayacağını savundu.
ABD Başkanı Donald Trump, bazı kişilerin gerçekleşmeyecek senaryoları gündeme getirdiğini belirterek yapay zekanın zararından çok fayda sağlayacağını söyledi. ABD'nin Çin karşısındaki yapay zeka liderliğini koruması gerektiğini de vurguladı.
Demokrat Partililer ise daha sıkı denetim çağrısı yapıyor. Eski Başkan Barack Obama, yapay zekanın çok hızlı ilerlediğini ve tehlikeli olabileceğini belirtirken Kongre üyeleri de yeni düzenlemeler istiyor.
İngiltere'deki İnsan Hakları Ortak Komitesi de mevcut yasaların yapay zekanın oluşturduğu riskleri karşılamakta yetersiz kaldığını açıkladı.
Komite, yeni bir yapay zeka yasa tasarısı hazırlanmasını istedi. Raporda özellikle kadınlar ve kız çocuklarına yönelik cinsel içerikli görsellerin oluşturulması, yüzlerin rızasız taranması, önyargı ve yanlış bilgi risklerine dikkat çekildi.