Yapay zekanın babası olarak bilinen Nobel ödüllü bilim insanı Geoffrey Hinton, insanlardan daha yetenekli yapay zeka sistemlerinin kontrolü ele geçirmesi konusunda yeni bir uyarıda bulundu.
Avrupa Birliği (AB) ülkelerinin devlet ve hükümet başkanları, 13 Kasım'da İrlanda'nın başkenti Dublin'de düzenlenen gayriresmi toplantıda ilk kez yapay zekayı ayrı bir stratejik gündem maddesi olarak ele aldı.
Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü'nü John Hopfield ile paylaşan Hinton da toplantının yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölümüne katıldı.
Alignment Research Center'ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9-11 Kasım'da Kanada'nın Toronto kentinde düzenlenen Hinton Konferansları'nda, yapay zeka üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü ifade etti.
Hinton ise daha önce yapay zekanın insan zekasını aşmasının 10 yıl içinde mümkün olabileceğini söylediğini hatırlatarak, Christiano'nun bu riskin çok daha erken ortaya çıkabileceğine ilişkin değerlendirmesini kaygı verici bulduğunu belirtti. Hinton, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı sorunu üzerinde durdu.
İleri yapay zeka modelleri kullanıma açılmadan önce geliştiricilerin bunların güvenliğini bağımsız bir kuruma göstermesi gerektiğini savunan Hinton, daha önce El Pais gazetesine verdiği röportajda bu önerisini, ilaçların piyasaya çıkmadan önce düzenleyici kurumlar tarafından incelenmesine benzetmişti.
Dublin'deki toplantıda liderler, yapay zekanın istihdama ve demokratik süreçlere etkisinin yanı sıra gelişmiş sistemlerin güvenliği için uluslararası iş birliğini de görüştü. Mistral AI CEO'su Arthur Mensch'in katıldığı oturumda ise Avrupa'nın kendi modellerini geliştirmesi ve dışa bağımlılığını azaltması konuları ele alındı.
Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027'de Belçika'nın Alden Biesen kentinde yeniden gündeme geleceğini açıkladı.