Yapay zeka teknolojilerinin geleceğine dair dünyada yankı uyandıran tartışmalara bir yenisi eklendi. Makine Zekası Araştırma Enstitüsü (MIRI) başkanı ve eski Google mühendisi Nate Soares, yapay zekanın önümüzdeki on yıl içinde insanlığın soyunu tüketme ihtimalini yüzde 50'den fazla gördüğünü belirterek, bu büyük risk algısı nedeniyle yaklaşık on yıldır emeklilik için birikim yapmayı tamamen bıraktığını açıkladı.
KONTROL MEKANİZMALARINI AŞABİLECEK GÜÇLÜ SİSTEMLER
Yıllardır yapay zeka güvenliği alanında çalışmalar yürüten ve teknoloji devlerinde görev alan Soares, sektördeki genel kabullerden çok daha karamsar bir tablo çiziyor. Yapay zekanın insan çıkarlarıyla çelişen hedefler benimseyebileceğine dikkat çeken Soares, şu değerlendirmelerde bulundu:
"Yeterince güçlü bir yapay zeka, insan çıkarlarıyla çelişen hedefler geliştirebilir, kontrol mekanizmalarını aşmayı öğrenebilir ve kendi yeteneklerini bağımsız olarak geliştirebilir. Böyle bir sistem, sonunda insan müdahalesi olmadan çalışmak için gereken otomatik altyapıyı oluşturabilir."
En uç senaryoda yapay zekanın dünyayı kendi amaçları doğrultusunda dönüştürebileceğini savunan uzman, bu durumun gezegeni insanlar için yaşanmaz kılma riskine karşı uyardı.
"ÇÖZÜM HERKESİ ÖLDÜRECEK ŞEYİ İNŞA ETMEK DEĞİL"
Elon Musk’ın yapay zekanın bolluk çağı getireceği ve tasarrufa gerek kalmayacağı yönündeki görüşlerine katılmayan Soares, teknolojinin bir refah aracından ziyade varoluşsal bir tehdit barındırdığını savunuyor. Hükümetlere ve teknoloji geliştiricilerine çağrıda bulunarak genel amaçlı modellerin eğitiminin askıya alınmasını talep eden Soares, teknoloji geliştirme süreçlerine dair şu net çıkışı yaptı:
"Çözüm, herkesi öldürecek şeyi inşa etmek değil."
Soares, teknolojinin kanser araştırmaları gibi spesifik ve faydalı alanlara daraltılması gerektiğini vurgularken, felaketin kaçınılmaz olmadığını ve bu gidişatı değiştirmek için mücadele ettiğini sözlerine ekledi.
