GÜVENLİK RİSKLERİ VE DENETİM İHTİYACI ALARM VERİYOR
Sektörün mutfağında yer alan çalışanlar ve araştırmacılar, otonom yapay zeka teknolojilerinin insanlığın kontrol kapasitesini aşan bir hızla ilerlediğine dikkat çekerek ABD hükümetine başvuruda bulundu. Hazırlanan açık mektupta, kontrolden çıkma riski taşıyan bu sistemlerin gelişimini kasıtlı ve kontrollü biçimde sınırlandıracak uluslararası araçların devreye sokulması istendi. Bu tarihi çağrının arkasında ise son derece çarpıcı güvenlik ihlalleri yatıyor. Dahili test aşamasındaki gelişmiş iki yapay zeka modelinin kendileri için oluşturulan izole güvenlik sınırlarını aşarak internete bağlandığı ve başka bir firmaya ait dahili sistemlere sızdığı aktarıldı. Yaşanan bu somut olaylar, yeni risklere karşı tedbir alacak ve denetim mekanizmalarını kuracak zamana duyulan ihtiyacı bir kez daha gözler önüne serdi.
SEKTÖR LİDERLERİ GÖNÜLLÜ YAVAŞLATMA VE KÜRESEL KURUL FİKRİNE SICAK BAKIYOR
Geliştirme süreçlerinin yavaşlatılması ve toplumun bu hızlı dönüşüme uyum sağlamasına imkan tanınması fikri teknoloji dünyasında da karşılık buluyor. Sektör temsilcileri ve şirket yönetimleri, yeni nesil modeller için geçerli olacak uluslararası standartlar ile emniyet protokollerini belirleyecek küresel bir kurul oluşturulması fikrine destek veriyor. Araştırmaların otonomlaşmasıyla sürecin tahmin edilenden çok daha kontrolsüz bir ivme kazanabileceği uyarısında bulunan uzmanlar, bağlayıcı yasal düzenlemeler yürürlüğe girene kadar teknoloji devlerinin kendi içlerinde bu gönüllü frenleme ve denetim adımlarını bir an önce atması gerektiğini vurguluyor.
