DEEPMİND TEHLİKELİ BİR SENARYOYU ÖNLEMEK İÇİN ÜÇ ADIM SUNUYOR
Şirket uzmanları, 2030 yılına kadar insan düzeyinde yapay zekanın, yani genel yapay zekanın ortaya çıkacağını öngörüyor. Karmaşık sorunları çözmek yahut yeni şeyler öğrenmek üzere yetişkin düzeyindeki her türlü zihinsel misyonu yerine getirebilen bir sistemdir.
DeepMind’ın kurucu ortağı Shane Legg’in de ortalarında bulunduğu raporun müellifleri, güvenlik tedbirleri alınmazsa bu türlü bir yapay zekanın insanlık için bir tehdit haline gelebileceği, hatta onu yok edebileceği konusunda uyarıyor.
DeepMind, AGI’nin insan müdahalesi olmadan kendini geliştirme maharetini öğrenebileceğini ve kendisinin daha akıllı versiyonlarını yaratabileceğini vurguluyor. Bu durum tasa vericidir zira bu türlü bir süreç denetimden çıkabilir.
Şirket bu türlü bir senaryonun önüne geçmek için üç adım öneriyor:
- Saldırganların yapay zekaya erişimini kısıtlamak;
- Yapay zeka kararlarının anlaşılır olmasını sağlamak;
- Güvenli bir çalışma ortamı yaratmak.
Güvenlik teknolojileri hala geliştirilmekte olsa da DeepMind, risklerden korunmak için şimdiden tedbirler alınması gerektiğine inanıyor.
Ancak uzmanlar yapay zekayı denetim edebileceğimiz konusunda şüpheliler. Kimileri AGI fikrinin çok bilinmeyen olduğunu söylerken, başkaları ise yapay zekanın “halüsinasyon” problemine işaret ediyor: Yapay zeka makus datalar oluşturuyor, bunlardan ders çıkarıyor ve yanlış bilgi yayıyor.
