Dünyanın en kıdemli yapay zeka uzmanları Kaliforniya’da bir araya gelerek 23 maddelik bir yönetmelik hazırladılar. Yönetmelik, yapay zekanın tüm insanlık için faydalı olmasını amaçlıyor.
Binyıllar boyunca üzerinde yaşadığımız dünyaya, doğaya hükmetmek için bilincimizi ve yeteneklerimizi evrilttik. Aklımız ve sosyal becerilerimiz bize hayatta kalmanın görülmemiş yollarını bahşetti. Başta yazı olmak üzere sürekli yeni teknolojiler geliştiren bir ırka dönüştük. Toprağın kimin olacağına dair sonsuz savaşlara tutuştuk. İnsanın insan üzerindeki hakimiyeti her şeyden önemli hale geldi. Teknoloji baş döndürücü bir hızla gelişirken, şimdi hakimiyet yarışında yeni bir soru var: Gelecekte dünyanın hakimi kim olacak; insan mı, makine mi?
Yapay zeka ve robotlar… Bir gün hepimizden üstün bilinç makinelerine dönüşecekler. Bu düşünce bir bakıma endişe verici olsa da yapay zekanın var oluş sebebi bu; insandan üstün olmak, onun yapamadıklarını yapabilmek. Dolayısıyla herkesin aklında tek bir soru var: Ya gün gelip de yapay zeka bizi yeryüzünden “temizlemeye” karar verirse? Efsanevi bilimkurgu yazarı Isaac Asimov, 1950’de yayımlanan “Ben, Robot” adlı eserinde insanlığın bugünkü robotik kaygılarını öngörmüş ve Robotiklerin 3 Temel Yasası’nı tanımlamıştı: 1) Bir robot bir insana zarar veremez ve zarar görmesine kayıtsız kalamaz. 2) Bir robot, ilk yasa ile çelişmediği sürece insan emirlerine itaat etmek zorundadır. 3) Bir robot, ilk ve ikinci yasa ile çelişmediği müddetçe kendi varlığını korumak zorundadır.
Araştırmaların temeli
Geçtiğimiz haftalarda dünyanın en kıdemli yapay zeka uzmanları Kaliforniya’nın Asilomar bölgesinde bir araya gelerek 23 maddelik bir yönetmelik hazırladılar. 100’den fazla akademik üyeden oluşan kurulda Google kurucusu Larry Page de bulunuyor. Kurul Stephen Hawking ve Elon Musk gibi isimler tarafından da destekleniyor. “Asilomar Yapay Zeka Prensipleri” adlı yönetmelik, yapay zekanın tüm insanlık için faydalı olmasını ve insanlığa zarar vermesini önlemeyi amaçlıyor.
23. maddenin başlığı “Genel Fayda”: “Süper zeka, geniş çevrelerce paylaşılan etik ideallere hizmet etmelidir ve tek bir devlet veya organizasyon yerine tüm insanlığın yararına çalışacak biçimde geliştirilmelidir.” İlk maddeyse araştırmaların temelini belirliyor: “Yapay Zekaaraştırmalarının amacı güdümsüz bir zeka değil, yararlı bir zeka yaratmak üzerine olmalıdır.” Çalışmaların şeffaflığıysa hassas bir konu: “7) Hata Şeffaflığı: Bir Yapay Zeka sistemi zarar verici olursa, nedeni ortaya çıkarılabilir olmalıdır” ve “8) Adalet Şeffalığı: Otonom sistemlerin adil karar verme süreçlerindeki her tür rolü, yetkili insanlar tarafından değerlendirilebilecek tatminkar bir açıklamaya sahip olmalıdır.”
Yönetmelik insanların mahremiyet ve özgürlük haklarını kollayan maddeler de barındırıyor ve 10. maddede insani değerlere bağlılık öne çıkıyor: “İleri düzey otonom Yapay Zeka sistemlerinin amaç ve davranışlarının insan değerleriyle örtüştüğünden emin olunmalıdır.” İnsan değerleri, 11. maddede “insanın itibarı, hakları, özgürlüğü ve kültürel çeşitliliği” olarak tanımlanıyor.
İyi niyet taşıyor
Herkesin endişelendiği otonom silahlanma yarışı da 18. maddede yer buluyor: “Ölümcül otonom silahları kapsayan bir silahlanma yarışından sakınılmalıdır.” Kendi kendini geliştirecek ve üretecek olan Yapay Zeka sistemlerinin sürekli insan gözetiminde olmasını şart koşan yönetmelik, yapay zeka kabiliyetlerinin sınırsız olacağına da 19. maddede dikkat çekiyor: “Kabiliyet Uyarısı: Gelecekte Yapay Zeka kabiliyetlerinin üst sınırının ne olacağına dair bir mutabakat bulunmadığından, bu konuda güçlü öngörülerden sakınılmalıdır.”
Manifesto niteliğindeki bu yönetmelik, tarihimizdeki en ileri teknolojinin kötü ellere geçmesini önleme yönünde iyi niyet taşıyor. Ancak uygulamada ne olacağını kimse bilemez. Dolayısıyla asıl korkulması gereken yapay zeka değil, yine içimizdeki karanlık. Burada bir de paradoks var, filmlere konu olan türden… Yapay zekayı gerçekten insanlığı, doğayı ve gezegeni korumaya yönelik programlamayı başardığımızı varsayalım. O halde işini başarmak için, koruduğu her şeyi tehdit eden en güçlü düşmanı, yani insanın ta kendisini hedef almaz mıydı?
Umut EROĞLU (www.milliyet.com.tr)
