İnsanı korumak mı? Yönetmek mi?
Yapay zekânın geleceğimizi nasıl etkileyeceği konusunda devlet liderlerinin de teknoloji liderlerinin de görüşlerini biliyoruz. Şimdi ise Vatikan’dan gelen eleştiri konuya son noktayı koyabilir mi?
Bir süredir dünya iki ayrı hızda dönüyor. Bir tarafta laboratuvarlar, diğer tarafta insan ruhu. Bir tarafta algoritmaların verimlilik vaatleri, diğer tarafta çocuklarının geleceğini anlamaya çalışan toplumlar.
Papa Leo XIV’ün “Magnifica Humanitas”ı tam da bu kırılma anına denk geldi. Vatikan uzun zamandır ilk kez teknolojiye bu kadar doğrudan müdahil oluyor. Çünkü mesele artık internet değil. Mesele artık ekran bağımlılığı da değil. Mesele insanın kendisi.
Papa’nın metni çok net bir korkuyu tarif ediyor: “İnsan, kendi ürettiği zekânın karşısında değersizleşebilir.”
Bu tesadüf değil. Çünkü bugün yapay zâka hukuk hazırlıyor. Savaş analiz ediyor. Seçim manipülasyonu yapabiliyor. İnsan davranışını öngörebiliyor. Hatta yalnızlık simülasyonu bile sunuyor.
Demokratik yapay zekâ düzenlemesi yolda
İşte tam burada dünya liderleri ikiye ayrılıyor. İspanya Başbakanı Pedro Sanchez, Papa’nın çağrısını destekledi ve “Teknoloji demokratik denetim altında kalmalı” dedi. Avrupa’nın genel çizgisi de bu yönde. Avrupa Birliği uzun süredir AI Act üzerinden yapay zekâyı düzenlemeye çalışıyor. Çünkü Avrupa’nın korkusu açık:
Kontrolsüz teknoloji, liberal demokrasiyi parçalayabilir.
ABD için ise yapay zekâ artık bir insanlık tartışması değil, ulusal güvenlik yarışı. Çin ile silikon çipler hakkında yaşananları görüyoruz. Milyarlarca dolarlık AI yatırımları yapılıyor. “İnsanlığı korumak” söylemi kulağa hoş geliyor ama küresel güçler için mesele çoğu zaman üstünlük kurmak.
Çin ise daha farklı bir yerde duruyor. Pekin yönetimi yapay zekâyı toplumsal istikrarın motoru olarak görüyor. Batı’nın özgürlük isteği ile Doğu’nun kontrol arzusu aynı teknolojide çarpışıyor. Bir tarafta birey korunmak isteniyor. Diğer tarafta sistem korunuyor. Tam ortada ise insan kalıyor.
Yarın başlayacak SXSW London’dan (South by Southwest konferansı) önce hatırlayalım, Austin’da düzenlenen konferansta en çok konuşulan konulardan biri: “Yapay zekâ insanların yerini almayacak. Yapay zekâyı kullanan insanlar yapay zekâ kullanmayanların yerini alacak.” İlk bakışta motive edici gibi duran bu cümle aslında ürkütücü. Çünkü artık insanlar birbirlerini teknolojik olarak elemeye başlıyor.
Dijital insanlık
Austin’de yapılan panellerde dikkat çeken başka bir başlık daha vardı: “Digital Humanity” (Dijital İnsanlık).
Konuşmacılar yeni çağın problemini tarif ederken şu soruyu sordular: “İnsan olmak artık biyolojik bir durum mu yoksa ekonomik bir ayrıcalık mı?” Dünyanın gittiği yer tam olarak burası. Çünkü yapay zekâ çağında da bilgiye erişim eşit olmayacak. Zekaya erişim de eşit olmayacak. Karar alma gücü de eşit olmayacak. Bir grup insan algoritmaları yönetecek. Diğer büyük çoğunluk ise algoritmalar tarafından yönlendirilecek. Papa’nın korkusu burada başlıyor. Vatikan metninde özellikle “insanın araçsallaştırılması” vurgusu yapılıyor. İnsanın yalnızca veri üreten bir organizmaya dönüşmesi. Bugün sosyal medya bunu zaten yaptı. Şimdi yapay zekâ bunu daha ileri taşıyor. Sizin neyi sevdiğinizi bilen sistemler vardı. Şimdi neden korktuğunuzu bilen sistemler geliyor. Daha da önemlisi, yakında ne düşüneceğinizi tahmin eden sistemler olacak. İnsanlık tarihinin en büyük paradoksu da burada yatıyor. Tarihte ilk kez teknoloji bizi zihinsel olarak dönüştürüyor. Belki de bu yüzden Papa’nın açıklaması dini bir metinden çok medeniyet alarmı gibi okunmalı. Çünkü mesele “Robotlar işimizi alacak mı?” değil artık. Asıl mesele, insan, kendi anlamını koruyabilecek mi? İşte burada asıl korkmamız gereken, bir gün makinelerin insan gibi düşünmesi değil, insanların makine gibi düşünmeye başlaması.
Sende Yorum yap