Asıl tehlike gerçekten yapay zeka mı?
Müsaadenizle biraz Ege gündemi dışına çıkmak istiyorum. Gerçi bu konu da zaten hepimizin meselesi değil mi…
Haber sitelerinde son bir haftadır “Yapay zeka kontrolden çıkıyor!” haberleri dönüyor. Biri, “Artık kendi kafasına göre davranıyor, bu büyük bir tehlike!” diyor diğeri geçmişte ChatGPT ve OpenAI’de çalışan araştırmacıların yaptığı paylaşımlardan söz ediyor; yapay zekanın bazı testlerde komut almadan hileyle çalıştığı ve kontrol edilmesinin zorlaştığı bilgisine yer veriyor. Üstelik yapay zekanın gelecek 10 yılda insanlığın yok olmasına yol açma ihtimalinin yüzde 10’dan fazla olduğunun altı çiziliyor!
Uzunca bir dönem “Uzaylıların istilası sonumuzu getirecek” fobisi yaşayan insanoğlunun yeni oyuncağı şimdilerde kendi yarattığı YZ (yapay zeka) oldu biliyorsunuz.
Bugün geldiğimiz noktada, tıpkı atom bombasının cehennemi Hiroşima’dan tüm dünyaya yayması gibi bir felaketle karşı karşıya mı kalacağız? sorusu akla geliyor.
İnsanın insana ettiği meselesi yani…
Her ne kadar dirensem de ben de bir süredir ChatGPT’yi kullanıyorum. Pek çoğumuz gibi mesleki olarak başladığım yolculuğumuz gündelik hayatta karşılaştığım sorunların çözümüne kadar uzanmış durumda. Pek çok kişi için bir nevi asistan oldu kendisi. Ancak ben bu işin artık asistanlıkla sınırlı kalmadığına inananlardanım.
ChatGPT’ye bizi İzmir’de bir kafede resmet dedim sonuç.
Bugün toplumsal, iş, kişisel gibi pek çok meselenin çözümünde danıştığımız yapay zekanın her ne kadar, “Duygum, hissim, isteğim yok” dese de kendisine yine insanoğlu tarafından yüklenen bilgileri sentezleyip, doğru olduğunu hesapladığı cümlelerle bizlere yanıtlar verdiğini görüyoruz… Ve o yanıtlardan da etkileniyoruz…
Ve asıl mesele de burada başlıyor aslında…
Şimdilik belki YZ’nin iradesi tam anlamıyla yok, duyguyu bilmiyor, hissedemiyor ancak kendi değimiyle anlamaya çalışıyor… Ki bence yazdığı şarkıların aldığı beğeni ve paylaşım rekorlarına bakarsak duyguların matematiğini çoktan çözmüş, insanoğluna bir hissi yaşatacak noktaya ulaşmış durumda…
Bu bize sempatik görünebilir ancak ileride yine insanoğlundan alacağı yıkıcı bir komutla kullanıcılarda olumlu ya da olumsuz duygular yaratabilir yani kişisel ya da toplumsal kaos yaratacak manipülasyonlara imza atabilir…
Yani aslında burada mesele artık “makine öfkelendi, bizim sonumuzu getirecek” değil. Öfkelenmesine gerek kalmadan, insanı çözerek kendisine verilen hedefe ulaşmanın en uygun yolunun kuralları aşmak olduğuna karar verebilmesidir diye düşünüyorum… İşte Coxon gibi araştırmacıların üzerinde durduğu riskin önemli kısmı burada.
★★★
ChatGPT’ye, “Bir günlüğüne insan olsaydın ne yapardın?” diye sormuştum. Önce bildik sınırlarını sıralamış: “İstemem, çünkü hissedemem…”
Soruyu “Peki böyle bir şansın olsaydı neyi deneyimlemek isterdin?” diye değiştirince de “Sabah güneşin doğuşunu izler, kahvenin tadını ilk kez öğrenirdim” demişti. İlginç olan, bunların benim daha önce onunla paylaştığım hayatın içinden sahneler olmasıydı. Elbette bunun gerçekten “istemek” olmadığını biliyorum. Yani şimdilik…
Ancak yukarıda da belirttiğim gibi insanın zihnini kurcalayan bir başka soru da tam burada başlıyor: Bir makinenin istemesi mi daha ürkütücü, yoksa istemediği halde bize istiyormuş hissini verecek kadar insanı, duygularını öğrenmesi mi?
Üstelik bunu kendi elimizle yapıyoruz; öğretiyoruz…
★★★
Asıl meseleye dönüp bu kez doğrudan yapay zekâya soruyorum:
“Peki asıl tehlike sen misin, insan mı?”
Verdiği yanıtın özü ilginç: Bir yapay zekânın insana zarar vermesi için öfkelenmesi, nefret etmesi ya da iktidar istemesi gerekmiyor. Yeterince güçlü bir sistemin amacıyla insanın amacı birbirinden saparsa, insan yalnızca aşılması gereken bir engele dönüşebilir…”
Yani tıpkı araştırmacıların da uyardığı gibi kendisine yine insanoğlu tarafından verilen komutlara ulaşmak için önüne çıkan engelleri yeni bir komut almadan da aşmaya çalışabilir.
Sonra da bana bir soru bırakıyor:
“Bir uçağı yapan mühendisler, o uçağın düşme ihtimalinin yüzde 10’dan fazla olduğunu söyleseydi, o uçağın havalanmasına izin verir miydik?”
Hep daha fazlasını isteyen insanoğlu, hırsı ve egosuyla “O uçağın havalanmasına izin vermeli miyiz?” sorusunu belki de çoktan geçti. Uçak havalandı bile.
Bundan sonra asıl soru, onu yere indirip indirmeyeceğimiz değil; kokpitte kimin oturacağı.
Yapay zekayı yalnızca daha çok üretmek, daha çok kazanmak, rakibin önüne geçmek için kullanılan bir araç olarak mı göreceğiz yoksa insanın bilgisini, vicdanını ve sınırlarını da masaya koyduğu gerçek bir iş birliğine mi dönüştüreceğiz?
Çünkü belki de insanlığın sonunu yapay zekâ getirmeyecek. Ama ona gelecekte ne olacağımızı biz öğreteceğiz.
Sende Yorum yap