Yapay zekâda fren mi gaz mı?
Yapay zekâ dünyasında ilginç bir tartışma başladı. Bir tarafta “Çok hızlı gidiyoruz, biraz yavaşlayalım” diyenler var. Karşılarında ise “Durmak yok, devam” diyenler. Bir de Trump’ın temsil ettiği, meseleyi neredeyse “Drill, baby, drill” sloganına bağlayan üçüncü bir grup var. “Daha fazla çip, daha fazla veri merkezi, daha fazla yatırım, daha fazla yapay zekâ” diyor bunlar.
Tartışmanın ilginç tarafı, frene basılmasını isteyenlerin yapay zekâya karşı olanlar değil, tam tersine bu teknolojinin en önemli oyuncuları olması.
Haftanın ilk gününde, tartışmaları medyadan soluksuz bir şekilde izledik. Önemli oyuncularda Anthropic’in CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerini geliştirme hızının düşürülmesini istiyor. Üstelik “durduralım” demiyor. Sadece biraz yavaşlayalım, ne yaptığımızı daha iyi anlayalım diyor. Diğer önemli oyuncular OpenAI CEO’su Sam Altman ve Elon Musk da “pacing”, yani tempoyu ayarlama fikrine destek veriyor. Altman’ın ifadesiyle “yavaşlamak durmak anlamına gelmiyor.”
Endişenin kaynağı
Asıl kaygı, yapay zekânın artık yalnızca daha iyi cevaplar vermesi değil. Giderek daha fazla işi kendi başına yapabilen, bilgisayar sistemlerine erişebilen, kod yazabilen ve amaçlarına ulaşmak için beklenmedik yollar deneyebilen sistemler ortaya çıkıyor. İşte endişe kaynağı da burası.
Dolayısıyla mesele “yapay zekâ ne kadar akıllı olacak?” sorusundan “ne yapabileceğini gerçekten kontrol edebilecek miyiz?” sorusuna doğru kayıyor.
Microsoft’un hazırladığı yapay zekâ davranış kuralları bu endişenin bir yansıması. Şirketin kendi AI sistemlerinin düzeltmeye ve kapatılmaya direnmemesi, insanlarla anlaşılabilir biçimde iletişim kurması ve belirlenen davranış kurallarını ihlal etmesinin başarısızlık sayılması öngörülüyor.
Trump ise tam tersini söylüyor. Ona göre Amerika yapay zekâda Çin’in açık ara önünde ve bu avantajı korumak için ayağın gazdan çekilmemesi gerekiyor. Ona göre daha fazla düzenleme, Amerikan şirketlerini yavaşlatır. Amerika yavaşlarsa Çin yetişir. Trump’ın mantığı basit, “Yapay zekâyı kim kazanırsa dünyayı o kazanır” diyor.
Bu yaklaşımın arkasında yalnızca teknoloji yarışı yok. Devasa bir yatırım yarışı da var. Veri merkezleri, çipler, sunucular, enerji altyapısı ve soğutma sistemleri için trilyonlarca dolarlık yatırım planlanıyor. Dolayısıyla yapay zekânın hızından artık sadece teknoloji şirketlerinin geleceği değil, borsaların ve ekonomilerin büyüme beklentileri de etkileniyor.
Nitekim piyasa bunu hemen gösterdi. Yapay zekâ yatırımlarından en fazla yararlanan çip ve sunucu şirketlerinin hisseleri gerilerken siber güvenlik şirketleri yükseldi. Çünkü yapay zekâ daha güçlü hale geldikçe, onu kontrol etmek ve yaratabileceği risklere karşı korunmak da büyük bir sektör haline geliyor.
Hız-kontrol dengesi
Üstelik bankaların bankası Bank for International Settlements’ın uyarısı başka bir frene daha işaret ediyor. Yatırımcılar, yapay zekâ yatırımlarının gelecekte ne kadar karlı olacağı konusunda eskisi kadar rahat değil. Teknoloji şirketlerinin artan borçluluğu da bu kaygıyı büyütüyor.
Takip edebildiğim kadarıyla burada üç farklı “gaz-fren” anlayışı ortaya çıkıyor.
Birincisi, Amodei’nin yaklaşımı, yani “ilerleyelim ama kontrollü ilerleyelim.” İkincisi, Trump’ın yaklaşımı, “Rakiplerimiz ilerliyorsa bizim yavaşlamamız intihar olur.” Üçüncüsü ise piyasanın yaklaşımı. “Yatırım yapalım ama bunun getirisi gerçekten gelecek mi?”
Aslında tartışma yapay zekânın ilerleyip ilerlememesi değil. Bence artık bunu durdurmak mümkün değil. Tartışma, hız ile kontrol arasında doğru dengenin nerede kurulacağına odaklanacak.
Bundan 250 yıl önce sanayi devriminde kimse makineyi durdurmadı. Daha yakın zamanda internette de kimse interneti kapatmadı. Ama her büyük teknolojik sıçramanın sonunda kurallar, kurumlar ve güvenlik mekanizmaları ortaya çıktı.
Yapay zekâda belki de ihtiyaç duyulan şey frene basmak değil; frenin gerçekten çalıştığından emin olmak. Çünkü “Drill, baby, drill” mantığıyla sonsuza kadar gaz vermek kolay. Zor olan, hızlanırken virajın nerede olduğunu görebilmek.
Sende Yorum yap