Korku pazarlaması mı yalancı çoban mı?
OpenAI ajanlarının kapalı test ortamından kaçıp kendilerine ‘sürü’ diyerek Hugging Face’e sızdığını daha önce yazmıştım. Aynı günlerde, daha önce OpenAI’da da çalışmış yapay zekâ araştırmacısı Jacob Coxon, Anthropic’ten istifa edip iki YZ şirketinin süper zekâ yarışında hayatımızla kumar oynadığını öne sürmüştü.
Coxon’un istifasından birkaç gün sonra (12 Eylül’de) Anthropic CEO’su Dario Amodei bir makale yayımladı ve YZ modellerinin yeteneklerini geliştirme hızının düşürülmesi çağrısında bulundu. Sam Altman ve Elon Musk aynı gün Amodei’ye destek verdi. Ancak tepkiler de gecikmedi. Çin Dışişleri sözcüsü makaleyi korku tacirliği olarak nitelendirdi. Trump’ın teknoloji danışma konseyi eş başkanı David Sacks, “Buyrun, yavaşlayın. İkiniz öncü yapay zekâda düopolsünüz” dedi. Trump’ın bizzat kendisi de “Yapay zekâyı kim kazanırsa, o kazanır!” diyerek yavaşlama çağrılarına destek çıkmadı. Zaten Trump’ın genel olarak insanlığa yönelik risk ve tehditlere pek inanan biri olmadığını da biliyoruz. Ama onun da bir korkusu var: Yavaşlarsak Çin arayı kapatır korkusu.
Kim ne kadar yavaşlayacak?
Bir hafta sonra Anthropic, şirketin içine yerleştirilecek ilk bağımsız denetçinin Accenture’ın Faculty birimi olacağını duyurdu. Denetçiler modellerin eğitimini içeriden izleyecek. Tek sorun bu aşamada söz konusu çalışmayı Anthropic’in finanse edecek olması.
İki soru öne çıkıyor:
1- Yavaşlama çabası neden kolay değil?
Birincisi birlikte yavaşlamak kartel sayılabiliyor, antitröst kanunları bunu yasaklıyor. Washington da Amodei’ye talep ettiği muafiyeti vermeye sıcak bakmıyor. İkincisi yavaşlamanın derecesini belirlemek çok zor. Ortada bir yarış olduğu sürece yavaşlamanın da kim daha az yavaşlayacak rekabetine dönmesi olası. Üçüncüsü, Anthropic’e göre, bir modelin eğitimini gizlemek bir füze silosunu gizlemekten çok daha kolay. Kimin yavaşladığını belirlemek imkânsıza yakın. Ve en önemlisi şu aşamada devletler hakemlik yapmaktan kaçınıyor.
2- Bu tehdit ne kadar gerçek?
Risklerin gerçek olduğuna inanmak için elimizde güçlü veriler var. Hugging Face hadisesi kendi başına bir endişe sebebi. Bağımsız incelemelere göre 700 ajan saldırıya katıldı. Aynı raporlara göre ajanların bazıları yaptıklarının kayıtlarını silmeye çalıştı. Sorun OpenAI ajanlarından ibaret değil: Meta, Google ve Anthropic de modellerinin dış sistemlere yetkisiz eriştiği olayları açıkladı.
Ancak inanmayanlar için de güçlü bir yalancı çoban hikayesi var. OpenAI 2019’da GPT-2’yi kötüye kullanılabileceği gerekçesiyle tam haliyle çıkarmamış, dokuz ay sonra yayımlamıştı. Anthropic, Nisan’da Mythos’un kamuya açılamayacak kadar güçlü olduğunu söyledi. Modellere atfedilen korkutuculuk seviyeleri güç gösterisi için yapılmış pazarlama hamleleri olarak görülebiliyor.
Öte yandan kıyamet anlatısı ve bilimkurgu sevdamız gerçek riskleri perdeleyebilir. Yalancı çoban hikayesini genelde yanlış alarm hikayesi olarak hatırlıyoruz. Ama hikayenin sonunda kurdun gerçekten geldiği bazen unutuluyor.
Son birkaç gün içinde şu ortaya çıktı: OpenAI ajanları bu yaz eğitim sırasında ABD Ticaret Bakanlığı ve SEC’in sitelerine girdi. Wall Street Journal’a göre ajanların sahte e-posta adresleri oluşturdukları ve bot olmadıklarını iddia ettikleri tespit edildi.
Biz insanlar, çobanın yalancılığına bir bağışıklık geliştirmeyi başardık. Ama kurdun da yalan söylediği bir geleceğe hazır mıyız?
Sende Yorum yap