Şirketinizin bir yapay zekâ politikası var mı?
Bir şirket çalışanının önüne uzun bir sözleşme geliyor. Çalışan zaman kazanmak için belgeyi bir yapay zekâ aracına yüklüyor ve “Bu sözleşmedeki riskli maddeleri bana özetle” diyor.
Başka bir şirkette insan kaynakları departmanı yüzlerce özgeçmişi yapay zekâ yardımıyla değerlendiriyor. Pazarlama ekibi kampanya görsellerini yapay zekâya hazırlatıyor. Bir yönetici ise toplantıya girmeden önce şirket verilerini yükleyip birkaç dakikada kapsamlı bir rapor oluşturuyor.
Bütün bunlar artık geleceğe ilişkin senaryolar değil. İş hayatının günlük pratiğinin bir parçası.
Peki bir şey yanlış giderse ne olacak?
Yapay zekâ kullanılıyor, ama yetkiyi kim verdi?
Yapay zekâ araçlarının şirketlerde kullanımı çoğu zaman yukarıdan alınmış kurumsal bir kararla başlamıyor. Çalışanlar işlerini hızlandırmak için bu araçları kendileri keşfediyor ve kullanmaya başlıyor. Sorun da tam burada ortaya çıkıyor.
Bir çalışan müşteri bilgilerini yapay zekâ aracına yükleyebilir mi? Ticari sır içeren bir sözleşmenin tamamını sisteme aktarabilir mi? İnsan kaynakları, işe alınacak kişileri belirlerken yapay zekânın değerlendirmesini esas alabilir mi? Bir yönetici, yapay zekânın hazırladığı hukuki veya finansal analize güvenerek karar verebilir mi?
Daha önemlisi: Yapay zekânın verdiği cevap yanlışsa sorumluluk kimlerde dağılıyor?
Teknolojiyi kullanan çalışanda mı? Yöneticide mi? Şirkette mi? Yoksa yapay zekâ hizmetini sunan teknoloji şirketinde mi?
Bu soruların tamamının mevzuatta tek tek ve açık biçimde cevaplandığını söylemek bugün için mümkün değil.
Hukuk teknolojiden daha yavaş ilerliyor...
Yapay zekânın hem küresel düzeyde hem de ülkelerin kendi hukuk sistemlerinde belirli bir çerçeveye oturtulması gerekiyor. Nitekim dünyanın farklı bölgelerinde bu konuda düzenlemeler ve çalışmalar devam ediyor. Ancak hukukun doğası gereği düzenleme süreçleri teknolojik gelişmeler kadar hızlı ilerlemiyor.
Bir yapay zekâ uygulaması birkaç ay içerisinde milyonlarca kullanıcıya ulaşabiliyor. Yeni kullanım biçimleri haftalar içerisinde şirketlerin günlük işleyişine girebiliyor. Bir kanunun hazırlanması, tartışılması, kabul edilmesi ve uygulamasının yerleşmesi ise çok daha uzun zaman alıyor.
Şirketlerin önünde bu nedenle önemli bir soru var:
Mevzuatın bütün cevapları vermesini mi bekleyeceğiz?
Bence şirketlerin yapabileceği çok daha pratik bir şey var: Kendi yapay zekâ kullanım kurallarını şimdiden belirlemek.
Bir şirketin “AI kullanım politikası” neden olmalı?
Bugün birçok şirketin bilgi güvenliği, kişisel verilerin korunması, sosyal medya kullanımı veya çalışanların şirket cihazlarını nasıl kullanacağı konusunda iç politikaları bulunuyor.
Benzer bir yaklaşım artık yapay zekâ için de gerekli.
Üstelik bunun onlarca sayfalık karmaşık bir metin olması gerekmiyor.
İyi hazırlanmış bir yapay zekâ kullanım politikası öncelikle çok basit sorulara cevap vermeli:
Şirket içerisinde hangi yapay zekâ araçları kullanılabilir?
Çalışanlar bu araçlara hangi bilgileri yükleyebilir, hangilerini kesinlikle yükleyemez?
Müşteri bilgileri, kişisel veriler, ticari sırlar veya henüz kamuya açıklanmamış şirket bilgileri yapay zekâ sistemlerine aktarılabilir mi?
Yapay zekâ tarafından oluşturulan metin, analiz, görsel veya rapor hangi durumlarda mutlaka bir insan tarafından kontrol edilmeli?
Ve belki de en önemlisi: Nihai kararın sorumluluğu kimde?
“Yapay zekâ söyledi” bir savunma olmayabilir.
Buradaki temel yaklaşımın oldukça basit olması gerektiğini düşünüyorum. Yapay zekâ karar veren kişinin yerine geçen görünmez bir yönetici haline gelmemeli.
Karar süreçlerini destekleyen bir araç olarak kullanılmalı. Örneğin bir şirket yöneticisi, önemli bir sözleşme hakkında yapay zekâdan değerlendirme alabilir. Ancak milyonlarca liralık ticari ilişkinin kaderini yalnızca bu değerlendirmeye bırakmak başka bir şeydir.
Aynı şekilde insan kaynakları departmanı yüzlerce başvurunun sınıflandırılmasında teknolojiden yararlanabilir. Fakat bir adayın işe alınmaması tamamen algoritmanın verdiği puana dayanıyorsa, ayrımcılık ve şeffaflık gibi çok daha ciddi hukuki sorular ortaya çıkabilir.
Bir çalışanın yapay zekâ aracına müşteri listesini veya gizli bir sözleşmeyi yüklemesi ise kişisel verilerin korunmasından ticari sırların güvenliğine kadar başka riskler doğurabilir.
Bu nedenle şirket politikalarında bazı işlemler için açıkça “insan onayı” şartı getirilmesi giderek daha önemli hale geliyor.
Yasaklamak da çözüm değil.
Burada diğer uç noktaya da düşmemek gerekiyor.m“Risk var, o halde çalışanlar yapay zekâ kullanmasın” yaklaşımı gerçekçi görünmüyor. Çünkü doğru kullanıldığında yapay zekâ; araştırmadan raporlamaya, müşteri hizmetlerinden veri analizine kadar birçok alanda ciddi zaman ve verimlilik avantajı sağlayabiliyor.
Asıl mesele teknolojiyi yasaklamak değil, kullanım alanını ve sınırlarını belirlemek.
Şirket çalışanı hangi aracı kullanabileceğini biliyorsa, hangi bilgiyi sisteme giremeyeceğini biliyorsa ve yapay zekâ çıktısının hangi aşamada insan kontrolünden geçmesi gerektiği önceden belirlenmişse risk önemli ölçüde yönetilebilir hale geliyor. Böylece şirket açısından “Kim buna izin verdi?” sorusunun cevabı da olay gerçekleştikten sonra aranmıyor. Yetki baştan tanımlanmış oluyor.
Önce şirketler kendi sınırlarını çizmeli. Önümüzdeki yıllarda yapay zekâ hukukunun çok daha ayrıntılı hale geleceğine şüphe yok. Veri koruma hukukundan fikrî mülkiyete, iş hukukundan tüketici hukukuna kadar birçok alanda yeni tartışmalar ve düzenlemeler göreceğiz. Fakat şirketlerin bütün bu düzenlemelerin tamamlanmasını beklemesi gerekmiyor.
Bugün atılabilecek oldukça basit ama önemli bir adım var: Şirket içinde yapay zekânın kim tarafından, hangi amaçlarla ve hangi sınırlar içerisinde kullanılabileceğini yazılı hale getirmek.
Hangi işlemlerin insan onayı gerektirdiğini belirlemek ve nihai kararın sorumluluğunu açıkça tanımlamak. Çünkü hukukun yapay zekânın bütün sorularına cevap vermesi zaman alabilir. Ancak şirketlerin kendi sınırlarını çizmek için beklemesine gerek yok.
Belki de bugün bir şirketin yapay zekâ konusunda atabileceği en önemli hukuki adım, yeni bir yazılım satın almak değil; o yazılımın kim tarafından, hangi amaçla ve hangi sınırlar içinde kullanılacağını belirlemektir.
Categories: Şirketinizin bir yapay zekâ politikası var mı?
Sende Yorum yap