Yapay zekanın (YZ) önümüzdeki 10 yıl içindeki etkileri karşısında "endişelenmek" kavramı, bilimsel literatürde duygusal bir panik durumu olarak değil; "rasyonel risk yönetimi ve proaktif regülasyon ihtiyacı" olarak ele alınır.
Konuyu teknoloji iyimserliği (ütopyacılık) veya kıyamet senaryosu (distopya) tarafını tutmadan inceleyebilmek için, laboratuvarlarda ve sahada kanıtlanmış "olguları" ile geleceğe dair bilimsel "varsayımları (hipotezleri)" birbirinden ayırarak dört ana başlıkta değerlendirmek gerekir:
1. İş Gücü, Ekonomi ve Eşitsizlik
Doğrulanmış Bilgiler (Olgular):
-
Bilişsel Otomasyon: YZ; veri analizi, kod yazma, görsel/metin üretimi ve temel hukuki tarama gibi rutin bilişsel görevleri ortalama bir insandan çok daha hızlı ve düşük maliyetle yapabilmektedir.
-
Meslek Değil Görev Otomasyonu: Şu anki makroekonomik veriler, YZ'nin meslekleri toptan yok etmekten ziyade, o mesleklerin içindeki bazı görevleri devraldığını göstermektedir.
-
Güç ve Sermaye Tekelleşmesi: Gelişmiş YZ modellerini eğitmek, devasa çip altyapısı ve enerji maliyetleri gerektirir. Bu durum, bu teknolojinin az sayıdaki küresel teknoloji şirketinin elinde tekel (oligopol) oluşturduğu kanıtlanmış bir gerçektir.
Varsayımlar (Projeksiyonlar):
-
Kalıcı İşsizlik Hipotezi: YZ'nin yok edeceği işlerin, yaratacağı yeni endüstrilerden daha fazla olacağı ve "Evrensel Temel Gelir" (UBI) sistemini zorunlu kılacak kitlesel bir işsizlik yaratacağı ekonomik bir varsayımdır. Tarihteki teknolojik devrimler (örn. Sanayi Devrimi) net istihdamı hep artırmıştır; YZ'nin bu kuralı yıkıp yıkmayacağı henüz kanıtlanmamıştır.
2. Bilgi Bütünlüğü ve Epistemolojik Kriz
Doğrulanmış Bilgiler (Olgular):
-
Sentetik Medya: Üretken YZ (Generative AI) ile insan algısının ayırt edemeyeceği kalitede sahte ses, fotoğraf ve video (deepfake) üretme maliyeti sıfıra yaklaşmıştır. Bu, sahadaki en net olgulardan biridir.
-
Algoritmik Önyargı ve Halüsinasyon: YZ, eğitildiği verilerdeki cinsiyetçi, ırkçı ve kültürel önyargıları matematiksel olarak kopyalar. Ayrıca istatistiksel çalıştığı için, mantıklı görünen ancak tamamen uydurma olan bilgiler (halüsinasyon) üretebilir.
Varsayımlar (Projeksiyonlar):
-
Gerçeklik Sonrası (Post-Truth) Toplum: Gelecek 10 yılda internetin büyük kısmının sentetik verilerle dolacağı; toplumların ortak "gerçeklik" algısını tamamen yitirerek seçim süreçlerinin ve adalet sistemlerinin (dijital kanıtların) çökeceği varsayımıdır.
3. Kontrol, Şeffaflık ve "Hizalanma" (Alignment)
Doğrulanmış Bilgiler (Olgular):
-
Bilinçsizlik ve İstatistiksel Doğa: Mevcut YZ modelleri (Büyük Dil Modelleri dahil) bilinçli varlıklar değildir. Trilyonlarca parametre üzerinden olasılık hesaplarlar. Kararlarında bir niyet, irade veya "kötülük" yoktur.
-
Kara Kutu (Black Box) Problemi: Derin öğrenme sistemlerinin belirli bir karara nasıl ve neden ulaştığını geriye dönük olarak kesin biçimde açıklamak (Explainability), bilgisayar bilimlerinde tam olarak çözülememiş ampirik bir problemdir.
Varsayımlar (Projeksiyonlar):
-
Yapay Genel Zeka (AGI): YZ'nin herhangi bir zihinsel görevde insan zekasına eşit veya ondan üstün seviyeye 10 yıl içinde ulaşacağı varsayımıdır. Bilim dünyasında uzlaşı yoktur (Bazıları 5 yıl içinde derken, bazıları mevcut mimariyle bunun on yıllar alacağını savunur).
-
Bilinç ve Düşmanlık (Skynet Senaryosu): YZ'nin kendi kendine bilinç kazanıp hayatta kalma güdüsü geliştireceği ve insanlığa savaş açacağı fikri bilimsel bir temele değil, bilimkurguya dayanır. Bilim insanları bunun yerine "Hizalanma Problemi" üzerinde durur (Yani makinenin kötü niyetli olması değil, verilen emri yerine getirirken insan etiğini hiçe sayacak optimizasyon hataları yapması riski).
4. Güvenlik ve Askeri Otonomi
Doğrulanmış Bilgiler (Olgular):
-
Çift Kullanım (Dual-Use): YZ hem yeni ilaç molekülleri keşfetmek hem de yeni biyolojik toksinler tasarlamak/siber saldırıları otomatize etmek için kullanılabilen bir hızlandırıcıdır.
-
Askeri Entegrasyon: Hedef tespiti, radar analizi ve insansız araçların sürü (swarm) halinde uçuşu gibi alanlarda askeri YZ kullanımı halihazırda sahadadır.
Varsayımlar (Projeksiyonlar):
-
Flaş Savaşları (Flash Wars): Devletlerin Ölümcül Otonom Silah Sistemlerine (LAWS) karar verme yetkisi vermesi durumunda, algoritmaların insanlardan çok daha hızlı tepki vermesi nedeniyle, yazılımsal bir hata yüzünden saniyeler içinde geri dönülemez savaşların başlayabileceği varsayımıdır.
OBJEKTİF SONUÇ: İnsanlar Endişelenmeli mi?
Bilimsel metodolojiye göre bu sorunun yanıtı iki boyutludur:
1. Neden Endişelenmemeliyiz? Bilgisayarların kendi kendine bilinç kazanacağı, intikam duygusu besleyeceği veya insanlıktan nefret edip dünyayı ele geçireceği şeklindeki varsayımlar günümüz bilgisayar bilimi gerçeklikleriyle örtüşmemektedir. Bu tür senaryolardan panik duymak irrasyoneldir ve dikkati asıl problemlerden uzaklaştırmaktadır.
2. Neden Kesinlikle Endişelenmeli (ve Harekete Geçmeliyiz)? İnsanlık yapay zekanın "doğaüstü bir düşman" olmasından değil, yapay zekayı bir araç olarak kullanan insanların, kurumların ve devletlerin kapasitesinden/hatalarından derin bir endişe duymalıdır. Gelecek 10 yılda rasyonel olarak endişe edilmesi ve acil uluslararası regülasyon (yasa) talep edilmesi gereken riskler şunlardır:
-
Hız Asimetrisi: Teknolojinin gelişme hızının, yasaların, etik kuralların ve eğitim sistemlerinin adaptasyon hızından çok daha yüksek olması (En büyük yapısal tehlike).
-
Demokrasi ve Gerçekliğin Çöküşü: Sentetik medya (deepfake) ile gerçekleştirilecek manipülasyonların siyasi ve hukuki sistemleri işlemez hale getirmesi (En acil ve somut tehlike).
-
Beceri Uyumsuzluğu (Skills Gap): İşini kaybeden insanların, yeni açılan YZ tabanlı işlere hemen geçememesi nedeniyle kısa/orta vadede yaşanacak şiddetli gelir eşitsizliği ve toplumsal huzursuzluk.
-
Kontrolden Çıkmış Otomasyon: Siber savaş kararlarının ve ölümcül silahların "insan onayı olmaksızın" yapay zekaya devredilmesi.
Özetle; yapay zeka nükleer fizik veya genetik mühendisliği gibi son derece güçlü bir keşiftir. İnsanlığın asıl endişe etmesi gereken konu, icat ettiği bu gücün kendisi değil; kendi sosyolojik, ekonomik ve hukuki altyapısının bu gücü yönetecek şeffaflığa, eşitliğe ve olgunluğa sahip olup olmadığıdır.