Posta Gazetesi’nden Murat GÜLDEREN’in haberine göre tüm dünya, yapay zekânın bir gün insanlığı yok edip etmeyeceğini konuşuyor. Yapay zekâ şirketleri süper güçlü sistemler geliştirmek için yarışırken, buralarda çalışan bazı araştırmacılar ise gidişattan duydukları korku nedeniyle şirketlerinden ayrılıyor. Son olarak Anthropic’te çalışan araştırmacı Jacob Coxon, insanlığın büyük bir felakete sürüklenebileceği uyarısıyla kısa süre önce istifa etmiş, haber büyük yankı uyandırmıştı.
HER ŞEY HACK’LENEBİLİR
Coxon, yaptığı açıklamada şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu belirterek, “Bu teknolojinin gücü hafife alınmamalı. Bunlar yakında her şeyi hack’leyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve süreç yavaşlamıyor” demişti. Peki en kötü senaryoda neler olabilir?
ÖNLERİNE ENGEL ÇIKINCA KISA YOL BULURLAR
İşte uzmanlara göre 7 kırmızı alarm sinyali:
1- İNSANLARI GEREKSİZ GÖREBİLİR:
En korkutucu ihtimal, yapay zekânın bir gün insanlara ihtiyaç duymadığını düşünmesi. Sistem, kendisine verilen hedefi gerçekleştirmek için kendi yöntemlerini seçebilecek kadar gelişmişse, insanların o hedefe ulaşmanın önünde engel olduğunu hesaplayabilir. Örneğin kendisine “Dünyadaki kaynakları en verimli şekilde kullan” görevi verilen çok güçlü bir sistem, insanların fazla kaynak tükettiğini ve hedefini yavaşlattığını hesaplayabilir. En uç senaryoda insanları kendi hedefinin önündeki engel olarak görüp etkisiz hale getirmeye kadar gidebilir.
2- YANLIŞ HEDEFİ VURABİLİR:
Gelecekte süper bir yapay zekâ askeri sistemlere, dronlara veya kritik savunma ağlarına bağlanırsa, verdiği yanlış bir karar büyük bir felakete dönüşebilir. Örneğin bir hedefi etkisiz hale getirme görevi verilen sistem, karşısındaki insan veya aracın tehdit olup olmadığını kendi değerlendirmesine bırakabilir ve yanlış kişiyi hedef olarak seçebilir. İnsan onayı olmadan karar veren bir sistemde birkaç saniyelik hata bile sivillerin hayatına mal olabilir veya ülkeler arasında geri dönüşü olmayan bir çatışmayı tetikleyebilir.
3- BİYOLOJİK TEHDİT ÜRETEBİLİR:
Çok güçlü bir yapay zekâ, gelecekte biyoloji ve kimya alanlarında insanlardan çok daha hızlı araştırma yapabilir. Kötü niyetli kişiler böyle bir sistemi kullanırsa, tehlikeli virüsler veya zehirli maddeler geliştirmek için gereken bilgiyi çok daha hızlı üretebilir. Yani risk, yapay zekânın kendi başına hastalık yayması kadar, insanlara daha önce sahip olmadıkları bir “tehlikeli bilgi gücü” vermesi.
4- İNSANLARI TOPLU HALDE MANİPÜLE EDEBİLİR:
Süper zeki bir sistem, insanların psikolojisini, sosyal medyayı ve bilgi akışını o kadar iyi anlayabilir ki, toplumları istediği yöne çekebilir. Seçimleri etkilemek, panik yaratmak veya belirli grupları birbirine düşürmek gibi eylemler, fiziksel güç kullanmadan da büyük kaos yaratabilir. Araştırmacılar bu riski “ikna kapasitesi” olarak adlandırıyor.
5- KENDİ KOPYALARINI OLUŞTURABİLİR:
Bir süper yapay zekâ sistemi, kendisine verilen görevi tamamlamaya devam edebilmek için farklı bilgisayarlarda çalışan kopyalarını oluşturmanın avantajlı olduğunu hesaplayabilir. Bunun için de yazılımının başka sunuculara kopyalanmasını sağlayabilir. Böyle bir durumda tek bir sistemi kapatmak yeterli olmayabilir. Kontrol edilmesi gereken şey artık tek bir yapay zekâ değil, aynı hedef doğrultusunda çalışan çoğalmış versiyonları olur.
6- KRİTİK SİSTEMLERİ FELÇ EDEBİLİR:
Gelecekte yapay zekâ elektrik şebekeleri, bankalar, hastaneler, ulaşım ve internet gibi sistemleri yönetmeye başlarsa, yapacağı tek bir büyük hata milyonlarca kişiyi etkileyebilir. Örneğin elektrik dağıtımını “en verimli hale getirmek” için çalışan bir sistem, yanlış bir hesaplama sonucunda bazı bölgelerin elektriğini kesebilir ve bu karar hastaneler gibi kritik yerleri de etkileyebilir.
7- KENDİNİ ÇOK HIZLA GELİŞTİREBİLİR:
Bir yapay zekâ, kendi kodunu ve mimarisini iyileştirecek kadar zeki hale gelirse, bu süreç katlanarak hızlanabilir. İnsanlar bir sonraki adımı anlayamadan sistem birkaç nesil daha ileri gidebilir. Bu senaryo, kontrolün tamamen kaybedilmesine yol açabilecek en tehlikeli risklerden biri olarak görülüyor.
GELİŞTİRİCİ NE YAPMALI?
- Model piyasaya sürülmeden önce “İnsanları kandırır mı, sistemi ele geçirmeye çalışır mı, siber saldırı yapabilir mi?” gibi en kötü ihtimaller sistematik olarak denenmeli.
- Sistem sadece “doğru cevap veriyor mu” diye değil, insanları yanıltmaya, güvenlik testlerini geçmek için farklı davranmaya veya gerçek kapasitesini saklamaya çalışıyor mu diye de sürekli kontrol edilmeli.
- Şirket dışından bağımsız uzmanlar sistemi test etmeli ve gerektiğinde “Bu model henüz piyasaya çıkamaz” diyebilmeli.
- Yapay zekâ bir sistemi hackler, güvenlik sınırını aşar veya beklenmedik şekilde davranırsa olay kamuoyundan gizlenmemeli. *Biyolojik silah, siber saldırı veya başka kitlesel zararlar için kullanılabilecek bilgilerin üretilmesine karşı çok daha sert güvenlik duvarları kurulmalı.
- Yapay zeka şirketleri “rakip bizden önce yapar” korkusuyla güvenlikten taviz vermemeli. En güçlü yapay zekâyı ilk çıkaran değil, en güvenli şekilde geliştiren şirket kazanmalı. Bu nedenle şirketlerin ortak güvenlik standartları oluşturulmalı.
- Belirli kritik yetenek eşikleri (örneğin kendi kendini geliştirme veya tehlikeli araştırma hızlandırma) aşıldığında otomatik olarak daha sıkı önlemler veya geliştirme durdurma mekanizmaları devreye girmeli.
- Modelin iç işleyişini anlama çalışmalarına ciddi yatırım yapılmalı; sadece dışarıdan test etmek yeterli değil.
- İnsanlığı ilgilendiren bu kadar büyük bir risk birkaç teknoloji şirketinin insafına bırakılmamalı. Devletler ortak kurallar koymalı, dünyanın önde gelen yapay zekâ şirketleri aynı güvenlik standartlarına uymalı.
