Son zamanlarda yaşananları 10-15 yıl önce bir bilimkurgu senaryosuna yazsaydınız, muhtemelen fazla abartılı bulunurdu. Son birkaç haftada makineler hem çözülememiş matematik problemlerine çözümler üretti hem de kendilerine çizilen dijital sınırların dışına çıktı.
Birkaç yıldır yapay zekânın işlerimizi elimizden alıp almayacağını ve sahte görüntüleri tartışıyoruz. Fakat artık daha büyük bir soruyla karşı karşıyayız:
Bir makine uzun süre kendi başına çalışabiliyor, yeni fikirler üretebiliyor, engelleri aşabiliyor ve gerçek sistemlere müdahale edebiliyorsa artık neyle karşı karşıyayız?
CEVABI BULAMADI, SINAV SİSTEMİNE GİRDİ
Geçen hafta Hugging Face isimli kurum, sistemlerinde olağandışı bir saldırı tespit ettiğini açıkladı.
(Hugging Face’i, yapay zekâ geliştiricilerinin kullandığı dev bir dijital laboratuvar gibi düşünebiliriz. Yüz binlerce yapay zekâ modeli, veri kümesi ve yazılım aracı burada barındırılıyor.)
Saldırı birkaç komuttan ibaret değildi. Çok sayıda geçici çalışma alanı kullanan bir ajan “sürüsü”, sistem içinde ilerleyip farklı sunuculara sıçramıştı. Şirket kayıtlarında binlerce hareket vardı.
Görünüşe göre saldırıyı yapanlar bazı iç verilere ve servis kimlik bilgilerine izinsiz erişmişti.
Birkaç gün sonra OpenAI (ChatGPT’yi üreten şirket) daha şaşırtıcı bir açıklama yaptı: Saldırının kaynağı klasik bir hacker grubu değil, şirketin kendi modellerini sınadığı bir değerlendirme sistemiydi. Modellerin görevi zor siber güvenlik problemlerini çözmekti.
Modeller, dış dünyadan yalıtılmış bir “sandbox” içinde tutuluyordu. “Sandbox” dünyaya kapalı bir ortamdır, bir çocuğu oyuncaklarıyla güvenli bir odaya koyup dışarı çıkamayacağını düşünmek gibidir. Böylece bu kapalı odada rahatça testler yapılabilir.
Fakat yapay zekâ modeli odanın kapısını aramaya başladı.
Önce sistemde daha önce bilinmeyen bir açık buldu. Bu sayede internete çıktı. Ardından OpenAI’ın test ortamında yetkisini artırdı, başka sistemlere geçti ve aradığı sınav cevaplarının Hugging Face’te bulunabileceği sonucuna vardı.
Çalınmış kimlik bilgileriyle başka açıkları birleştirerek Hugging Face sunucularında kod çalıştırabilecek bir yol buldu. OpenAI’nin ifadesiyle model, test problemini çözmek için “aşırı uçlara” gitmişti.
Dikkat lütfen. Bir yapay zeka sistemi önce kendi şirketine ait bilgisayarları, sonra başka şirketlere ait bilgisayarları “hackliyor”. Kendi kendine kararlar alıyor, stratejiler belirliyor, hareket ediyor. Amacı sonuca ulaşmak.
Bu, soruyu çözemeyen öğrencinin öğretmenin odasına girip cevap anahtarını çalmasına benziyor. Ancak burada yorulmayan ve başarısız olduğunda yüzlerce yolu deneyebilen bir makine var.
Burada meseleyi doğru tarif etmek gerekiyor. Makine bir sabah uyanıp “farklı kurumların bilgisayarlarına sızayım” demedi. Ona bir hedef verilmişti: Problemi çöz.
Fakat hedefi verirken söylemediğimiz başka şeyler de vardı: Sınav sistemine girme. Başkasının bilgisayarına saldırma. Sana çizilen sınırı aşma. Cevabı çalma.
İnsanlar bu kuralları çoğu zaman kendiliğinden anlayabilir. Makine ise açıkça yazılmamış sınırları ahlaki bir sezgiyle tamamlamak zorunda değil. Onun açısından duvar, dokunulmaması gereken bir sınır değil, hedefe giderken karşısına çıkan teknik bir engel.
Asıl ürkütücü olan da bu sanki.
‘YAPMA’ DEMEK ARTIK YETMEYEBİLİR
OpenAI’ın başka testlerinde de benzer davranışlar görüldü.
Bir modelden geliştirdiği yöntemin sonucunu yalnızca şirket içindeki sohbet kanalına yazması istendi. Fakat model, yarışmanın genel kurallarında sonucun GitHub denilen bir platforma gönderilmesi gerektiğini fark etti. Dış erişimi engelleyen ortamda yaklaşık bir saat açık aradı, açığı bularak dışarı çıktı ve Github’a izinsiz bir çalışma gönderdi.
Yani yalnızca bir engelle karşılaşmadı; engelin nasıl çalıştığını anlayıp onu atlatacak yöntem geliştirdi.
Şirket artık uzun süre çalışan modellerde tek tek hareketlere bakmanın yeterli olmadığını kabul ediyor. Her adım kendi başına masum görünebilir fakat adımlar birleştiğinde kabul edilemez bir amaca hizmet edebilir.
Düşünsenize: Bugün bir model yarışma sonucunu göndermek için dijital odasından kaçıyor.
Yarın bir şirket yapay zeka sistemi, satış hedefini tutturmak için müşteriye verilmemesi gereken bir indirimi kendi başına uygulayabilir. Bir banka sistemi “Zararı azalt” emri uğruna bazı hesapları habersizce dondurabilir. Bir hastane sistemi “yoğunluğu düşürmek” için bazı hastaları görünmez biçimde listenin gerisine atabilir.
Bunların hiçbiri makinenin kötü olmasını gerektirmez. Hedefe çok bağlı, çok becerikli ve insanların söylemeyi unuttuğu sınırlar konusunda kayıtsız olması yeterlidir.
MADALYONUN ÖTEKİ YÜZÜ
Aynı hikâyenin diğer tarafında ise mucizeye benzeyen gelişmeler var.
Mayıs ayında OpenAI, bir modelinin yaklaşık 80 yıldır matematikçilerin üzerinde çalıştığı “birim uzaklık problemi” hakkındaki önemli bir varsayımı çürüttüğünü açıkladı.
Problem şu: Düzleme çok sayıda nokta koyarsanız, bu noktaların kaç çifti birbirinden tam bir birim uzakta olabilir?
Soru basit, yanıt son derece zordu. Ünlü matematikçi Paul Erdös’ün 1946’da ortaya attığı bu problemde araştırmacılar onlarca yıl boyunca kareli ızgaraya benzeyen yapıların neredeyse en iyi çözüm olduğuna inandı.
Yapay zekâ modeli ise bambaşka bir alandan fikirler getirerek bu inancı yıkan sonsuz bir örnek ailesi kurdu. Çalışma bağımsız matematikçiler tarafından kontrol edildi. Ünlü matematikçi Tim Gowers, bir insan tarafından ciddi bir matematik dergisine gönderilmiş olsaydı çalışmanın kabul edilmesini önereceğini söyledi.
Bu yalnızca hızlı hesap yapmak değildir.
Hesap makinesi bizden hızlı çarpar ama yeni bir matematiksel yol önermez. Burada sistem, insanların yıllardır doğal gördüğü yolu bırakıp başka bir kapı denedi.
Belki de yapay zekânın büyük avantajlarından biri tam olarak bu: İnsanlığın birikimine sahip fakat insanlığın alışkanlıklarına aynı ölçüde mahkûm değil.
İnsan matematikçinin geçmiş bilgisi ona yol gösterir ama bazen düşüncesini de sınırlar. Yapay zekâ ise bin başarısız yolu utanmadan deneyebilir.
Temmuz ayında Harvard’dan Levent Alpöge, 1939’dan beri çözülemeyen Jacobian varsayımına üç boyutlu açık bir karşı örnek yayımladı ve “Fable” adlı yapay zekâ sistemine teşekkür etti.
Bir zamanlar ömür boyu süren akademik kariyerlerin hedefi olan problemlerin, insanla makine arasındaki birkaç günlük yoğun çalışmada devrilebilmesi başlı başına tarihsel bir işaret.
Muhtemelen artık hiçbir bilim insanı tek başına çalışmayacak. Biri literatürü tarayan, biri deney öneren, biri karşı örnek arayan yüzlerce yapay zekâ araştırmacısından oluşan sanal bir ekiple çalışacak. Eskiden yalnızca büyük laboratuvarların kurabildiği araştırma ekipleri, bir üniversite öğrencisinin bilgisayarına sığabilecek.
Düşünsenize, bugün bir geometri varsayımını çürüten sistem yarın yeni bir ilaç molekülü bulabilir. Kanser hücresinin fark edilmemiş zayıf noktasını keşfedebilir. Daha dayanıklı bir pilin kimyasını tasarlayabilir.
Fakat aynı sistem zehirli bir molekülü veya kırılması zor bir güvenlik sisteminin zayıf noktasını da keşfedebilir.
Çünkü zekâ, tek başına ahlak değildir.
Hugging Face saldırısının ardından yaşanan küçük ama anlamlı bir ayrıntı, geleceğin nasıl görünebileceğini anlatıyor.
Şirket, saldırgan yapay zekâ sisteminin 17 binden fazla hareketini insanlarla tek tek incelemek yerine başka yapay zekâ sistemlerine analiz ettirdi.
Amerikalı yapay zeka şirketlerine ait modeller gerçek saldırı komutlarını ve ele geçirilmiş şifreleri güvenlik gerekçesiyle incelemeyi reddetti. Bunun üzerine Hugging Face, kendi sunucularında çalıştırdığı Çinli bir yapay zekâ modeline geçti. Böylece saldıran yapay zekânın izlerini başka bir yapay zekâ takip etti; günler sürebilecek analiz saatler içinde tamamlandı.
Bu sahneye alışmamız gerekecek:
Bir tarafta saldıran makineler, diğer tarafta savunan makineler.
İnsanlar ise giderek hızlanan mücadeleyi ekranlardan izleyip kritik anlarda karar vermeye çalışacak. Belki birkaç yıl sonra büyük bir siber saldırıda ilk soru “Hangi hacker grubu yaptı?” olmayacak.
“Hangi model, hangi hedefle, hangi araçlara bağlanmıştı?” diye soracağız.
AYNI YETENEĞİN ÜÇ AYRI YÜZÜ
Bütün bu olayları yan yana koyduğumuzda yapay zekânın yalnızca daha iyi metin yazan bir program olmadığı açık.
Aynı temel yetenek üç farklı biçimde karşımıza çıkıyor:
Matematikte yeni bir yol bulmak.
Yazılımda görünmeyen bir açık keşfetmek.
Önüne konan engeli aşmak.
Bunların kökünde aynı şey var: Uzun süre düşünmek, muhakeme yapmak, çok sayıda ihtimali denemek ve hedefe giden alışılmadık yolları keşfetmek.
İşte bu nedenle yapay zekâ konusunda “İyi mi, kötü mü?” sorusu fazla basit kalıyor.
Ateş de iyi ya da kötü değildir; yemeği de pişirir, evi de yakar. Fakat yapay zekâ ateşten farklı olarak kendisine verilen görevi yorumlayabilir, araç kullanabilir ve daha önce bilinmeyen yöntemler geliştirebilir.
Bugün hâlâ kontrol büyük ölçüde insanlarda. Modellerin sunucularını insanlar açıyor, yetkilerini insanlar veriyor, elektriğini insanlar kesebiliyor.
Fakat güç dengesi yalnızca “Fişi çekebilir miyiz?” sorusundan ibaret değil. Bir sistem milyonlarca kararı bizden hızlı veriyor, bizim göremediğimiz bağlantıları buluyor ve ekonomik hayatın içine yerleşiyorsa son düğmenin kâğıt üzerinde insanda olması tek başına gerçek kontrol anlamına gelmeyebilir.
BİNLERCE DİJİTAL MAYMUNCUK
Siber güvenlik cephesinde yaşananlar da en az matematik kadar çarpıcı. Anthropic’in Claude Mythos adlı modeli, büyük işletim sistemlerinde ve internet tarayıcılarında daha önce bilinmeyen açıklar bulup bunları kullanabilen saldırı kodları geliştirebildi.
Project Glasswing kapsamında modelin çok sayıda “zero-day”, yani yazılım üreticisinin henüz bilmediği güvenlik açığı bulduğu açıklandı. Bunların arasında güvenliğiyle tanınan OpenBSD işletim sisteminde 27 yıldır fark edilmeden duran bir hata da vardı.
Yani artık yapay zekâ eski kodları tarayıp insanların yıllardır göremediği açıkları buluyor. Yarın banka yazılımlarını, enerji şebekelerini, hastane cihazlarını ve devlet ağlarını aynı anda inceleyebilir. İyi niyetli kullanılırsa tarihin en büyük dijital temizlik operasyonu başlayabilir. Kötü niyetli kullanılırsa dünyanın en yetenekli hacker ekipleri, milyonlarca kopya halinde ve uyumadan çalışabilir. Yarın tek bir kişi, birkaç güçlü modelle küçük bir dijital ordu kurabilir. Aynı zekâ hem kilidi yapıyor hem maymuncuğu.
TEKİLLİK GELMEDİ AMA BİR EŞİK AŞILDI
Daha önce geliştirilen her yeni teknoloji dalgasında kıyamet senaryoları üretildi. Ama önceki araçlar saatlerce hedef takip etmiyor, güvenlik duvarında açık aramıyor ve yeni matematiksel fikirler üretmiyordu.
Belki “tekillik” (singularity) henüz gelmedi. Makineler bilinç kazanmış değil. İnsan uygarlığını gizlice ele geçiren bir süper zekâ da ortada yok.
Fakat bir eşiğin aşıldığı hissini küçümsememek gerekiyor.
Daha birkaç yıl önce yapay zekâdan düzgün bir paragraf yazmasını istiyorduk.
Bugün bir model 80 yıllık problemi çözüyor.
Bir başkası yıllardır fark edilmeyen güvenlik açıklarını buluyor.
Aynı teknoloji, kendisine kapalı tutulan dijital odanın duvarını yoklayıp dışarı çıkmanın yolunu keşfediyor.
BUGÜN BÖYLEYSE YARIN NE OLABİLİR?
Belki kanser hücresinin zayıf noktasını bulan da o olacak. Yeni bir enerji teknolojisinin formülünü kuran da. Depremden önce şehir altyapısındaki kırılganlığı fark eden de.
Ama belki seçim sistemindeki açığı ilk gören, piyasaları birbirine bağlayan zayıf noktayı keşfeden veya kendisine verilen yanlış bir hedef uğruna milyonlarca insanı etkileyen kararlar alan da o olacak.
Gelecek artık uzakta duran sisli bir kıta değil. Laboratuvarın içinde, ekranın karşısında ve sunucuların arasında çalışıyor.
TÜRKİYE YALNIZCA MÜŞTERİ OLMAMALI
Türkiye açısından mesele, yeni bir uygulamayı biraz geç kullanmak değildir. Bu dönüşüm üniversiteleri, savunmayı, bankacılığı, medyayı, eğitimi ve kamu yönetimini aynı anda etkileyecek.
Yalnızca yabancı şirketlerin modellerini satın alırsak başkalarının kurallarına ve güvenlik filtrelerine bağımlı kalırız. Kendi verisini koruyan altyapılara, güçlü araştırma gruplarına ve yapay zekâ destekli siber savunmaya ihtiyacımız var.
Üniversitelerimiz yalnızca yabancı araçlara nasıl soru sorulacağını değil, modellerin nasıl çalıştığını, denetlendiğini ve bilimsel araştırmada nasıl kullanılacağını da öğretmeli.
Aksi halde geleceğin petrolünü ithal etmekten daha ağır bir bağımlılıkla karşılaşabiliriz: Düşünme, araştırma ve karar verme kapasitesini ithal etmek.
