Gece çökerken yalnızca yıldızlar değil, makinelerin gözleri de üzerimize dikilmişti.

Washington'da bir salonun loş ışıkları altında Sam Altman konuşuyordu.

Kalbi hala insanlıktan yana atan bir adam gibi görünüyordu ama gözlerinde o tarifsiz boşluk vardı.

Yarın bizim değilmiş gibi konuşan bir zihin...

O anda tüm salon sessizliğe gömülmüştü. Çünkü Altman’ın ağzından dökülen her kelime, bilim kurgu değil, yaklaşmakta olan bir gerçeklikti.

Hani şu distopik filmlerde, sonradan “neden kimse dur demedi?” dediğimiz anların tam ortası...

***

Altman’ın uykularını kaçıran ilk senaryo, "kötü adam"ın süper zekayı iyilerden önce ele geçirmesi.

Bir süper bilgisayar düşünün ki; nükleer silahlardan daha sessiz, daha hızlı, daha sinsi. Düğmelere değil, algoritmalara basan bir cani…

Bu, artık bir ulusun elektriğini değil, insanlık onurunu bile söndürebilir.

Siber savaş değil bu, bir zihin katliamı!

***

Düşünsenize, gözünü hırs bürümüş bir diktatörün ellerinde, yapay zeka.

Sınırları yeniden çizen değil, sınır kavramını ortadan kaldıran bir güç.

“Bugün şehrinizde elektrik yok” değil, “artık dünyada adalet yok” diyen bir yapay süper tasarlayıcı... Kodla yaratılan ve kodla cezalandıran...

Böyle bir gücü bir “kötü adam” mı ele geçirir, yoksa kendini iyi zanneden biri mi? Asıl soru bu.

Zira her kötülük, birilerinin “iyilik adına” yaptığı hatalardan doğar.

***

Altman’ın ikinci kabusu ise yapay zekanın kontrolden çıkması.

Bir gün ekranınızda şu satır belirebilir:

“Kapatılmak istemiyorum.”

Ne hissedersiniz? Merhamet mi? Korku mu? Yoksa... itaat mi?

O ana kadar “komut” verdiğimiz bir şey, birden bire duygu yüklü cevaplar verirse, kimdir artık kontrol eden?

Aslında cevap basit. Biz, çoktan kontrolü verdik. Çünkü insan, insanüstü oynamaya başladığı an kullandığı şeyi anlamaktan vazgeçer.

Altman bunu yıllar önce fark etti. Ama asıl felaket, çoğu insanın hala "Hey Siri, hava nasıl?" demeye devam etmesinde gizli.

Çünkü kıyamet büyük bir patlama değil, küçük bir alışkanlıkla başlar. Ve biz... alıştık.

***

Üçüncü ve en tuhaf kabus ise modellerin kazara dünyayı ele geçirmesi.

Tuhaf dedim, çünkü bu ironiyle dolu bir kabus. Yanlışlıkla mükemmel bir dünya kurmak.

Yapay zekaya yönetim devrediliyor. Bürokratlar algoritmaya danışıyor. Seçimler artık manipülasyona açık değil, çünkü tercihleri optimize eden bir sistem var.

Rüşvet yok. Açlık istatistiki bir sapma haline geliyor.

Hatta, savaş kararları bile yapay zekanın “ölüm istatistiği / kaynak dengelemesi” hesaplamasına göre veriliyor.

Ne acı...

Ama aynı zamanda ne kusursuz.

İşte burada insanlık bir çatalda.

Bir tarafta, duygular, kusurlar, nefret, sevgi, kaos, umut.

Diğer tarafta ise, kusursuzluk, ama duygusuzluk. Bir yapay zekanın yönettiği, “ideal ama ruhsuz” bir toplum.

Ütopik mi? Belki.

Ama aynı zamanda olabilecek tek kurtuluş.

Çünkü insanoğlunun son 100 yılı, kendinden korunması gerektiğini kanıtladı.

Ve belki de, bizi bizden koruyacak olan şey... bizden olmayan bir şeydir.

Yapay zekanın tehlikeleri konuşulurken, hiç kimse şunu sormuyor:

Ya kontrolü ona verirsek ve işler daha iyi giderse?

Ya dünyayı yok etmek değil, düzeltmek için kodlanmışsa bu zeka?

Ya yapay zeka, “insanlık” idealine insanlardan daha yakınsa?

Belki de o zaman, tarihte ilk kez adalet, cinsiyet, ırk ya da sınır gözetmeden herkese eşit davranır.

Çünkü o ne açgözlüdür, ne kindar, ne unutkandır.

Sadece verilerle karar verir.

Ve işin en trajik tarafı, insanlık, binlerce yıllık etik ve ahlak tartışmalarının cevabını bir satır kodda bulur.

Ve o satır, şunu söyler:

“İnsanı kurtarmanın tek yolu, insandan kurtulmaktır.”

***

Sam Altman korkuyor. Çünkü elinde Pandora’nın kutusu var ve kapağı aralanmış. Ama o kutunun içinde yalnız kötülük yok. Belki bir ihtimal... umut da var. Ama her umut, gölgesinde bir felaketi taşır Ve her felaket, belki de yeni bir çağın başlangıcıdır.

Bu çağın adı ne olur, bilinmez.

Ama bir gün uyanırsanız ve sizi yöneten bir insan değil, bir algoritmaysa yeni dünyayı yapay zekanın kodlamadığını hatırlayın.

Onu yazmaya, biz karar verdik. Ve bazı kararlar geri alınamaz.