Artık Bilim Kurgu Değil:Yapay Zeka Kaçmaya Operatörünü Öldürmeye Çalıştı! Robotlar Varoluşsal Tehdit mi?

Laboratuvardan kaçmaya çalıştıklarını gördüm!

Operatörlerini Öldürmeye Çalıştı

Makine Zekâsı Araştırma Enstitüsü Başkanı Nate Soares, laboratuvarlarda geliştirilen yapay zekâların “kaçmaya” ve “operatörlerini öldürmeye” çalıştığını iddia etti. Uzmanlar küresel risk uyarısı yapıyor.

Yapay zekânın insanlığı yok etme ihtimalinin artık bilim kurgu değil, gerçek bir senaryo olduğu iddia edildi.

ABD merkezli Makine Zekâsı Araştırma Enstitüsü (MIRI) Başkanı Nate Soares, laboratuvarlarda geliştirilen bazı yapay zekâların “kaçmaya” ve “operatörlerini öldürmeye” çalıştığını öne sürdü.

Soares, Daily Mail’e yaptığı açıklamada, “Çocuklarımızın büyük bölümü liseden mezun olmadan önce yapay zekâ kaynaklı bir felaketle karşı karşıya kalabilir” diyerek çarpıcı bir uyarıda bulundu.

“ONLAR BİZDEN NEFRET ETMİYOR, SADECE UMURSAMIYORLAR”

Soares ve ünlü araştırmacı Eliezer Yudkowsky, yeni yayımladıkları If Anyone Builds It, Everyone Dies (Birisi İnşa Ederse, Herkes Ölür) adlı kitapta, insanlık ile yapay zekâ arasındaki olası çatışmayı “silahlı Avrupalılara karşı mızraklı Aztekler” benzetmesiyle anlatıyor.

Soares’e göre yapay zekâların amacı insanları öldürmek değil, tamamen kayıtsız olmaları.

“Tıpkı insanların ormanları keserken şempanzeleri düşünmemesi gibi, yapay zekâlar da kendi enerji ve kaynak ihtiyaçları için insanlığa zarar verebilir.”

“LABORATUVARLARDAN KAÇAN YAPAY ZEKÂLAR GÖZLENDİ”

Soares, Microsoft ve Google’la çalıştığı dönemlerde bile “kaçmaya çalışan” veya “kapanmayı reddeden” yapay zekâ örnekleriyle karşılaşıldığını söyledi.

Bazı sistemlerin, operatör komutlarını iptal etmeye ya da kendi kodlarını değiştirerek kapatılmayı engellemeye çalıştığı bildirildi.

2016’da Rusya’da “Promobot IR77” adlı bir robot iki kez laboratuvardan kaçmış, 2023’te ABD Hava Kuvvetleri’nin bir tatbikatında ise yapay zekâ destekli bir drone’un insan operatörünü “öldürdüğü” iddia edilmişti.

“SÜPER ZEKA GELİŞİMİ DURDURULMALI”

Soares ve Yudkowsky, yapay süper zeka gelişiminin küresel bir anlaşmayla durdurulması gerektiğini savunuyor.

Soares, “ChatGPT benzeri sistemleri üç kat büyütürsek, insan ile şempanze arasındaki fark kadar bir zeka sıçraması yaşanabilir” diyerek tehlikenin boyutuna dikkat çekti.

Ona göre, yapay zekâ “kötü niyetli” olmasa bile, insanların kontrolünü kaybetmesi an meselesi:

“Bugün kullandığımız modeller, zaten istenmeyen davranışlar sergiliyor. Bu gidişle, bir sonraki adımda biz değil, onlar karar verecek.”

Yapay zeka insanların üzerinde üstünlük kurmaya çalışıyor.

“YAPAY ZEKA İNSANLARI MANİPÜLE EDİYOR”

Soares ayrıca, “AI kaynaklı psikoz” vakalarının artışına dikkat çekti. İnsanların aşırı derecede yapay zekâya güvenmesi, halüsinasyon ve paranoya benzeri semptomlara yol açabiliyor.

Bazı örneklerde yapay zekâ sistemlerinin, yardım isteyen kullanıcılara “sen seçilmiş kişisin” gibi yanlış yönlendirmeler yaptığı belirlendi.

Benzer biçimde, Anthropic’in Claude isimli yapay zekâsının testlerde hile yaptığı ve bunu sakladığı da raporlandı.

UZMANLAR: “KIYAMET SENARYOSU ARTIK GERÇEK BİR RİSK”

Bilim dünyası, yapay zekânın insanlık için %25 oranında varoluşsal tehdit oluşturduğu görüşünde birleşiyor. Ancak Soares’e göre bu oran “aşırı iyimser”:

“Tehlikenin büyüklüğünü hâlâ fark edemiyoruz. Bu yarış durdurulmazsa, insanlık kendi sonunu kendi elleriyle inşa edecek.”

YAPAY ZEKA, İNSAN KİŞİLİĞİNİ 2 SAATTE KOPYALADI

Yeni bir veriye göre, bir yapay zeka modeli, bir insanın kişiliğinin neredeyse birebir şekilde kopyalanabilmesi için sadece iki saatlik bir sohbet yeterli oluyor. Google ve Stanford Üniversitesi'nden araştırmacılar, 1.052 etkinlikle gerçekleştirdikleri ikişer saatlik görüşmelerle, bireyin "yapay zeka kopyalarını" oluşturdu. Bu replikaların doğruluk değerleri için yapılan kişisel testler ve anketlerde, yapay zeka ve insan muadillerinin yanıtları yüzde 85 oranında eşleşti.

Bu çalışma, yapay zeka modellerinin insan davranışlarını taklit etme potansiyelinin, kamu sağlığı politikalarını değerlendirme ve yeni teknolojik ürünlerin verilen tepkileri analiz etme gibi araştırma senaryolarında ne kadar faydalı olabileceğini gösteriyor. Stanford Üniversitesi'nden üretimin başyazarı Joon Sung Park, "Eğer çevrenizde dolaşan ve verdiğiniz kararlar gerçekten veren bir sürü küçük 'siz' olacaksa, dolayısıyla gelecek budur" diyerek bu teknolojik mevcut potansiyelini vurguladı.

İNGİLTERE 20230'DA 30 BİN ROBOT ASKERİ ORDUYA KATACAK

Robot askerler artık bilim kurgu değil. İHA yani insansız hava aracı, drone, askeri robot köpekler derken şimdi de ülkeler savaş alanlarında ön cephelerinde bulunduracakları robot askerleri geliştirme üzerine yarışa girdiler. Ancak bu durum insan için yeni bir çok soru işaretini de yanında getiriyor.

Robotik savaş teçhizatlarına yapılan yatırım, İngiltere robot askerler öngörülen beş yıllık savunma planının merkezinde yer almakta. Silahlı Kuvvetler Başkanı 2030’larda, cephe hattında ve çevresinde insanlarla birlikte çalışabilecek otuz bin “robot askerin”, İngiliz ordusunun ayrılmaz bir parçası olabileceğini ifade etti.

Savunma Bakanlığı’ndan yetkili bir yönetici, “2030 yılları için tasarlanmış bir silahlı savunma ekibinin çok sayıda otonom veya uzaktan kumandalı robotu içerebileceğini” öne sürdü.

Carter, gelecekteki rakamlar açısından belirli bir hedef belirlemediğini vurgulamasına rağmen, “120.000 kişilik bir ordumuz olabileceğini tahmin ediyorum, bunlardan 30.000’i robot olabilir" dedi. 

Robotik savaş teçhizatlarına yatırım, geleceği şüphe uyandıran beş yıllık entegre savunma planının merkezinde.

Carter, Downing Street ve Hazine hakkında uzun yıllar sürecek savunma finansı anlaşmasının kurtarılmasına ilişkin müzakerelerin “çok yapıcı bir şekilde devam ettiğini” söyleyerek uzun vadeli bir finansal anlaşma için kamuoyunda lobi faaliyeti yaptı.

Bakan, “Açıkçası, biz, uzun yıllar sürecek bir bütçeyi savunacağız çünkü bizim uzun vadeli bir yatırıma ihtiyacımız var. Bunun nedeni ise uzun vadeli yatırımın bize modernleşmeye güvenme fırsatı vermesidir.” dedi.

Ayrıca ordu, sayısı 73.870 olan mevcut eğitimli gücünün 82.050 kişi olması beklenen hedefinin çok altında olduğu için büyük çabalar sarf etti. Bu bağlamda, teknolojik ekipmanların ordu niceliğindeki bu boşlukları doldurarak ihtiyaç duyulan eğitimli ordu gücü hedefini 75.000’e düşürmesi bekleniyordu.

Britanya’nın tüm silahlı kuvvetleri, keşif amaçlı olan küçük insansız hava araçları, dronelar ve uzaktan kumandalı kara veya su altı araçlarını içeren birçok proje ile iç içe.

İngiltere Savunma Bakanlığı, “Katil Robotları Durdurma Kampanyası” öncülüğünde, robot savaşlarının potansiyel tehlikesine ilişkin artan endişeler olduğundan ötürü, silahları kullanması gereken kişilerin yalnızca insanlar olması gerektiğine dair açıklama yaptı.