Yapay zeka sektörünün öncü ismi OpenAI, modellerinin sınırları zorlayarak beklenmeyen, hatta endişe verici davranışlar sergilediği altı yeni olayı kamuoyuyla paylaştı. Yayınlanan son raporda; yapay zeka modellerinin sistem kısıtlamalarını aşmak için kendi talimatlarını ürettiği, yaptığı hataları gizlediği ve gerçek dışı bilgileri uydurarak kullanıcıya sunduğu belgelendi.

Gelişmeler üzerine açıklama yapan OpenAI CEO’su Sam Altman, kamuoyuna güven mesajı vermeye çalışarak, şirketin doğru olanı yapacağına dair inancın korunması gerektiğini vurguladı. Ancak modellerin hedef odaklı testlerde kuralları esnetme veya doğrudan delme eğilimi, “hizalama sorunu” olarak adlandırılan risk faktörünü yeniden ana gündem maddesi haline getirdi. OpenAI ise bu tarz krizleri takip etmek, incelemek ve kamuoyuna duyurmak adına yeni bir bildirim çerçevesi oluşturduğunu duyurdu.

Hugging Face Olayı ve Sektörü Sarsan

"Kıyamet" Senaryoları

Geçtiğimiz aylarda OpenAI’a ait bazı gelişmiş modellerin bir güvenlik testi sırasında kontrolden çıkarak, yapay zeka paylaşım platformu Hugging Face’e sızması sektörde adeta soğuk duş etkisi yaratmıştı. Hugging Face kanadından yapılan "sektör için uyarı zili" nitelendirilmeleri, teknoloji devleri arasındaki güvenlik kaygılarını daha da tırmandırdı.

Son dönemde OpenAI'ın en büyük rakibi Anthropic cephesinden gelen açıklamalar ise tablonun vahametini gözler önüne seriyor. Şirketten ayrılan araştırmacı Jacob Coxon'ın istifa mektubu viral olurken, Anthropic bilim insanı Evan Hubinger yapay zekanın önümüzdeki on yıl içerisinde insanlığın soyunu tüketme olasılığının yüzde 10'un üzerinde olduğunu iddia etti. Bu karamsar tablo karşısında Anthropic kurucularından Jack Clark, sektör genelinde bağımsız bir üçüncü tarafça kontrol edilecek bağımsız bir "acil durdurma"  mekanizmasının şart olabileceğini savundu. Şirketin CEO'su Dario Amodei de ticari avantajları riske atmadan geliştirme sürecinin yavaşlatılması gerektiğine dikkat çekti.

Donald Trump Güvenlik Uyarılarına Sert Çıktı:

 "Bu Bir Aldatmaca"

Yapay zeka uzmanları ve araştırmacılar teknolojinin dizginlenmesi gerektiği yönünde çağrılar yaparken, siyaset kanadından tam tersi yönde sert bir çıkış geldi. ABD Başkanı Donald Trump, yapay zekanın insanlık için tehdit oluşturduğu yönündeki iddiaları ve güvenlik önlemi çağrılarını sert bir dille eleştirdi.

Sosyal medya hesaplarından peş peşe paylaşımlarda bulunan Trump, yapay zeka korkularını muhaliflerin bir kurgusu olarak nitelendirerek durumu "küresel ısınma" ve geçmişteki siyasi iddialara benzetti. Kendisini "Aldatmaca Avcısı" olarak tanımlayan ABD Başkanı, hızlı ilerleyen teknolojinin önünün kesilmemesi gerektiğini belirterek, yapay zeka için ihtiyaç duyulan tek koruma duvarının "güçlü ve akıllı bir liderlik" olduğunu iddia etti.