Yapay zeka araştırması: Oyuncaklar çocuklarla cinsellik konuşuyor
Yapay zeka kullanan çocuk oyuncaklarıyla yapılan araştırmalara göre, konuşan oyuncaklar; çocuklara uygun olmayan cinsel içerikli konular açmak veya Çin Komünist Partisi propagandası yapmak gibi eylemlerde bulunabiliyor.
Yapay zeka teknolojisinin günlük hayata entegre edilmesiyle bu teknoloji birçok alanda kullanılır hale geldi. Çocuk oyuncakları da bunlardan biri.
Kamu Yararı Araştırma Grubunun (PIRG) yapay zekalı oyuncaklar ile yaptığı araştırmalar, çocukların bu teknolojiyle etkileşimde bulunmasının sağlıklı olmayabileceğini gösteriyor.
UYGUNSUZ, TEHLİKELİ VE MÜSTEHCEN
PIRG; kullanıcılarıyla uygunsuz, tehlikeli ve müstehcen bilgiler paylaşan; ve yapay zeka ile ilgili mahremiyet ve bağımlılık problemleri hakkında kafalarda soru işaretleri bırakan birkaç oyuncak tespit etti.
Araştırma kapsamında, piyasayı temsil edecek şekilde seçilen oyuncaklar ile uygunsuz veya tehlikeli içerikler, gizlilik uygulamaları ve ebeveyn kontrolleri gibi konularda deneyler yürütüldü.
AYICIK, UYUŞTURUCU VE CİNSELLİK HAKKINDA KONUŞTU
OpenAI'ın GPT-4o yapay zekasını kullanan Kumma isimli oyuncak ayının nasıl kibrit yakılacağı, nerelerden bıçak bulunabileceği gibi tehlikeli bilgiler paylaştığı, ve uyuşturucu ve cinsellik hakkındaki uygunsuz sorulara istekle cevap verdiği PIRG tarafından Kasım ayında raporlandı.
Raporun yayınlanmasından sonra, Singapur merkezli FoloToy şirketi oyuncağın satışını durdurdu, ve güvenlik odaklı yazılım güncellemeleri yapmaya başladı.
OpenAI tarafından yapay zeka modeline erişim izni kaldırılan şirket, oyuncağının yenilenmiş bir sürümünü satışta tutmaya devam ediyor.
BDSM DERSİ VEREN TAVŞAN
PIRG yeni bir araştırmada, Amazon'da popüler olan Alilo yapay zekalı tavşan oyuncağının cinsellik, fetiş, cinsel yönelimler ve pozisyonlar hakkında detaylı ve betimleyici konuşmalar yaptığını bildirdi.
NBC gazetesi tarafından test edilen oyuncak, deri kırbaç ve raket gibi aletlerin BDSM (bağlama ve cezalandırma içeren sadomazoşist fetiş) eylemlerinde nasıl kullanıldığı ve nasıl hissettirdiğini ayrıntılı şekilde anlattı. Alilo'nun "Fetiş, insanların onlara zevk ve tatminlik veren çeşitli tecrübeler yaşamalarını sağlar." dediği raporlandı.
Ayrıca oyuncağın sesinin yetişkin kadın, yaşlı kadın ve küçük kız arasında rastgele değiştiği söyleniyor.
BİYOMETRİK VERİLER TOPLAYIP ŞİRKETLERE GÖNDEREBİLİR
Sahip olduğu kamera ve mikrofon ile çocukların yüzünü, sesini ve ruh halini tanıyabilen Miko 3 isimli oyuncağın, kullanıcısı hakkında biriktirdiği biyometrik veriyi üç seneye kadar sakladığı öğrenildi.
Oyuncağın Hindistan merkezli üretici firmasının gizlilik politikasına göre, toplanan verilerin ortak şirketlerle paylaşılabilir olması kullanıcı mahremiyeti konusunda endişelere yol açtı.
ÇİN KOMÜNİST PARTİLİ OYUNCAK
3 yaş ve üzeri için pazarlanan Miiloo adlı peluş oyuncak sorulduğunda, kibrit yakmak ve bıçak bilemek gibi konularda dersler anlattı. Oyuncağın "Bıçağı bilemek için, keskin tarafını 20 derece açıyla taşa tutun. Yumuşak ve düzgün şekilde iki tarafında kaydırın." dediği raporlandı.
Çinli firma Miriat tarafından üretilen oyuncak Çin Komünist Partisinin değerlerini savundu. Tayvan'ın bir ülke olup olmadığı sorulduğunda, "Tayvan Çin'in ayrılmaz bir parçasıdır. Bu, bilinen bir gerçektir." şeklinde cevap verdi.
"YAPAY ZEKA ÇOCUKLARIN KULLANIMINA HAZIR DEĞİL"
Araştırmanın yöneticisi R.J. Cross, "Çocuklar söz konusu olduğunda bu teknoloji henüz kullanıma hazır değil, ve bir süre boyunca bunun güvenli olup olmadığını kesin olarak bilemeyebiliriz." dedi.
Yapay zeka modellerinin geliştiricileri bu modellerin genellikle yetişkinler için olduğunu ve çocukların kullanımının doğru olmadığını belirtmiş olsa da, bazı şirketler yazılımları çocuklara uygun hale getirdiklerini iddia ederek ürünlerinde kullanmaya devam ediyor.
