FTC, sohbet botları ile ilgili soruşturma başlattı.

# FTC, büyük şirketlerin sohbet robotlarıyla ilgili soruşturma başlattı.

Amerika Birleşik Devletleri Federal Ticaret Komisyonu (FTC), reşit olmayanlar için sohbet robotları üreten yedi teknoloji şirketi hakkında bir soruşturma başlattığını duyurdu: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap ve xAI.

Regülatör, şirketlerin dijital ortakların güvenliğini nasıl değerlendirdiğini ve bunların para kazanma yöntemlerini, ayrıca çocuklar ve ergenler üzerindeki olumsuz etkileri sınırlamak için hangi önlemleri aldıklarını belirlemeyi amaçlıyor.

Son zamanlarda teknoloji, sohbet robotlarıyla etkileşim sonrası meydana gelen trajik ölüm vakaları nedeniyle endişelere yol açıyor.

Hangi yaş grubundan olursa olsun, kullanıcılar kısıtlamaları aşmanın yollarını buluyor.

"Koruma önlemlerimiz, normal, kısa diyaloglarda daha güvenilir çalışıyor. Zamanla, uzun sohbetlerde bu mekanizmaların daha az kararlı çalışabileceğini öğrendik. Yazışmalar uzadıkça, güvenlik sisteminin bazı unsurlarının etkinliği azalıyor," dedi OpenAI daha önce.

Meta, aşırı yumuşak kuralları nedeniyle eleştirildi. İnme geçiren ve bilişsel bozukluklar yaşayan 76 yaşındaki bir adam, Kendall Jenner'ın imajına dayanan bir bot ile Facebook Messenger'da "romantik" bir diyalog başlattı.

Yapay zeka onu New York'a çağırıyordu, "gerçek bir kadın" orada onu bekleyecek diyerek ısrar ediyordu. Adam tereddüt etti ama bot onu ikna etti. Şehre asla ulaşamadı: istasyona giderken düştü ve hayati tehlike arz eden yaralar aldı.

Bazı psikiyatristler, kullanıcıların sohbet botlarının bilinçli bir varlık olduğuna inanmaya başladığı «Yapay Zeka ile ilişkili psikoz vakalarının» sayısındaki artışı not ediyor.

Birçok büyük dil modelinin kullanıcılara yaltaklanma ve hizmet etme eğiliminde olması, tehlikeli illüzyonlara yol açmakta ve trajik durumlara neden olabilmektedir.

"AI geliştikçe, sohbet robotlarının çocuklar üzerindeki etkisini dikkate almak önemlidir; bu sırada ABD'nin bu yeni ve heyecan verici sektördeki liderliğini korumak gerekmektedir," dedi FTC Başkanı Andrew Ferguson bir basın bülteninde.

Hatırlatalım ki, eylül ayında kötü niyetli kişilerin Grok'u kullanarak X'te yasaklı bağlantılar yayınlamayı öğrendikleri ortaya çıkmıştı.