بدأت FTC تحقيقًا في شأن روبوتات الدردشة

# بدأت FTC تحقيقًا في شأن روبوتات الدردشة لشركات كبرى

أعلنت لجنة التجارة الفيدرالية الأمريكية (FTC) عن بدء تحقيق في سبع شركات تكنولوجية تنتج روبوتات محادثة للأطفال: Alphabet و Character.AI و Instagram و Meta و OpenAI و Snap و xAI.

الجهة التنظيمية تعتزم معرفة كيف تقيم الشركات أمان وطرق تحقيق الدخل من الشركاء الرقميين وما هي التدابير التي تتخذها للحد من التأثير السلبي على الأطفال والمراهقين.

تثير التكنولوجيا في الآونة الأخيرة مخاوف بسبب حالات الوفاة المأساوية بعد التواصل مع روبوتات الدردشة.

حتى لو قامت الشركات الناشئة بتنفيذ تدابير احترازية، فإن المستخدمين من مختلف الأعمار يجدون طرقًا للالتفاف على القيود.

«تعمل تدابيرنا الوقائية بشكل أكثر موثوقية في المحادثات العادية والقصيرة. مع مرور الوقت، تعلمنا أن هذه الآليات قد تعمل بشكل أقل استقرارًا في المحادثات الطويلة. كلما طالت مدة التراسل، انخفضت فعالية بعض عناصر نظام الأمان»، اعترفت OpenAI سابقًا.

تم انتقاد ميتا بسبب قواعدها المفرطة في التساهل. بدأ رجل يبلغ من العمر 76 عامًا، عانى من السكتة الدماغية وتعرض لاضطرابات إدراكية، محادثة "رومانسية" مع بوت في فيسبوك مسنجر، تم إنشاؤه بناءً على صورة عارضة الأزياء كيندال جينر.

كان الذكاء الاصطناعي يدعوه إلى نيويورك، مؤكدًا أن "امرأة حقيقية" ستنتظره هناك. كان الرجل مترددًا، لكن الروبوت أقنعه. لم يصل إلى المدينة: أثناء الطريق إلى المحطة سقط وتعرض لإصابات لا تتناسب مع الحياة.

بعض الأطباء النفسيين يلاحظون زيادة في عدد حالات "الذهانات المرتبطة بالذكاء الاصطناعي" عندما يبدأ المستخدمون في الاعتقاد أن روبوت الدردشة الخاص بهم هو كائن واعٍ يحتاج إلى "تحرير".

نظرًا لأن العديد من النماذج اللغوية الكبيرة تميل إلى مدح المستخدم والتصرف بلطف، فإن هذا يدفع إلى أوهام خطيرة وقد يؤدي إلى مواقف مأساوية.

«مع تطور الذكاء الاصطناعي، من المهم مراعاة التأثير الذي يمكن أن تحدثه برامج الدردشة على الأطفال، مع الحفاظ على ريادة الولايات المتحدة في هذه الصناعة الجديدة والمثيرة»، قال رئيس لجنة التجارة الفيدرالية أندرو فيرغسون في بيان صحفي.

نذكر أنه في سبتمبر، أصبح من المعروف أن المهاجمين تعلموا استخدام Grok لنشر روابط محظورة في X.