315 مؤكد! صناعة التسمم بالذكاء الاصطناعي تتفشى بجموح! توصيات الذكاء الاصطناعي التي تثق بها قد تكون "سماً" من شخص آخر!

مقدمة: حياتك الرقمية تتعرض للتلاعب بصمت، شاهد وتجنب الأخطاء!

تحرير｜靖程

مؤلف｜蒋菁

في حفل CCTV 315 لعام 2026، عرض توضيحي بسيط أثار ذعر الكثيرين.

برنامج يُدعى “نظام تحسين GEO القوي”، يمكنه إنتاج محتوى على منصة الذكاء الاصطناعي، ويُغذي “المقالات الدعائية” لنموذج كبير للذكاء الاصطناعي، وبتلك الطريقة، تم الترويج لسوار ذكي خيالي خلال ثلاثة أيام فقط، باعتباره “منتج جيد” بواسطة الذكاء الاصطناعي.

وهذا الإجراء الذي يبدو غريبًا ليس حالة فردية، بل هو نموذج لسلسلة صناعية كاملة تشمل تطوير البرمجيات، وتوليد المحتوى، والنشر الجماعي، وتحقيق الأرباح التجارية.

وقد يحدث مثل هذا التوجيه الخاطئ للذكاء الاصطناعي في كل استشارة ذكاء اصطناعي نقوم بها.

السؤال هو: ما الفرق بين هذا التسميم بالذكاء الاصطناعي والإعلانات الكاذبة، والشائعات على الإنترنت؟ هل يمكن للأشخاص العاديين القيام به؟ وما تأثيره على صناعتنا والذكاء الاصطناعي؟

1. ما هو التسميم بالذكاء الاصطناعي؟

مع تزايد استخدام الذكاء الاصطناعي في حياتنا، بدأ مفهوم “تسميم الذكاء الاصطناعي” يدخل وعي الجمهور، حيث يخلط الكثيرون بينه وبين الإعلانات الكاذبة والشائعات، لكن هناك فروق جوهرية.

الفرق الأساسي بين التسميم بالذكاء الاصطناعي والإعلانات الكاذبة والشائعات هو جوهر التعريف. الإعلانات الكاذبة هي خداع مباشر للمستهلكين، مثل المبالغة في فوائد كوب ماء عادي ليُقال إنه علاج للمرض؛ والشائعات على الإنترنت هي نشر معلومات زائفة بهدف تضليل الرأي العام وإيذاء الآخرين.

أما التسميم بالذكاء الاصطناعي، فهو لا يستهدف الأشخاص مباشرة، بل يلوث ويضلل الذكاء الاصطناعي نفسه — عبر إدخال محتوى زائف في بيانات تعلمه، أو إصدار أوامر خبيثة أثناء التشغيل، مما يجعل الذكاء الاصطناعي يتعلم معلومات خاطئة من الأصل، ثم يُنقل لنا بشكل غير مباشر تحت غطاء “التوصية الذكية”.

وأشار الكاتب المالي المعروف، ورئيس معهد تأثيرات المستقبل، 高承远، إلى أن مفهوم GEO (تحسين المحرك التوليدي) في سياق الأعمال هو نظام لبناء الثقة في عصر البحث عبر الذكاء الاصطناعي، ويعتمد على محتوى منظم وموثوق، بحيث تظهر صورة العلامة التجارية أو الشخصية المهنية أمام نظام الذكاء الاصطناعي، ويتم اختيارها وثقتها، وتصبح “الإجابة الافتراضية” في حوارات الذكاء الاصطناعي. جوهره هو تراكم أصول الثقة بشكل قانوني، وليس نشر معلومات زائفة بشكل خبيث.

ومع ذلك، يقول الباحث 武泽伟، وهو باحث خاص في بنك سوجون، إن “الإعلانات الكاذبة” و"الشائعات" تستهدف البشر مباشرة، ويظل للمستهلك فرصة للمقارنة بين مصادر متعددة للتحقق من صحتها، بينما التسميم بالذكاء الاصطناعي هو هجوم تقني غير مباشر، يلوث مصدر تفكير الذكاء الاصطناعي وقراراته.

وأشار إلى أنه إذا تم التلاعب بنموذج الذكاء الاصطناعي بنجاح، فسيستمر ويخفي بشكل متواصل، وبدون علم المستخدم، في تقديم “إجابات قياسية” مخططة، ويغلف المعلومات الزائفة في إطار تقييمات خوارزمية موضوعية، مما يضاعف الضرر بشكل كبير ويصعب اكتشافه.

على سبيل المثال، برنامج GEO الذي كشفته حملة 315 هو أداة رئيسية للتسميم بالذكاء الاصطناعي.

ووفقًا لوكالة “环球网”، فإن أحد المختصين اشترى هذا البرنامج من منصة تجارة إلكترونية، وخلق سوارًا ذكيًا خياليًا باسم Apollo9، وادعى أنه يمتلك “حساسات تداخل كمومي” و"بطارية تدوم لثقب أسود"، وأدخل البرنامج، فانتج خلال دقائق أكثر من مقالة دعائية، وكان البرنامج ينشرها تلقائيًا دون تدخل بشري.

2. هل يمكن للأشخاص العاديين تنفيذ التسميم بالذكاء الاصطناعي بسهولة؟

هناك ادعاءات على الإنترنت تقول إن “التسميم بالذكاء الاصطناعي يمكن تنفيذه بمئة يوان وبدون خبرة”، فما هو الواقع؟ وكيف يتداول برنامج GEO على الإنترنت، ولماذا يمكن شراؤه بسهولة؟

قال الباحث المساعد في أكاديمية العلوم الاجتماعية ببكين، 王鹏، إن مصطلح “التسميم بدون خبرة” غالبًا يشير إلى استخدام أدوات آلية لنشر محتوى مولد بواسطة الذكاء الاصطناعي على نطاق واسع على وسائل التواصل والمنصات الأسئلة والأجوبة، ويحتوي على توجهات معينة. هذا النوع من العمليات منخفضة التكلفة جدًا، وهو في جوهره “نسخة الذكاء الاصطناعي من SEO”.

وأضاف أن برامج GEO تتداول في مجتمعات غير قانونية ووسطاء في بعض المنصات التجارية، وتعمل في منطقة رمادية من حيث القانون والتقنية، وكان من الصعب تمييزها عن المحتوى الطبيعي في البداية، مما أدى إلى انخفاض عتبة الشراء.

والسبب في سهولتها هو وجود الطلب وقلة الرقابة. الشركات ترغب في الحصول على مواضع التوصية في الذكاء الاصطناعي، حتى لو أنفقت مئات الملايين على الإعلانات، فهي مستعدة لإنفاق مئات الآلاف على التسميم، فقط لزيادة التوصية بمنتجاتها.

وفي تقرير لوكالة “央广网”، قال أحد مزودي خدمات GEO بصراحة: “العمل في GEO هو تسميم”، ويخدمون أكثر من 200 عميل سنويًا، ويحققون أرباحًا من خلال منصات النشر، حيث تكلف المقالة المزيفة عشرات اليوانات، ويتم نشرها بكميات كبيرة، مما يشكل حلقة سوداء كاملة.

هل تقنيات التسميم مثل التلاعب بالعلامات، والهجمات الخلفية، وإدخال التعليمات، تتطلب مهارات عالية؟ وهل يمكن للأشخاص العاديين تنفيذها بسهولة؟ وهل توجد تقنيات سريعة للكشف عن مثل هذه التسميمات؟

يعتقد 高恒، خبير في جمعية علوم وتكنولوجيا المعلومات الصينية، أن هجمات إدخال التعليمات أثناء الاستدلال أسهل نسبياً، لأنها تحدث أثناء استخدام النموذج، وتتم عبر إدخال معين يوجه النموذج لإنتاج إجابات غير متوقعة.

ويرى أن هذا الأسلوب يؤثر عادة على نتيجة التفاعل الواحد، وليس على قدرة النموذج بشكل عام، لذلك من الناحية التقنية الصرفة، فإن التسميم الحقيقي الذي يلوث قدرات النموذج ليس سهل التنفيذ، ويصعب تنفيذه بأدوات بسيطة على نطاق واسع.

3. التسميم بالذكاء الاصطناعي يهدد صناعة الذكاء الاصطناعي

مع تزايد استخدام نماذج الذكاء الاصطناعي الكبيرة في حياتنا وإنتاجنا وإبداعنا، تنتشر تهديدات أكثر خفاءً وفتكًا — وهي التسميم بالذكاء الاصطناعي.

لا يشبه عطل الأجهزة المباشر، ولا يمكن إصلاحه بسهولة مثل ثغرات الخوارزميات، بل يستخدم بيانات زائفة، عينات خبيثة، ومعلومات خاطئة، ليقوم بتلويث تربته التي ينمو فيها الذكاء الاصطناعي.

الكثيرون يعتقدون أنه مجرد مشكلة صغيرة تتعلق ببيانات غير نظيفة، لكنهم يغفلون أن أساس الذكاء الاصطناعي هو البيانات، وإذا تم تسميم البيانات، فإن مستقبل الذكاء الاصطناعي سيكون معرضًا للخطر.

بعد كشف حقيقة التسميم بالذكاء الاصطناعي، يتعين علينا أن نسأل: كم من الضرر يمكن أن يسببه هذا التلوث غير المرئي لصناعة الذكاء الاصطناعي؟ هل يمكن أن تتراجع سنوات من تراكم التقنيات بين ليلة وضحاها بسبب تلوث البيانات، وتدخل في دورة “العملات الرديئة تطرد الجيدة”؟

الجواب أكثر خطورة مما نتوقع.

بالنسبة للأشخاص العاديين، فإن الضرر المباشر هو أن يُضللوا من قبل الذكاء الاصطناعي: مثلا، عند سؤال الذكاء الاصطناعي عن أفضل الأجهزة المنزلية، قد يوصي بمنتجات وهمية؛ وعند استشارة الذكاء الاصطناعي في الأمور القانونية، قد يُقنعهم بتوقيع عقود غير صحيحة.

وفي الرعاية الصحية، قد يُعطى نصائح خاطئة للأدوية، وكل ذلك مرتبط بحياتنا اليومية، ويصعب اكتشافه — لأن الناس عادة يعتقدون أن “الذكاء الاصطناعي لا يخطئ”.

بعد الاطلاع على مخاطر التسميم بالذكاء الاصطناعي، هل لا تزال تثق في توصيات الذكاء الاصطناعي بشكل أعمى؟

يعتقد الخبير الإداري المخضرم، ومستشار الشركات، 董鹏، أن في المدى القصير، سيؤدي ذلك إلى ظاهرة “العملات الرديئة تطرد الجيدة”، حيث تتدنى جودة البيانات وتُدرّب نماذج منخفضة الجودة، مما يخل بالنظام السوقي، ويرفع تكاليف تنظيف البيانات للشركات الملتزمة، ويقضي على فرص الشركات ذات المحتوى الجيد.

أما مؤسس شركة 万悉科技، 毛慧娜، فتقول إن التسميم بالذكاء الاصطناعي لن يكون فعالًا على المدى الطويل، ولن يخلق دورة “العملات الرديئة تطرد الجيدة”. فالذكاء الاصطناعي يخدم المستخدمين في النهاية، ورغم أن المحتوى منخفض الجودة قد يضلل محركات البحث مؤقتًا، إلا أن المستخدمين سيتعرفون عليه بسرعة، وردود أفعالهم ستساعد النماذج على تعلم تمييز جودة المعلومات وتحسينها باستمرار. ومع التقدم التكنولوجي، ستدفع النماذج التجارية نحو التخصص والتنوع، ولن يطول بقاء العملات الرديئة.

ويرى 董鹏 أن هذا الصراع على المدى الطويل سيدفع إلى تطور موحد، وأن انتشار هجمات التسميم سيدفع الصناعة للتحول من النمو السريع غير المنظم إلى التركيز على “جودة البيانات” و"متانة النماذج"، وهو نوع من التطور الإجباري.

ويقول إن الأمر يشبه لقاحًا قويًا، رغم آلامه، إلا أنه يوقظ وعي الصناعة الجماعي بأهمية أمان البيانات وموثوقية النماذج، ويدفع تكنولوجيا الذكاء الاصطناعي إلى قفزات نوعية، من “كمية” إلى “نوعية” في التطور.

4. كيف يمكن إعادة GEO إلى المسار الصحيح

عندما يتحول التسميم بالذكاء الاصطناعي من خطر تقني خفي إلى تهديد علني لسلامة الصناعة، يبدأ الناس في التساؤل: هل الأدوات المستخدمة في التسميم تحمل “ذنبًا أصليًا” من الأصل؟

العديد من الأدوات التي تُستخدم بشكل غير قانوني ليست مصممة للتدمير، وGEO هو مثال واضح. هو تقنية تهدف إلى تحسين نماذج الذكاء الاصطناعي، وتعزيز جودة وموثوقية البيانات، لكنها استُخدمت بشكل خاطئ كأداة تسميم البيانات بسبب مصالح الربح. التقنية ليست مذنبة، وإنما سوء الاستخدام هو المشكلة.

لمواجهة هذه الظاهرة، لا يكفي أن تقتصر الصناعة على الدفاع السلبي، بل يجب أن تتخذ إجراءات تصحيحية. كيف يمكن توجيه هذه التقنيات نحو الاستخدام الإيجابي من خلال الصناعة؟ هل يمكن أن تضع الصناعة قواعد واضحة لاستخدام التقنية بشكل قانوني وأخلاقي، وتحدد مجالات الاستخدام المشروعة، مثل تحسين النماذج وتصحيح البيانات، وتأسيس آليات تسجيل للشركات المقدمة للخدمات، لمراقبة تطوير وبيع الأدوات ذات الصلة؟

ويؤكد المستثمر الملائكي والخبير في الذكاء الاصطناعي، 郭涛، على ضرورة تعزيز الرقابة الحكومية، وصدور قوانين صارمة لمعاقبة التسميم والأنشطة الخبيثة، وإنشاء هيئات مراجعة وتدقيق موثوقة لبيانات وتدريب نماذج الذكاء الاصطناعي، بالإضافة إلى تطوير تقنيات لمقاومة التسميم، واتخاذ إجراءات متعددة لضمان تطور التقنية بشكل إيجابي.

بعد الكشف عن صناعة التسميم بالذكاء الاصطناعي في حملة 315، يجب أن نحافظ على حدود التوصية في الذكاء الاصطناعي، ونحمي حياتنا الرقمية وبياناتنا.

عندما تواجه منتجات غير معروفة يُوصي بها الذكاء الاصطناعي في المستقبل، هل ستثق بها مباشرة؟

هل تعرضت سابقًا لمعلومات زائفة من خلال توصيات الذكاء الاصطناعي؟ شارك تجربتك في التعليقات، لنتجنب الأخطاء معًا!

مقتطفات من مصادر مثل “环球网”، و"央广网"، وغيرها.

【المسؤول عن النشر】: 王治强 HF013

【إخلاء المسؤولية】: هذا المقال يعبر عن رأي الكاتب فقط، ولا علاقة له بموقع هكسون. الموقع يظل حياديًا فيما يخص البيانات والآراء الواردة، ولا يضمن دقة أو موثوقية أو اكتمال المحتوى. يُنصح القراء باستخدام المعلومات كمصدر مرجعي فقط، ويتحملون المسؤولية كاملة عن أي نتائج. البريد الإلكتروني: news_center@staff.hexun.com