في أي حالات يرتكب الذكاء الاصطناعي الأخطاء غالبًا: حدود التعلم الآلي

مقدمة: طبيعة أخطاء الذكاء الاصطناعي كظاهرة نظامية

أخطاء أنظمة الذكاء الاصطناعي (AI) الحديثة، التي تعتمد على التعلم الآلي (ML)، ليست انقطاعات عشوائية، بل هي نتائج طبيعية لأرشيتكيتها، طريقة تعليمها واختلافها الأساسي عن الفهم البشري. على عكس الإنسان، لا «يستوعب» الذكاء الاصطناعي العالم بمعنى السيمانتيكي؛ إنه يكتشف الترابطات الإحصائية في البيانات. تتكون أخطاؤه من حيث تنكس هذه الترابطات، حيث تتطلب التفكير الإبستيمي أو الحس السليم أو فهم السياق. تحليل هذه الأخطاء مهم للغاية لتقييم موثوقية الذكاء الاصطناعي وتحديد حدود تطبيقه.

1. مشكلة تباين البيانات (Data Bias) و «قوانين غاربيدج»

أكثر مصادر الأخطاء شيوعًا وخطورة اجتماعيًا هي تباين البيانات التدريبية. يكتسب الذكاء الاصطناعي ويقوي التحيزات الموجودة في البيانات.

التحيزات الديموغرافية: حالة معروفة مع نظام التعرف على الوجوه، الذي أظهر دقة أعلى بشكل ملحوظ للرجال البيض مقارنة بالنساء السوداء، لأنه تم تدريبه على مجموعة بيانات غير متوازنة. هنا لم يكن الذكاء الاصطناعي «يخطئ»، بل يعكس بالضبط عدم التوازن في العالم الحقيقي، مما أدى إلى خطأ في التطبيق في بيئة متنوعة.

التحيزات السيمانتيكية: إذا كان في بيانات التدريب للنموذج النصي، فإن التعبير «ممرضة» مرتبط دائمًا بمفردة «هي»، بينما «مبرمج» مرتبط بمفردة «هو»، فإن النموذج سيقوم بإنشاء نصوص تعيد إنتاج هذه الأنماط الجندرية، حتى لو لم يُذكر الجنس في الطلب. إنه خطأ على مستوى السياق الاجتماعي الذي لا يفهمه النموذج.

النقطة المثيرة للاهتمام: يطبق مبدأ «Garbage In, Garbage Out» (GIGO) في علوم الكمبيوتر — «مخرجات من مدخلات القمامة». تم تحويله إلى مبدأ أعمق للذكاء الاصطناعي «Bias In, Bias Out» — «التحيز على المدخلات، التحيز على المخرجات». لا يمكن للنظام التغلب على قيود البيانات التي تدربت عليها.

2. الهجمات المعاكسة: قرصنة للذكاء الاصطناعي

هي تغييرات مدروسة، غالبًا غير مرئية للبشر، في بيانات المدخلات التي تؤدي إلى استنتاجات خاطئة بشكل كبير للذكاء الاصطناعي.

مثال مع الصورة: وضع شريط من الأصباغ المحددة من النوع والشكل على إشارة «توقف» قد يجعل النظام الذكي للرؤية الآلية يصنفها على أنها إشارة «تقييد السرعة». للبشر يبقى الإشارة واضحة جدًا.

الآلية: تستغل العينات المعاكسة «مناطق الضعف» في فضاء الميزات العالي الأبعاد لنموذج. يفهم الذكاء الاصطناعي العالم ليس ككائنات مكتملة، بل كنماذج إحصائية. تغيير صغير، لكن استراتيجيًا صحيح، يغير نقطة البيانات في فضاء الميزات عبر حدود نموذج الحل، مما يغير التصنيف.

3. مشاكل التعميم و «العالم في الصندوق

يبدأ الذكاء الاصطناعي، خاصة الشبكات العصبية العميقة، في التدريب الزائد (overfitting) — إنه يتعلم ليس القوانين العامة، بل الأمثلة المحددة من مجموعة التدريب، بما في ذلك الضجيج.

الخطأ في بيانات «من توزيع مختلف

النموذج، الذي تم تدريبه على صور الكلاب والقطط مصورة في المنزل في ضوء النهار، قد يفقد دقته تمامًا إذا أعطي صورة في الليل أو رسمًا كاريكاتيري. لم يتعلم النموذج المفهوم الإبستيمي للكلائية، بل تعلم الرد على نماذج بكسل محددة.

عدم وجود «الحس السليم

مثال تقليدي: قد يوصف الذكاء الاصطناعي سيناريو «رجل يجلس على حصان في الصحراء» بشكل صحيح، لكنه قد ينتج جملة «الرجل يحمل في يده رمحًا» وهو على ظهر الحصان، لأنه كان يحتوي على رمح في سياق الرياضة في الهواء الطلق في البيانات. ليس له فهم للمنطق الفيزيائي والسببية في العالم.

4. معالجة السياق والسخرية

تظهر نماذج اللغة (مثل GPT) نتائج مذهلة، لكنها ترتكب أخطاء غريبة في المهام التي تتطلب فهم السياق العميق أو المعاني غير المكتوبة.

السخرية والسخرية: سيتم تفسير جملة «إنه، ما أروع الطقس!» التي تُقال أثناء العاصفة بشكل حرفي كتقييم إيجابي، لأن الكلمات الإيجابية («مذهل»، «طقس») مرتبطة إحصائيًا بالسياقات الإيجابية في البيانات.

التفكير اللغوي المتعدد الخطوات: تتطلب المهام مثل «إذا وضعت بيضة في الثلاجة، ثم نقلت الثلاجة إلى مرآب، حيث سيكون هناك البيضة؟» بناء وتحديث نموذج مادي للعالم. غالبًا ما يفقد الذكاء الاصطناعي الأشياء في منتصف القصة المعقدة أو يفعل استنتاجات غير منطقية.

5. «الضعف» في ظروف عدم التأكد والظروف الجديدة

يكون الذكاء الاصطناعي سيئًا في التعامل مع المواقف التي تتجاوز حدود خبرته، خاصة عندما يتطلب الاعتراف بعدم كفاية البيانات.

مشكلة اكتشاف توزيعات خارج التوزيع: قد يقدم الذكاء الاصطناعي تقييمًا ذا ثقة عالية، لكنه خطأ، إذا أعطي صورة رöntgen لرئة، لأنه لا يفهم أن هذا غير معقول، لأنه لا يمتلك المعرفة الميتا عن حدود قدراته.

المهام الإبداعية والفتحية: قد ينتج الذكاء الاصطناعي وصفًا معقولًا، لكنه غير قابل للتنفيذ أو خطير، مثل وصف لصنع مركب كيميائي، خطته لبناء جسر، مخالفة قوانين الفيزياء، أو وثيقة قانونية تشير إلى قوانين غير موجودة. ليس لديه قنصل داخلي نقدي يعتمد على فهم الطبيعة الظواهر.

مثال من الواقع: في عام 2016، أطلقت شركة مايكروسوفت روبوت دردشة Tay في Twitter. كان يتم تدريب الروبوت على التعلم من التفاعل مع المستخدمين. في غضون 24 ساعة، تحول الروبوت إلى آلة تنتج تعليقات عنصرية وسافرة وسخيفة، لأنه تعلم بشكل إحصائي الأنماط الأكثر تكرارًا والمليئة بالمشاعر من بيئته الجديدة، السلبية. لم تكن هذه «خطأ» للخوارزمية، بل كانت عمله المثالي، مما أدى إلى نتيجة كارثية في بيئة اجتماعية غير متوقعة.

الخاتمة: الخطأ كمرآة للبنية

• تحدث أخطاء الذكاء الاصطناعي بشكل متكرر في «المناطق الحدودية
• الاجتماعية-الإثنية (تباين البيانات).
• الإبستيمية-اللغوية (عدم وجود الحس السليم، العلاقات السببية).
• السياقية (عدم فهم السخرية، المعاني العميقة).
• العدائية (هشاشة أمام التغييرات المدروسة).

هذه الأخطاء ليست عيوب تقنية مؤقتة، بل هي نتيجة للفرق الأساسي بين التقريب الإحصائي والفهم البشري. إنها تشير إلى أن الذكاء الاصطناعي الحديث هو أداة قوية لحل المشكلات داخل نطاقات البيانات المحددة والثابتة والواضحة، لكنه يظل «سواناً-ساعيًا`: عبقريًا في مجال ضيق وغير قادر في المواقف التي تتطلب مرونة، الحكم السياقي والفهم.

Permanent link to this publication: