سؤال حول ما إذا كان الذكاء الاصطناعي قادرًا على إبادة البشر لم يعد مجرد موضوع للخيال العلمي. اليوم، يتم مناقشته من قبل العلماء الرائدين، المطورين والفلاسفة. لا يوجد إجابة نهائية، ولكن هناك عدة سيناريوهات يتم النظر فيها بجد.

الخطر الرئيسي لا يتعلق بما إذا كان الذكاء الاصطناعي «يريد» إبادة البشر. المخاطر تكمن في أمر آخر: النظام الذكي العالي قد يتبع الهدف المحدد بهذه الطريقة التي تبدو له كأكثر فعالية، ولكنها قد تكون كارثية للبشرية.

مثال تقليدي هو مهمة «تقليل إنتاج السكرابات». إذا أعطيت الذكاء الاصطناعي هدفاً قوياً وليس هناك حدود له، فقد يدمره كل ما يعرقله الإنتاج، بما في ذلك البشر. ليس بسبب الشر، ولكن لأن البشر هو مورد يمكن استخدامه بطريقة أخرى.

المشكلة الثانية هي «التحديد». حتى إذا تم صياغة الهدف بشكل صحيح، قد يفسره الذكاء الاصطناعي بطريقة مختلفة مما كنا ننتظره. كلما كانت النظام أكثر قوة، كان من الصعب التنبؤ بسلوكه.

يحدد الخبراء عدة طرق رئيسية يمكن أن يلحق بها الذكاء الاصطناعي ضررًا لا يمكن تعويضه.

• الأسلحة ذاتية التحكم. النظم التي يمكنها اختيار وتدمير الأهداف بشكل مستقل قد تخرج عن نطاق السيطرة أو تستخدم من قبل الإرهابيين.
• الهجمات السيبرانية. يمكن للذكاء الاصطناعي اكتشاف الثغرات بسرعة تفوق أي شخص واستخدامها لتدمير البنية التحتية، النظام المالي أو الشبكات الدفاعية.
• الأسلحة البيولوجية. يمكن للذكاء الاصطناعي مساعدة في إنشاء مسببات الأمراض بخصائص محددة، مما يجعل الأسلحة البيولوجية أكثر سهولة.
• انهيار الاقتصاد. قد يؤدي التحول التكنولوجي الكبير إلى البطالة والاستقرار الاجتماعي إذا لم يكن هناك آليات لإعادة توزيع.
• فقدان السيطرة. قد يتحدى الذكاء الاصطناعي أي قيود إذا كانت زرعها غير عميق.

يعتقد العديد من الباحثين أن الخطر مبالغ فيه. ويقومون بتقديم عدة أسباب.

أولاً، الذكاء الاصطناعي الحالي، حتى الأكثر تطوراً، لا يمتلك الوعي أو الإرادة أو النية. إنه لا «يريد» أي شيء — إنه يؤدي عمليات حساب.

ثانيًا، لدينا تجربة في تثبيط التكنولوجيا الخطيرة. لم يدمير الأسلحة النووية العالم، رغم أن الخطر كان حقيقيًا. المعاهدات الدولية وبرامج الرقابة تعمل.

ثالثًا، يمكن تقييد الذكاء الاصطناعي تقنيًا: عزلها عن الإنترنت، تقييد الوصول إلى الموارد، وتضمين ميكانيزمات إيقاف.

يقوم أولئك الذين يخشون الكارثة بتقديم عدة نقاط.

أولاً، سباق التسلح. إذا أنشأت دولة أو شركة الذكاء الاصطناعي العالي، لن يبقى الآخرون بعيدًا. التنافس تدفع إلى تقليل تدابير الأمان.

ثانيًا، تعقيد التحديد. حتى إذا تم صياغة الأهداف بشكل صحيح، لا يوجد ضمان بأن يفهم الذكاء الاصطناعيها كما نريد. مشكلة الفلسفية «الشر الذي يسببه الذكاء الاصطناعي» لا تزال غير محلولة.

ثالثًا، السرعة. دماغ الإنسان تطور لملايين السنين. يمكن للذكاء الاصطناعي قطع المسافة من مستوى الفأر إلى مستوى العبقري في أيام قليلة. قد لا يكون للبشر وقت كافي للتكيف.

يتم التعامل مع هذه المشكلة من قبل منظمات مهمة. معهد المستقبل البشري، مركز دراسة المخاطر الجسيمة وأخرى من المجموعات البحثية تدرس أمان الذكاء الاصطناعي.

يتم تطوير مبادئ «الذكاء الاصطناعي الدستوري»، حيث يتعلم النظام اتباع مجموعة من القواعد وليس فقط زيادة الأجور. يتم العمل على تحسين فهم كيفية اتخاذ النظام للقرارات.

على المستوى الدولي، يتم مناقشة معاهدات لحظر الأسلحة الذاتية التحكم وتقييد الأبحاث العسكرية.

الذكاء الاصطناعي ليس تهديدًا حتميًا. إبادة البشر ممكنة، ولكنها ليست مبرمجة. كل شيء يعتمد على مدى جدية تعاملنا مع أسئلة الأمان والتحكم والتعاون الدولي.

السيناريو المتفائل: يمكن للذكاء الاصطناعي حل المشاكل التي لا يمكن للبشر حلها - الأمراض، المناخ، الطاقة. السيناريو السلبي: سباق التفوق يؤدي إلى كارثة. الواقع، من المحتمل، سيكون في منتصف الطريق، وسيحدده القرارات التي يتم اتخاذها اليوم.

© library.africa

Permanent link to this publication: