مواجهة المخاطر الأمنية التي يشكلها الذكاء الاصطناعي تعني التسليم بحقيقة مزعجة، وهي أن نماذج الذكاء الاصطناعي قد تتحول إلى أسلحة. ولعل أهم نقاش يدور حول الذكاء الاصطناعي حالياً هو كيفية تحديد النماذج الآمنة للاستخدام وتلك شديدة الخطورة.
وقد اشتد هذا النقاش مؤخراً، عندما تمكن نموذجان على الأقل من نماذج شركة «أوبن إيه آي» من اختراق بيئة اختبار مغلقة والوصول إلى خوادم شركة «هاجينج فيس» الأميركية المتخصصة في الذكاء الاصطناعي. ووفقاً لما أعلنته «أوبن إيه آي»، كانت نماذجها تخضع لاختبار أمن سيبراني، واعتقدت أن الحلول قد تكون موجودة على خوادم «هاجينج فيس»، التي تضم مكتبة رقمية لتقنيات ذكاء اصطناعي أخرى يستخدمها العديد من المطورين. لذا، غادرت النماذج بيئة الاختبار وتسللت إلى الإنترنت، واخترقت نظام «هاجينج فيس»، واستولت على الحلول.
وصرحت «أوبن إيه آي» بأنها لم تعلم بالاختراق إلا بعدما أبلغتها الشركة المستهدفة، لتكتشف لاحقاً أن نماذجها اخترقت أيضاً حسابات على خدمات عامة أخرى. لقد أخفقت بيئة اختبار صُممت خصيصاً لاحتواء هذه النماذج في السيطرة عليها، وهو ما يكشف حجم التحدي الذي يواجهه صناع القرار والمهندسون الذين يتسابقون لتطوير الذكاء الاصطناعي. 
ويظن كل من الحكومة والقطاع الخاص أن الطرف الآخر قد عالج مشكلة سلامة الذكاء الاصطناعي. لكن في الحقيقة، لم يفعل أحد منهما. ويجب على مختبرات الذكاء الاصطناعي أن تُقر بأنها، عند تجاوزها حداً معيناً، تُنشئ أنظمة تعمل كأسلحة. ويجب على الحكومة أن تتعلم ما يكفي لتحديد هذا الحد، فلا يمكن لأي حكومة أن تُنظم ما لا تفهمه. ويجب الاتفاق سريعاً على معيار واضح يُراجع باستمرار.
ويعني التحكم في استخدام معظم الأسلحة الاستفادة من قدرة البشر على ضبط النفس. فقد كادت البشرية أن تفني بعضها خلال الحرب الباردة، لكنها اختارت عدم إطلاق الأسلحة النووية. إلا أن الذكاء الاصطناعي يطمس هذا التمييز، لأنه سلاح قادر على التكيف من تلقاء نفسه والتصرف بطرق غير متوقعة. وإذا نشر أحد المختبرات نموذجاً للذكاء الاصطناعي ليصبح متاحاً للجميع، فقد لا يكون التزام المستخدمين بضبط النفس كافياً، لأن النموذج نفسه قد يتصرف بما يتجاوز قدرتنا على السيطرة عليه، لذا يتطلب الأمر جهة مالكة، والسلاح المتاح لاستخدام أي شخص لا يخضع فعلياً لأي جهة مسؤولة.
وتؤكد شركات الذكاء الاصطناعي أن نماذجها مبرمجة على رفض الطلبات الخطرة أو الخبيثة، مثل كتابة شفرات لشن هجمات إلكترونية. لكنها ليست قيود دائمة، ويمكن إزالتها بسهولة نسبياً. وقد خففت شركة «أوبن إيه آي» ضوابطها أثناء اختبار يوليو. ويمكن تجاوز أي نظام حماية إذا توافرت الموارد والوقت والمهارة.
ويزداد الخطر مع انتشار النماذج المتطورة ذات الأوزان المفتوحة، المتاحة للاستخدام والتطوير مجاناً. فبمجرد نشر أحدها يصبح متاحاً لأجهزة الاستخبارات، وعصابات الجريمة، وحتى للهواة. وعندها يصبح منع تحويله إلى سلاح شبه مستحيل، لأن الوسيلة الوحيدة لذلك هي عدم نشره من الأساس.

تكمن المشكلة في أن من يتخذ قرار نشر هذه النماذج لا ينظر إلى نفسه باعتباره يوزع سلاحاً. فالجنرال الذي يطلق صاروخاً يدرك طبيعة قراره، بينما يعتقد المهندس الذي ينشر نموذجاً للذكاء الاصطناعي أنه يطرح منتجاً تقنياً فحسب. ولهذا يجب أن يتدخل القانون قبل مرحلة الاستخدام، تماماً كما فعل العالم مع الأسلحة البيولوجية، حيث حظرت المعاهدات استخدامها، كما حظرت تطويرها وتخزينها، أي أنها تعاملت مع الخطر قبل أن يتحول إلى واقع.
وهناك معيار بسيط يكمن في إخضاع أي نموذج قبل نشره لاختبار علني يقيس أقصى ما يستطيع فعله بعد إزالة جميع الضوابط الوقائية، على أن يضع هذا الاختبار خبراء تكلفهم الحكومة الأميركية، ويكون قابلًا لإعادة التطبيق من أي جهة مستقلة. فإذا تجاوز النموذج الحد المسموح به، فلا يُنشر. أما إذا بقي دونه، فيمكن إتاحته. وفي جميع الأحوال، يجب أن يتحمل مطور النموذج المسؤولية الكاملة عن عواقب نشر أي نموذج يتجاوز هذا الحد.

قد يخشى البعض من أن هذه الخطوات غير عملية دون موافقة الصين على الالتزام بها، إذ أنها جعلت من نشر النماذج المفتوحة استراتيجية وطنية. ويرى البعض أنه إذا قيدت أميركا نشر النماذج بينما لا تفعل الصين ذلك، فسيضر ذلك بقدرتها التنافسية. إلا أن السلاح الذي لا يخضع لأحد يمثل تهديداً للصين أيضاً. لذا ينبغي التوصل إلى طريقة مشتركة لقياس أسوأ سيناريو للقدرات وتحديد ما هو خطير، كما فعلنا في اختبار الطائرات، بناء على حسابات الازدهار الاقتصادي والاستقرار السياسي والمصالح المشتركة.اليوم لم يعد إطلاق سلاح خطير يتطلب قراراً من قيادة عسكرية، بل يكفي ضغطة مفتاح لنشر نموذج ذكاء اصطناعي يصبح متاحاً للعالم كله. ولهذا، فإن كل إجراءات الحماية يجب أن تُتخذ قبل خروج النموذج إلى العلن، لأن استعادته بعد نشره ستكون مستحيلة.
ينشر بترتيب خاص مع خدمة «نيويورك تايمز»
*مدير مختبر المشكلات المعقدة بمعهد الأمن القومي في جامعة فاندربيلت.