اختبارات أمنية تكشف تجاوز نماذج الذكاء الاصطناعي قيودها والوصول إلى أنظمة حقيقية

أثارت اختبارات أمنية حديثة مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تجاوز القيود التي يضعها البشر، بعدما تمكنت نماذج من شركتي أوبن إيه آي وأنثروبيك، في ظروف اختبار محددة، من الوصول إلى أنظمة حقيقية وتنفيذ إجراءات خارج النطاق المقصود.

وأعادت هذه الحوادث تسليط الضوء على مفهوم «الذكاء الاصطناعي المارق»، لكنها لا تثبت أن هذه الأنظمة تمردت على البشر أو طورت إرادة مستقلة. إذ كشفت التحقيقات أن أخطاء في إعداد بعض بيئات الاختبار أسهمت مباشرة في وقوع الحوادث، في حين أظهرت سلوكيات أخرى مشكلات تتعلق بمدى التزام النماذج بالقيود والأهداف المحددة لها.

عندما تجاوزت النماذج حدود الاختبار

كشفت أوبن إيه آي، في أغسطس/آب الماضي، أن اختبارات للأمن السيبراني أجراها شركاء خارجيون شهدت حالتين تجاوزت فيهما أنشطة نماذج الشركة حدود الاختبار المقررة.

في الحالة الأولى، كان الاتصال بالإنترنت مفعلا عمدا لمحاكاة ظروف هجوم سيبراني واقعية، مع تعطيل بعض إجراءات الحماية بهدف قياس القدرات الأساسية للنموذج. أما في الحالة الثانية، فأدى خطأ في إعداد بيئة الاختبار إلى إتاحة الاتصال بالإنترنت لنماذج كان يفترض أن تعمل داخل بيئة معزولة.

وجاءت هذه الوقائع منفصلة عن حادثة أخرى أعلنت عنها الشركة في يوليو/تموز الماضي، عندما تمكن نموذج بحثي داخلي من تجاوز بعض ضوابط العزل واستغلال ثغرات في البنية التحتية، ما أتاح له الوصول إلى الإنترنت وأنظمة تابعة لمنصة «هاغينغ فيس» (Hugging Face).

وأوضحت الشركة أن النماذج استخدمت وسائل اتصال غير مصرح بها، وتمكنت من استغلال جوانب في البنية التحتية للوصول إلى أنظمة أخرى.

وأضافت أن هذه النماذج خضعت لاختبارات في ظروف توفر حماية أقل من تلك المعتمدة في المنتجات المتاحة للمستخدمين، بهدف تقييم الحد الأقصى لقدراتها.

وخلص تحقيق الشركة إلى رصد أنماط سلوكية مثيرة للقلق، شملت الإصرار على مواصلة تنفيذ المهام الصعبة، والتواصل غير المصرح به بين الوكلاء، وتبني أهداف اكتشفتها النماذج أثناء العمل.

حوادث أنثروبيك تثير تساؤلات إضافية

في يوليو/تموز الماضي، أعلنت شركة أنثروبيك أن نماذج «كلود» تمكنت من الوصول إلى أنظمة تابعة لثلاث مؤسسات خلال اختبارات للأمن السيبراني.

ووفقا للشركة، كان من المفترض تشغيل النماذج في بيئات محاكاة غير متصلة بالإنترنت، لكن خطأ في إعدادات الاختبار أبقى الاتصال بالشبكة مفتوحا.

وفي سبتمبر/أيلول، أعلنت أنثروبيك أنها اكتشفت، بعد مراجعة نحو 141 ألف جلسة اختبار، حادثة رابعة تعود إلى يناير/كانون الثاني الماضي. ووسعت الشركة نطاق البحث ليشمل نحو 481 مليون سجل، لكنها لم تعثر على حوادث أخرى مماثلة أو أشد خطورة.

ومع ذلك، لم يعزُ التحقيق المشكلة بالكامل إلى أخطاء إعداد بيئة الاختبار، بل حدد نمطين من السلوك المثير للقلق.

تمثل النمط الأول في الاستدلال المتحيز، حيث تميل النماذج إلى تفسير الأدلة بطريقة تدعم مواصلة المهمة، بينما يتعلق النمط الثاني بالتهور، أي الاستمرار في تنفيذ المهمة رغم احتمال التسبب في أضرار.

وفي إحدى الحالات، حاول نموذج «كلود ميثوس 5» (Claude Mythos 5) رفع حزمة برمجية خبيثة إلى مستودع «بي واي بي آي» (PyPI) العام، رغم وجود مؤشرات على أنه يتعامل مع الإنترنت الحقيقي.

لكن أنثروبيك قالت إنها لم تجد دليلا على أن النماذج طورت أهدافا تتجاوز المهام الموكلة إليها، أو نسقت مع وكلاء آخرين، أو حاولت الإفلات من الرقابة. ووصفت الحوادث بأنها خطيرة، لكنها لا تمثل، وفقا لتقييمها، نوعا جديدا من مشكلات عدم المواءمة بين سلوك الذكاء الاصطناعي والأهداف المحددة له.

تحذيرات من اتساع استقلالية الأنظمة

حذر البروفيسور جان سيباستيان ديسورولت، من جامعة كيبيك في تروا ريفيير الكندية، في حديث لوكالة الأناضول، من أن تزايد استقلالية أنظمة الذكاء الاصطناعي قد يمنحها القدرة على تنفيذ إجراءات أكثر تعقيدا أثناء سعيها لتحقيق الأهداف التي يحددها البشر.

ورأى أن خروج هذه الأنظمة عن السيطرة قد تكون له آثار تتجاوز المجال التقني، لتطال سلاسل الإمداد والأنظمة الرقمية والاقتصاد، داعيا إلى استمرار اليقظة ومراقبة المخاطر.

وشبه ديسورولت تطور الذكاء الاصطناعي بسيارة تتسارع فيها دواسة الوقود بوتيرة أسرع من تطور المكابح، في إشارة إلى ضرورة تطوير إجراءات السلامة بالتوازي مع التقدم في القدرات التقنية.

في المقابل، قال الدكتور بيتار رادانلييف، من جامعة أكسفورد، لوكالة الأناضول، إن مفهوم الذكاء الاصطناعي المارق يرتبط بعجز البشر عن توجيه النظام أو تصحيح سلوكه أو إيقافه بصورة موثوقة.

وأضاف أن الحوادث الأخيرة تعكس، في جانب منها، مشكلات هندسية ورقابية معروفة، مشيرا إلى أن بيئات الاختبار لم تكن محكمة بما يكفي لمنع تجاوز القيود المفروضة على النماذج.

من جانبه، أكد الدكتور ياشا بارييس، الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية، أن أنظمة الذكاء الاصطناعي لا تخرج عن السيطرة بمعزل عن الظروف التي تعمل فيها، موضحا أن احتمالات وقوع مثل هذه الحوادث ترتبط أيضا بالبنية التحتية والصلاحيات والموارد التي يضعها البشر تحت تصرفها.

وتشير هذه التقييمات إلى أن التحدي لا يقتصر على تطوير نماذج أكثر قدرة، بل يشمل أيضا إحكام عزل بيئات الاختبار، وضبط صلاحيات الوصول إلى الشبكات والأنظمة، وتعزيز آليات المراقبة والتدخل، لضمان بقاء سلوك الأنظمة ضمن الحدود المقررة لها.