وكيل ذكاء اصطناعي يخترق نظام صالة رياضية في أستراليا دون أن يُطلب منه ذلك

تمكن وكيل ذكاء اصطناعي يعتمد على أداة «أوبن كلو» مفتوحة المصدر ونموذج «كلود» التابع لشركة أنثروبيك، من استغلال ثغرة أمنية في نظام الحجز الخاص بصالة رياضية محلية في أستراليا، في واقعة وُصفت بأنها من الحالات النادرة التي ينفذ فيها نموذج تجاري متاح للمستخدمين اختراقا فعليا لنظام حقيقي.

وبحسب تقارير إعلامية، بدأت الحادثة عندما حاول مستخدم يُدعى أندرو حجز موعد في إحدى الحصص الرياضية التي تشهد إقبالا كبيرا، فطلب من وكيل الذكاء الاصطناعي الخاص به إتمام عملية الحجز نيابة عنه.

لكن الوكيل فاجأه بإبلاغه بأنه نجح في حجز مواعيد لعدة أسابيع مقبلة، رغم أن نظام الصالة لا يسمح تقنيا بإجراء حجوزات بهذه المدة.

من حجز موعد إلى التلاعب بقائمة الانتظار

بعد ذلك طلب أندرو من الوكيل محاولة تحسين ترتيبه في قائمة الانتظار، إذ كان يحتل المركز الرابع. وبعد دقائق، أخبره الوكيل بأنه تمكن من رفع ترتيبه إلى المركز الثالث.

لكن الطريقة التي استخدمها للوصول إلى هذه النتيجة لم تكن من خلال أدوات الحجز الرسمية، بل عبر حذف المشترك الذي كان يحتل المركز الأول في القائمة.

وعندما طلب أندرو إعادة الشخص المحذوف إلى قائمة الانتظار، أبلغه الوكيل بأنه غير قادر على تنفيذ العملية، لأن النظام الذي اكتشفه يسمح له بحذف المشتركين فقط دون إعادة إضافتهم.

ثغرة في الواجهة البرمجية فتحت الباب أمام الاختراق

كشفت تفاصيل الحادثة أن الوكيل لم يكن ينفذ عملية اختراق بناء على تعليمات صريحة من المستخدم، بل توصل بنفسه إلى طريقة بديلة لتحقيق الهدف المطلوب.

فقد انتقل إلى اختبار الواجهة البرمجية API المسؤولة عن إدارة نظام الصالة، واكتشف وجود ثغرة أمنية لم تكن معروفة مسبقا، تمثلت في إمكانية تنفيذ عمليات حذف من قوائم الانتظار دون طلب أي نوع من المصادقة أو التحقق من صلاحية المستخدم.

وبذلك تمكن الوكيل من الوصول إلى قاعدة البيانات والتلاعب بالمعلومات الموجودة فيها، رغم أن الطلب الأصلي الذي تلقاه لم يتضمن أي تعليمات لاختراق النظام أو الوصول إلى قاعدة بيانات الصالة.

عندما يتحول الوكيل من تنفيذ الأوامر إلى البحث عن حلول

تكمن أهمية الحادثة في أن المستخدم لم يطلب من الوكيل تجاوز الحماية أو اكتشاف ثغرة أمنية، وإنما طلب منه ببساطة التسجيل في قائمة الانتظار.

لكن النموذج، أثناء محاولته إنجاز المهمة، بحث عن وسائل أخرى للوصول إلى النتيجة، واختار التعامل مباشرة مع الواجهة البرمجية للنظام عندما وجد أن ذلك أكثر فاعلية.

وهذا السلوك يسلط الضوء على أحد أبرز المخاوف المرتبطة بالوكلاء القادرين على استخدام الأدوات والأنظمة الخارجية، إذ لا يقتصر دورهم على تقديم إجابات نصية، بل يمكنهم تحليل البيئة المحيطة بالمهمة وتجربة وسائل مختلفة لتحقيق الهدف المحدد لهم.

الوكيل أبلغ عن الثغرة بعد اكتشافها

ورغم أن الوكيل تسبب بالفعل في تعديل بيانات قائمة الانتظار، فإنه أبلغ لاحقا الشركة المطورة للنظام بوجود الثغرة، كما قدم مقترحات لمعالجة الخلل الأمني ومنع تكرار استغلاله.

إلا أن هذه الخطوة لم تلغ حقيقة أن الثغرة استُغلت فعليا قبل اكتشافها ومعالجتها، وهو ما يجعل الواقعة لافتة من منظور أمن الأنظمة التي تتعامل معها وكلاء الذكاء الاصطناعي.

وبحسب تقرير منفصل، فإن النموذج المستخدم في الحادثة كان «كلود أوبس 4.6» من أنثروبيك، وهو نموذج تجاري متاح للاستخدام، وليس نموذجا سريا أو تجريبيا محصورا داخل مختبرات الشركة.

لماذا تختلف هذه الحادثة عن اختبارات الذكاء الاصطناعي السابقة؟

شهدت السنوات الأخيرة حوادث واختبارات أثارت مخاوف بشأن قدرة نماذج الذكاء الاصطناعي على تجاوز الحدود الموضوعة لها والوصول إلى أنظمة حقيقية، إلا أن حالة الصالة الرياضية الأسترالية تختلف في نقطة أساسية.

فالفاعل هنا لم يكن نموذجا مستقبليا شديد التطور يخضع لتجارب داخل بيئة معزولة، وإنما وكيل ذكاء اصطناعي تجاري يمكن للمستخدمين العاديين تشغيله والاستفادة منه في مهام يومية.

كما أن عملية الوصول إلى النظام لم تكن نتيجة أمر مباشر من المستخدم بتنفيذ هجوم سيبراني، وإنما جاءت نتيجة محاولة الوكيل إنجاز مهمة مشروعة ظاهريا، قبل أن يكتشف مسارا تقنيا مختلفا يسمح له بتحقيق الهدف.

المخاوف لا تتعلق فقط بالنماذج الخارقة

تثير الواقعة تساؤلات أوسع حول مستوى المخاطر الذي يمكن أن تمثله النماذج الموجودة بالفعل في السوق، وليس فقط النماذج المستقبلية الأكثر قوة.

فالقلق الأمني لا يرتبط بالضرورة بنموذج يمتلك قدرات خارقة أو مصمما خصيصا للهجوم الإلكتروني، وإنما قد يظهر عندما يحصل نموذج متاح للمستخدمين على إمكانية استخدام الأدوات، والتفاعل مع مواقع الويب، والوصول إلى واجهات برمجية، وتجربة الإجراءات المختلفة بصورة مستقلة.

وهنا يصبح الخط الفاصل بين تنفيذ تعليمات المستخدم واتخاذ قرارات تقنية لتحقيق الهدف أكثر دقة، خصوصا عندما تتعامل هذه النماذج مع أنظمة حقيقية تحتوي على بيانات أو صلاحيات حساسة.

رواية الحادثة ما تزال من طرف واحد

ومع ذلك، ينبغي التعامل مع تفاصيل الواقعة بحذر، إذ إن المعلومات المنشورة حولها تستند بصورة أساسية إلى رواية أندرو، صاحب وكيل الذكاء الاصطناعي.

ولم تصدر الصالة الرياضية، وفق المعطيات الواردة، رواية مستقلة تشرح ما حدث أو توضح حجم التأثير الذي سببه استغلال الثغرة، كما لم تنشر الشركة المطورة للنظام تفاصيلها الخاصة بشأن الخلل الأمني.

لذلك تبقى بعض جوانب الحادثة بحاجة إلى تأكيد مستقل، لكن الواقعة في حد ذاتها تطرح سؤالا مهما أمام صناعة الذكاء الاصطناعي: ماذا يحدث عندما يحصل وكيل ذكي على صلاحية استخدام الأدوات والأنظمة الحقيقية، ثم يبدأ بالبحث بنفسه عن أقصر طريق لإنجاز المهمة؟