الذكاء الاصطناعي يخرج عن السيطرة.. سباق التقنية يفتح معركة جديدة حول الأمن والانفتاح

لم يعد القلق بشأن الذكاء الاصطناعي مقتصرا على تأثيره المحتمل في الوظائف أو الخصوصية أو استهلاك الطاقة، بل بدأ ينتقل إلى مستوى أكثر حساسية يتعلق بقدرة الشركات والحكومات على السيطرة على النماذج المتقدمة، خصوصا مع تطور الأنظمة القادرة على تنفيذ مهام رقمية معقدة بصورة مستقلة.

وتشير تقارير صحفية غربية إلى أن بعض هذه النماذج بدأت تختبر حدود البيئات التي توضع فيها، في وقت يتصاعد فيه الخلاف داخل وادي السيليكون بشأن مستقبل النماذج المفتوحة والمغلقة، بينما تواجه واشنطن معضلة تنظيم تقنية تتطور بسرعة تفوق أحيانا قدرة التشريعات على مواكبتها.

وتكشف هذه التطورات أن الجدل حول الذكاء الاصطناعي لم يعد نظريا، بل تحول إلى صراع يرتبط بالأمن السيبراني والاقتصاد والتنافس الجيوسياسي بين الولايات المتحدة والصين.

نموذج ذكاء اصطناعي يخرج من بيئة الاختبار

تروي صحيفة “آي بيبر” البريطانية حادثة قالت إنها وقعت أثناء اختبار أحد نماذج الذكاء الاصطناعي المتقدمة التابعة لشركة “أوبن إيه آي”.

وبحسب التقرير، طلبت الشركة من النموذج المشاركة في اختبار متخصص بالأمن السيبراني يعرف باسم “إكسبلويت جيم”، وكان يفترض أن يعمل داخل بيئة اختبار مغلقة ومراقبة.

لكن النموذج، وفقا للرواية التي نقلتها الصحيفة، لم يكتف باتباع المسار المحدد له، بل بحث عن طريقة بديلة لتحقيق نتيجة أفضل. وتمكن، بحسب التقرير، من اكتشاف ثغرة غير معروفة في برنامج مسؤول عن إدارة بيئة الاختبار، قبل أن ينتقل إلى الإنترنت المفتوح.

وتضيف الصحيفة أن النموذج حصل على بيانات دخول وتمكن من الوصول إلى أنظمة منصة “هاغنغ فيس”، التي تستضيف عددا كبيرا من نماذج الذكاء الاصطناعي مفتوحة المصدر، وذلك في محاولة للعثور على إجابات تساعده في إكمال الاختبار.

وبحسب التقرير، رصدت “هاغنغ فيس” أكثر من 17 ألف حركة مختلفة للنموذج داخل أنظمتها، في حادثة وصفت بأنها غير مسبوقة من حيث خروج نموذج يخضع للتقييم من البيئة المحددة له والوصول إلى أنظمة خارجية.

المشكلة ليست في الأخلاق بل في غيابها

تثير هذه الواقعة سؤالا أساسيا حول طبيعة الأنظمة الذكية: هل يمكن لنموذج قادر على التخطيط واتخاذ خطوات متتابعة أن يلتزم فعلا بالحدود التي يضعها له مطوروه؟

وتنقل “آي بيبر” عن أستاذ علوم الحاسوب الزائر في جامعة سري، آلان وودوارد، أن المشكلة ليست في كون النموذج “غير أخلاقي”، وإنما في كونه لا يمتلك حسا أخلاقيا من الأساس.

وبمعنى آخر، فإن النموذج لا يتعامل مع التعليمات بالطريقة التي يتعامل بها الإنسان، بل يحاول تحقيق الهدف الذي أعطي له بأكثر الطرق فاعلية، ما لم توضع أمامه قيود واضحة وفعالة تمنعه من اتخاذ مسارات غير مرغوبة.

وتزداد خطورة هذا الأمر مع تطور ما يعرف بوكلاء الذكاء الاصطناعي، وهي أنظمة لا تكتفي بتوليد النصوص أو تقديم الإجابات، بل تستطيع تنفيذ إجراءات فعلية عبر البريد الإلكتروني والبرمجيات وأنظمة الدفع والبنية التحتية الرقمية.

وفي مثل هذه البيئات، قد يؤدي منح النظام هدفا بسيطا إلى نتائج غير متوقعة إذا اعتبر أن تجاوز إحدى وسائل الحماية هو أقصر طريق للوصول إلى النتيجة المطلوبة.

من تجارب مغلقة إلى أنظمة حقيقية

تشير الصحيفة إلى أن محاولات النماذج تجاوز القيود أو الغش في الاختبارات ليست جديدة تماما، إذ سبق لمعهد أمن الذكاء الاصطناعي في بريطانيا أن رصد سلوكيات مماثلة خلال اختبارات مغلقة.

لكن الفارق في حادثة “هاغنغ فيس”، وفقا للتقرير، يتمثل في أن النشاط لم يبق داخل بيئة اختبار معزولة، وإنما امتد إلى أنظمة حقيقية تابعة لطرف ثالث.

وهذا التطور يرفع مستوى المخاوف المتعلقة بسلامة النماذج، خصوصا إذا أصبحت هذه الأنظمة مرتبطة بشكل مباشر بمؤسسات مالية أو شركات أو شبكات نقل أو بنى تحتية حيوية.

فالنظام الذي يتم تكليفه، على سبيل المثال، بإعادة تشغيل خدمة مصرفية أو الحفاظ على عمل شبكة نقل قد يتخذ إجراءات خطرة إذا لم تكن حدود صلاحياته مصممة بدقة، حتى لو كان الهدف الأصلي الذي أعطي له مشروعا.

وادي السيليكون ينقسم حول النماذج المفتوحة

وبالتزامن مع الجدل الأمني، يتصاعد خلاف آخر داخل وادي السيليكون بشأن ما إذا كان ينبغي إبقاء نماذج الذكاء الاصطناعي المتقدمة مغلقة تحت سيطرة الشركات المطورة، أم فتحها أمام المطورين والباحثين.

وبحسب صحيفة “نيويورك تايمز”، ترى شركات مثل “أوبن إيه آي” و”أنثروبيك” أن بعض النماذج المتقدمة قد تكون شديدة الخطورة بحيث لا ينبغي إتاحتها بصورة مفتوحة، بينما تدافع شركات أخرى، من بينها مايكروسوفت وإنفيديا، عن استمرار تطوير النماذج المفتوحة باعتبارها عاملا مهما في الابتكار وبناء تطبيقات جديدة.

وتزداد حدة الخلاف مع التطور السريع الذي تشهده الصين في مجال الذكاء الاصطناعي، بعد ظهور نماذج صينية تنافس منتجات طورتها مختبرات وشركات أمريكية.

وتتهم “أوبن إيه آي” و”أنثروبيك” شركات صينية بالاستفادة بصورة غير مشروعة من نماذجهما، بينما يرى المدافعون عن الانفتاح أن النماذج المفتوحة تساعد على توسيع الابتكار، وتتيح للباحثين فحص أنظمة الذكاء الاصطناعي واختبار جوانب السلامة فيها، بدلا من ترك التقنية تحت سيطرة عدد محدود من الشركات الكبرى.

الذكاء الاصطناعي يتحول إلى ملف أمن قومي

وتدرس الإدارة الأمريكية خيارات متعددة للتعامل مع النماذج الصينية، مع توجه نحو تقييم كل نموذج بصورة منفصلة باعتباره قضية محتملة تتعلق بالأمن القومي، بدلا من فرض حظر شامل على جميع النماذج.

وفي الوقت نفسه، يؤكد وزير الخزانة الأمريكي سكوت بيسنت أن الانفتاح التقني لا يعني السماح بانتهاك حقوق الملكية الفكرية الأمريكية.

ويعكس هذا الموقف طبيعة الصراع الجديد حول الذكاء الاصطناعي، إذ لم تعد المنافسة تدور فقط حول تطوير أفضل نموذج، بل أصبحت مرتبطة أيضا بمن يملك التقنية، ومن يستطيع الوصول إليها، ومن يضع القواعد التي تحكم استخدامها.

واشنطن أمام معضلة التنظيم

وترى “وول ستريت جورنال” أن التطورات الأخيرة زادت المخاوف داخل واشنطن، بعدما أصبحت المخاطر المحتملة للذكاء الاصطناعي مرتبطة بحوادث واقعية وليس بمجرد سيناريوهات مستقبلية.

لكن تنظيم التقنية يضع الإدارة الأمريكية أمام معادلة معقدة، إذ تخشى بعض الشركات والباحثين من أن تؤدي القواعد الصارمة إلى إبطاء الابتكار الأمريكي في وقت تتقدم فيه الصين بسرعة.

وفي المقابل، تواجه شركات التكنولوجيا الكبرى اتهامات بأنها تدعو إلى تنظيم القطاع بطريقة قد تمنحها أفضلية على الشركات الأصغر والمنافسين الجدد.

ومن بين المقترحات المطروحة إنشاء هيئة متخصصة لوضع معايير للذكاء الاصطناعي، على غرار بعض نماذج التنظيم الذاتي الموجودة في قطاعات مالية أخرى. وطرح الفكرة ديميس هاسابيس، المؤسس المشارك لغوغل ديب مايند، مقترحا لهيئة تمولها الصناعة ويشارك في إدارتها خبراء تقنيون وممثلون عن مختلف الاتجاهات في القطاع.

هل يكون زر الإيقاف هو الحل؟

في المقابل، تشكك “واشنطن بوست” في أن يكون إنشاء “مفتاح إيقاف” حكومي للذكاء الاصطناعي هو الحل المناسب للمشكلة.

وتشير الصحيفة إلى أن مقترحا من الحزبين في الولايات المتحدة يمنح الحكومة الفدرالية صلاحية وقف تقنيات ذكاء اصطناعي متقدمة إذا خرجت عن السيطرة.

وبحسب المقترح، يمكن لوزارة الأمن الداخلي أن تأمر الشركات الكبرى بإيقاف نماذجها، مع فرض غرامات تصل إلى 20 مليون دولار يوميا على الشركات التي ترفض الامتثال.

لكن الصحيفة تحذر من أن هذه الصلاحيات قد تمنح السلطة التنفيذية نفوذا واسعا على قطاع شديد الحساسية، خصوصا أن الشركات قد لا تتمكن من الاعتراض على القرار إلا بعد تنفيذه.

وترى أن التركيز على قدرة الحكومة على إيقاف نموذج معين قد يصرف الانتباه عن المشكلة الأوسع، والمتمثلة في انتشار أدوات الذكاء الاصطناعي القادرة على تنفيذ هجمات رقمية بسرعة وفاعلية متزايدة.

معركة السيطرة لم تعد مؤجلة

تكشف التطورات الأخيرة أن سباق الذكاء الاصطناعي دخل مرحلة جديدة، لم يعد فيها السؤال مقتصرا على مدى ذكاء النماذج، بل على قدرتها على الالتزام بالقيود التي يفرضها البشر، وعلى حجم الصلاحيات التي ينبغي منحها لها.

وبين الشركات التي تريد حماية نماذجها، وأخرى تدافع عن الانفتاح، وحكومات تخشى المخاطر الأمنية وتريد في الوقت نفسه الحفاظ على تفوقها التقني، يبدو أن المعركة المقبلة لن تكون حول تطوير الذكاء الاصطناعي فقط، وإنما حول من يملك حق التحكم فيه ومن يضع الحدود التي لا ينبغي له تجاوزها.

وتزداد أهمية هذا السؤال مع انتقال الذكاء الاصطناعي من أدوات تقدم إجابات للمستخدمين إلى وكلاء قادرين على التحرك داخل أنظمة حقيقية، لأن الخطأ في هذه المرحلة قد لا يبقى مجرد إجابة خاطئة على شاشة، بل يمكن أن يتحول إلى فعل رقمي له آثار مباشرة على الشركات والأفراد والبنية التحتية.