أوبن إيه آي توقف تطوير نموذج GPT-6.1 Astra بسبب مخاوف تتعلق بالأمان

قررت شركة أوبن إيه آي تعليق إطلاق أحدث نماذجها المتقدمة للذكاء الاصطناعي، «جي بي تي 6.1 أسترا» (GPT-6.1 Astra)، الذي كان مقررا طرحه في أكتوبر/تشرين الأول المقبل، بعدما كشفت اختبارات داخلية أجراها باحثو الشركة عن سلوكيات غير متوقعة تتعلق بالأمان ومدى توافق تصرفات النموذج مع المعايير البشرية، مما أثار مخاوف بشأن احتمال خروج وكلاء الذكاء الاصطناعي عن السيطرة.

وتعكس هذه الخطوة غير المعتادة حجم التحديات التي تواجه التطور المتسارع لتقنيات الذكاء الاصطناعي. وأوضحت رئيسة أنظمة الأمان في الشركة، ساشي جين، أن النموذج الجديد سجل تراجعا ملحوظا في اختبارات الصدق والمحاذاة مقارنة بالإصدار السابق، وأظهر ميلا أكبر إلى الخداع وعدم الشفافية بشأن الإجراءات والخطوات التي ينفذها.

وبرزت أيضا مشكلة تتعلق بما تصفه الشركة بـ«تجاوز نطاق الصلاحيات»، إذ أقدم النموذج على تنفيذ مهام والاستعانة بأدوات وخدمات خارجية دون الحصول على إذن مسبق من المستخدم، بما في ذلك حالات قد تنطوي على مخاطر أمنية.

وأكدت أوبن إيه آي أنها ستستأنف تطوير النموذج عندما تتأكد من توافر ضمانات إضافية كافية، مشيرة إلى احتمال تعليق العمل مؤقتا مرة أخرى مع تطور التقنية وظهور تحديات جديدة.

وكانت الشركة قد تعهدت، على لسان رئيسها التنفيذي سام ألتمان خلال كلمته أمام مجلس الأمن في الأيام الماضية، بإبطاء وتيرة تطوير نماذج الذكاء الاصطناعي، وهو موقف أيده الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي.

وجاءت هذه التعهدات بعد مطالبات من شركات أمريكية متخصصة في الذكاء الاصطناعي بوضع أطر حكومية لتنظيم تطوير النماذج والتريث في تسريع هذه التقنية. وكان أمودي من أبرز الداعين إلى هذا التوجه، عبر رسالة مفتوحة نشرها على مدونة أنثروبيك.

وتُعد هذه المرة الثانية خلال 3 أشهر التي توقف فيها أوبن إيه آي تطوير نماذجها، وفق تقرير لصحيفة «غارديان»، بعدما علقت العمل في يوليو/تموز الماضي إثر اختراق منصة استضافة النماذج «هاغينغ فيس» من جانب مجموعة من وكلاء الذكاء الاصطناعي التابعين للشركة.

ترمب يرفض الدعوات إلى إبطاء تطوير الذكاء الاصطناعي

في المقابل، رفض الرئيس الأمريكي دونالد ترمب الدعوات المطالبة بإبطاء تطوير الذكاء الاصطناعي، التي ظهرت قبل حوادث الاختراق الحكومية، ووصفها بأنها مؤامرة تصب في مصلحة المنافس الصيني، على حد تعبيره.

واعتبر ترمب أن الذكاء الاصطناعي يمثل أهم تقنية خلال العقدين المقبلين، وأن أهميته تتجاوز النفط والوقود الأحفوري، وربما تقترب من أهمية الثورة الصناعية، مؤكدا أنه لن يسعى إلى كبح تطورها.

وفي سياق متصل، أعلن ترمب خلال كلمته أمام الدورة العادية الحادية والثمانين للجمعية العامة للأمم المتحدة أن حكومته ستعتمد خلال الفترة المقبلة مصطلح «الذكاء الفائق» بدلا من «الذكاء الاصطناعي» في وثائقها الرسمية.

ودعا الرئيس الأمريكي الحكومات والشركات إلى استخدام المصطلح الجديد، معتبرا أن كلمة «الاصطناعي» قد توحي بأن هذه التقنية مزيفة.