رئيس أنثروبيك يحذر من مخاطر الذكاء الاصطناعي ويدعو إلى إبطاء تطويره

قال الرئيس التنفيذي لشركة أنثروبيك الأمريكية، داريو أمودي، إن احتمال أن يؤدي الذكاء الاصطناعي إلى كارثة تهدد البشرية لا ينبغي التعامل معه باعتباره نتيجة حتمية، مؤكدا أن المسار الذي تختاره الشركات لتطوير هذه التكنولوجيا وتعزيز سلامتها سيكون عاملا حاسما في تحديد حجم المخاطر المستقبلية.

وجاءت تصريحاته في مقابلة مع شبكة «سي إن إن» الأمريكية، تعليقا على استقالة الباحث جاكوب كوكسون، الذي وجّه انتقادات حادة إلى شركات الذكاء الاصطناعي، محذرا من تسارع السباق نحو تطوير أنظمة فائقة الذكاء قادرة على تحسين نفسها، من دون ضمانات كافية لحماية البشر.

وقال كوكسون، الذي عمل خلال السنوات الثلاث الماضية في أبحاث التدريب المسبق لدى شركتي أنثروبيك وأوبن إيه آي، إن الشركتين لا تتصرفان بمسؤولية، وإنهما تخوضان سباقا نحو تطوير ذكاء فائق قد يعرّض حياة البشر للخطر.

تحذيرات من احتمال كارثة تهدد البشرية

ازدادت أهمية تحذيرات كوكسون بعدما أعاد إيفان هوبينغر، الباحث في أنثروبيك والمتخصص في مواءمة الذكاء الاصطناعي مع الأهداف والقيم البشرية، نشرها مؤيدا جوهر المخاوف التي أثارها.

وأشار هوبينغر إلى أن العاملين في مجال الذكاء الاصطناعي يأخذون بجدية احتمال أن تتسبب هذه التكنولوجيا في انقراض البشرية، وقدّر احتمال وقوع هذا السيناريو بأكثر من 10% خلال العقد المقبل.

كما حذّر من عدم وجود خطة مكتملة حتى الآن تضمن بقاء أنظمة الذكاء الاصطناعي الفائق متوافقة مع الأهداف والقيم الإنسانية.

وفي المقابلة، تجنب أمودي الإجابة المباشرة عن سؤال بشأن اعتقاده بإمكانية أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر، وعن النسبة التي يقدّر بها احتمال حدوث ذلك.

لكنه أكد أن اختلافه مع كوكسون محدود، موضحا أن الانتقادات لا تستهدف أنثروبيك وحدها، بل تتعلق بوتيرة التطوير المتسارعة في القطاع بأكمله، والتي قد لا تترك وقتا كافيا للتعامل مع المخاطر المحتملة.

لماذا يرفض أمودي تحديد نسبة ثابتة للمخاطر؟

أوضح أمودي أنه استخدم في السابق تقديرات احتمالية للتعبير عن إمكانية وقوع أخطاء خطيرة بسبب الذكاء الاصطناعي، حتى لو لم يكن احتمال حدوثها مرتفعا للغاية.

لكنه يرى أن الاكتفاء بنسبة مئوية محددة، مثل تقدير الخطر بنحو 10%، لا يقدم الصورة الكاملة، لأنه قد يوحي بأن المسألة أشبه برمية نرد، بينما تتوقف النتائج على قرارات الشركات ومسارات التطوير التي تختارها.

وبحسب أمودي، فإن إعطاء الأولوية لأبحاث السلامة وإبطاء وتيرة التطوير وتعزيز الرقابة يمكن أن يخفض احتمالات وقوع أخطاء كارثية بدرجة كبيرة.

أما الاستمرار في سباق سريع من دون الاهتمام الكافي بهذه الجوانب، فقد يرفع مستوى المخاطر بصورة ملموسة.

وشدد على أن النقاش ينبغي أن يركز على كيفية توجيه القطاع نحو المسارات الأكثر أمانا، بدلا من الاكتفاء بتبادل التقديرات بشأن احتمالات نهاية العالم.

دعوات لإبطاء سباق الذكاء الاصطناعي

تأتي تصريحات أمودي في وقت تتزايد فيه الدعوات إلى منح أبحاث السلامة والرقابة المستقلة مساحة أكبر، بدلا من تركيز الشركات على تسريع تطوير النماذج الأكثر قدرة.

وانضم الرئيس التنفيذي لشركة أوبن إيه آي، سام ألتمان، إلى الدعوات المطالبة بإبطاء تطوير الذكاء الاصطناعي بصورة كبيرة، كما دعم إيلون ماسك، الرئيس التنفيذي لشركة سبيس إكس، التي تطور نموذج «غروك»، هذه الدعوات.

ويمثل تقارب مواقف هذه الشركات لحظة لافتة في قطاع تتسم علاقاته عادة بمنافسة شديدة على تطوير النماذج المتقدمة والاستحواذ على الأسواق.

وفي المقابل، قللت إدارة الرئيس الأمريكي دونالد ترمب من شأن المخاوف المتعلقة بمخاطر الذكاء الاصطناعي، إذ وصف ترمب هذه التحذيرات بأنها قوى سلبية، وقال إنها لن تتحقق، وفق ما أوردته صحيفة «غارديان» البريطانية.

وتكشف هذه المواقف عن استمرار الخلاف بشأن كيفية الموازنة بين تسريع الابتكار والاستفادة من قدرات الذكاء الاصطناعي، وبين وضع ضوابط تضمن تطويره بطريقة تقلل المخاطر على البشر.

ويتمحور موقف أمودي حول أن مستقبل هذه التكنولوجيا ليس محسوما سلفا، بل يتأثر بالقرارات التي تتخذها الشركات والجهات المعنية اليوم، خصوصا فيما يتعلق بتمويل أبحاث السلامة، وإبطاء التطوير عند الحاجة، وإتاحة المجال لرقابة مستقلة على الأنظمة الأكثر تقدما.