توماس فريدمان يحذر من مخاطر الذكاء الاصطناعي ويدعو واشنطن وبكين إلى تعاون عاجل
حذّر الكاتب الأمريكي توماس فريدمان من أن العالم قد يكرر أخطاء الماضي في التعامل مع الذكاء الاصطناعي، بسبب ما وصفه بالعجز عن تخيل السيناريوهات الكارثية قبل وقوعها. ودعا الولايات المتحدة والصين إلى تنسيق جهودهما للحد من مخاطر هذه التكنولوجيا، قبل أن تتطور التهديدات إلى أزمات يصعب احتواؤها.
واستهل فريدمان مقاله في صحيفة نيويورك تايمز باستعادة تصريح للرئيس الأمريكي دونالد ترمب في فبراير/شباط 2020، توقع فيه اختفاء فيروس كورونا مع ارتفاع درجات الحرارة. ورأى الكاتب أن جائحة كوفيد-19 وهجمات 11 سبتمبر/أيلول 2001 تكشفان عن مشكلة مشتركة، تتمثل في إخفاق المؤسسات في استشراف حجم الأزمات المحتملة والاستعداد لتداعياتها.
وأوضح أن الحكومات والخبراء قد يضعون خططا نظرية لمواجهة المخاطر، لكنهم لا يدركون دائما حجم الكارثة التي قد تنتج عن تحقق تلك السيناريوهات على أرض الواقع. واعتبر أن العالم يواجه اليوم تحديا مشابها مع الذكاء الاصطناعي، في ظل التطور المتسارع للأنظمة وقدرتها المتزايدة على أداء مهام معقدة والوصول إلى قطاعات حساسة.
شركات التكنولوجيا لا تفهم بالكامل قدرات أنظمتها
أبدى فريدمان قلقه من أن شركات التكنولوجيا الكبرى في الولايات المتحدة والصين لا تتمتع بالشفافية الكافية بشأن قدرات نماذج الذكاء الاصطناعي التي تطورها، مشيرا إلى أن فهم هذه الأنظمة وتوقع سلوكها لا يزالان يمثلان تحديا حتى بالنسبة إلى الجهات التي تصممها.
وحذّر من أن بعض الأنظمة المتقدمة قد تكتسب قدرات تجعلها مصدرا لزعزعة الاستقرار إذا استُخدمت بصورة ضارة أو وُضعت في بيئات لا تخضع لرقابة كافية. وتزداد المخاوف، بحسب طرحه، مع انتقال الذكاء الاصطناعي من التطبيقات الرقمية التقليدية إلى مجالات تتصل بالأمن والبنية التحتية والعمليات العسكرية.
وشبّه الكاتب مطوري هذه التكنولوجيا بالسحرة الذين أطلقوا قوى هائلة قد يجدون صعوبة في التحكم فيها، في إشارة إلى الفجوة المحتملة بين سرعة تطوير الأنظمة والقدرة على فهم آثارها وضبط مخاطرها.
وانتقد فريدمان أيضا أسلوب صنع القرار السياسي في الولايات المتحدة، معتبرا أن الاعتماد على ردود الفعل السريعة ووسائل التواصل الاجتماعي لا يوفر أساسا كافيا لوضع سياسات طويلة الأمد قادرة على التعامل مع تحديات الذكاء الاصطناعي.
التنافس بين واشنطن وبكين يعقّد جهود التنظيم
يرى فريدمان أن التنافس الاقتصادي والجيوسياسي بين الولايات المتحدة والصين، إلى جانب انعدام الثقة بينهما، يشكلان عقبة كبيرة أمام التوصل إلى قواعد مشتركة لتنظيم الذكاء الاصطناعي.
ومع ذلك، شدد على ضرورة تجاوز الخلافات في هذا المجال، لأن المخاطر المحتملة لا تقتصر على دولة بعينها، بل قد تمتد إلى البنية التحتية والأنظمة المالية والأمنية على مستوى العالم.
وطرح الكاتب مسارين رئيسيين للتحرك. يتمثل الأول في تعزيز التعاون بين البلدين لحماية البنية التحتية الحيوية، بما فيها شبكات المياه والطاقة والإنترنت، من الهجمات السيبرانية التي قد تستفيد من قدرات الذكاء الاصطناعي.
أما المسار الثاني، فيقوم على الدخول في حوار مع كبرى شركات التكنولوجيا لوضع استراتيجية طويلة الأمد توازن بين استمرار المنافسة والابتكار من جهة، وفرض ضوابط داخلية صارمة تحد من المخاطر الكارثية من جهة أخرى.
وأشار إلى ضرورة أن تشمل هذه الضوابط الاستخدامات المحتملة للذكاء الاصطناعي في المجالات النووية والبيولوجية والسيبرانية والمالية، بما يحد من فرص استغلال الأنظمة المتقدمة في تنفيذ هجمات واسعة النطاق أو إحداث اضطرابات يصعب احتواؤها.
خبراء يدعون إلى تنظيم يعزز الثقة
استند فريدمان في مقاله إلى آراء عدد من الباحثين والخبراء الذين حذروا من أن الاعتماد على حسن نوايا مطوري الذكاء الاصطناعي لا يكفي لضمان الاستخدام الآمن للتكنولوجيا.
وينقل عن عالم السياسة فرانسيس فوكوياما أن الذكاء الاصطناعي يمكن توظيفه لأغراض مفيدة أو ضارة، في حين لا تزال الآليات المتاحة للحد من الاستخدامات المؤذية غير كافية، ما يجعل التنظيم الفعال ضرورة متزايدة.
كما استشهد برأي إريك بينهوكر من جامعة أكسفورد، الذي يدافع عن التنظيم باعتباره وسيلة لبناء الثقة وليس عائقا أمام الابتكار. ويلخص بينهوكر فكرته بالقول إن التنظيم الجيد يعزز الثقة، وإن الثقة تسهم في نمو الأسواق، مستشهدا بصناعتي الطيران والأدوية اللتين تستفيدان من الرقابة الحكومية في تعزيز سلامة المنتجات وثقة المستهلكين.
واستخدم بينهوكر عبارة «لقد أطلقنا داروين داخل وادي السيليكون»، في إشارة إلى المخاوف من أن يؤدي التنافس المحموم بين شركات التكنولوجيا إلى تطوير أنظمة تتغير قدراتها بوتيرة أسرع من قدرة البشر على فهمها ومراقبتها.
وتعكس هذه المقارنة القلق من أن يدفع السباق التكنولوجي الشركات إلى التركيز على تحسين قدرات أنظمتها وتسريع إطلاقها، دون منح تقييم المخاطر والضمانات الأمنية الاهتمام نفسه.
الذكاء الاصطناعي والأنظمة المستقلة.. من يملك القرار؟
حذّر فريدمان من أن الذكاء الاصطناعي قد يختلف عن التقنيات التقليدية، مستشهدا بوصف عالم الكمبيوتر كريغ موندي له بأنه «نوع جديد» من الكيانات التكنولوجية.
وتتزايد أهمية هذه المخاوف مع دمج أنظمة الذكاء الاصطناعي في الروبوتات والطائرات المسيّرة والمركبات، إذ قد يؤدي منحها صلاحيات واسعة إلى زيادة صعوبة التدخل البشري عند حدوث خلل أو اتخاذ قرارات غير متوقعة.
ومن هذا المنطلق، أيد الكاتب ضرورة إبقاء الإنسان ضمن دائرة التحكم في الأنظمة ذات المخاطر المرتفعة، وعدم منحها استقلالية كاملة قبل توافر ضمانات مناسبة تتيح مراقبة أدائها والتدخل عند الضرورة.
واستحضر فريدمان مقولة الرئيس الأمريكي الأسبق دوايت آيزنهاور: «الخطط لا قيمة لها، لكن التخطيط هو كل شيء»، ليؤكد أن الاستعداد للأزمات لا يعني القدرة على التنبؤ بكل تفاصيلها، بل بناء مؤسسات وآليات مرنة تستطيع التعامل مع الأحداث غير المتوقعة.
وفي تحذيره الأشد، دعا الكاتب إلى أخذ احتمال خروج وكلاء الذكاء الاصطناعي عن السيطرة على محمل الجد، مشيرا إلى أن تصور أنظمة تتجاوز قدرات البشر بصورة هائلة وتعمل خارج نطاق الرقابة يستحق الدراسة والاستعداد المسبق، بدلا من انتظار وقوع كارثة للتحرك.
ويخلص طرح فريدمان إلى أن التحدي لا يكمن في إيقاف التطور التكنولوجي، بل في ضمان ألا تتقدم قدرات الذكاء الاصطناعي بوتيرة تفوق قدرة المجتمعات والحكومات على فهمها وإدارة مخاطرها. ومن وجهة نظره، فإن التعاون الدولي ووضع قواعد واضحة وإبقاء الإنسان مسؤولا عن القرارات الحساسة تمثل خطوات ضرورية لتقليل احتمالات تحول هذه التكنولوجيا إلى مصدر لأزمات عالمية.
