إنستغرام يخطئ في تمييز الصور المولدة بالذكاء الاصطناعي.. صور حقيقية تحصل على العلامة ومحتوى اصطناعي يفلت منها

بدأت منصة إنستغرام في توسيع نطاق استخدام العلامات التي تشير إلى اعتماد المحتوى على الذكاء الاصطناعي، في محاولة لتمييز الصور والمنشورات التي جرى إنشاؤها أو تعديلها باستخدام أدوات الذكاء الاصطناعي.

لكن آلية الكشف الجديدة تواجه مشكلة واضحة، إذ أبلغ مستخدمون عن ظهور علامة “مولد بالذكاء الاصطناعي” على صور التقطوها بشكل طبيعي، في حين تمكنت صور أخرى منشأة باستخدام تقنيات الذكاء الاصطناعي من الظهور دون أي تصنيف، وفقا لتقرير نشره موقع “ذا فيرج” التقني.

وأثار هذا التباين تساؤلات حول الطريقة التي تعتمدها المنصة لتحديد طبيعة الصور، خصوصا أن مجرد إجراء تعديلات محدودة على صورة حقيقية قد يؤدي في بعض الحالات إلى تصنيفها على أنها محتوى مولد بالذكاء الاصطناعي.

لماذا تظهر العلامة على صور حقيقية؟

لم تقدم إنستغرام حتى الآن تفسيرا شاملا يحدد جميع العوامل التي تؤدي إلى ظهور العلامة، لكن تجارب المستخدمين تشير إلى أكثر من احتمال.

وقال أحد مستخدمي منصة ثريدز إن العلامة ظهرت على صورة حقيقية بعد إجراء تعديل كبير على خلفيتها باستخدام إحدى أدوات التحرير، بينما أشار مستخدم آخر إلى حصوله على النتيجة نفسها بعد تعديل صورة بواسطة كانفا.

وتشير هذه الحالات إلى أن نظام التصنيف قد لا يركز فقط على الصور التي أنشئت بالكامل بواسطة الذكاء الاصطناعي، وإنما قد يتأثر أيضا بطريقة معالجة الصورة والبيانات الوصفية المرتبطة بها والأدوات التي استخدمت في تعديلها.

وليست هذه المشكلة جديدة تماما، إذ شهدت إنستغرام حالة مشابهة في عام 2024 عندما ظهرت علامات الذكاء الاصطناعي على عدد كبير من الصور الفوتوغرافية الحقيقية.

وكانت شركة ميتا، المالكة لإنستغرام، قد أوضحت حينها أن المنصة تبحث في الصور عن بيانات وصفية ومعايير مثل IPTC وC2PA، والتي يمكن أن توفر مؤشرات على استخدام الذكاء الاصطناعي في إنشاء المحتوى أو تعديله.

لكن المشكلة تكمن في أن هذه البيانات قد تظهر أيضا عند استخدام أدوات ذكاء اصطناعي لإجراء تعديلات محدودة للغاية على صورة أصلية، وهو ما قد يؤدي إلى تصنيف الصورة بالكامل على أنها مولدة بالذكاء الاصطناعي.

المشكلة لا تقتصر على أداة واحدة

بحسب التقارير، لم تكن كانفا وحدها مرتبطة بهذه الحالات، إذ ظهرت علامات مماثلة على صور جرى تعديلها باستخدام أدوات متاحة على هواتف آيفون، إضافة إلى صور تحمل بيانات وصفية مصممة لمنع أنظمة الذكاء الاصطناعي من قراءتها أو استخدامها في عمليات التدريب.

وهذا يجعل تحديد السبب المباشر وراء ظهور العلامة على صورة معينة أمرا معقدا، خاصة مع تعدد الأدوات والمنصات التي يمكن أن تتدخل في الصورة قبل رفعها إلى إنستغرام.

وفي حالة كانفا، أوضحت المنصة لأحد صناع المحتوى أن بعض أدوات المساعدة في تصميم وتعديل المحتوى كانت تضيف بالفعل مؤشرات مرتبطة بالذكاء الاصطناعي، قبل أن تعمل على معالجة المشكلة.

إنستغرام تشدد الرقابة على المحتوى الاصطناعي

تأتي هذه الإشكالات في وقت تعمل فيه إنستغرام على توسيع نطاق الكشف عن الحسابات التي تعتمد بصورة كاملة على شخصيات ومؤثرين مولدين بالذكاء الاصطناعي.

وكانت المنصة قد أعلنت عن توجهها إلى وضع علامات تميز حسابات المؤثرين الذين تم إنشاؤهم باستخدام الذكاء الاصطناعي، مع إمكانية تقليص انتشار الحسابات التي لا تفصح عن طبيعتها.

وفي المقابل، فإن الحساب الذي يوضح بشكل صريح أن الصور أو الشخصيات التي ينشرها مولدة بالذكاء الاصطناعي لا يتعرض، وفقا للسياسة المعلنة، لعقوبات أو تقييد لمجرد استخدام هذه التقنية.

وتعكس هذه السياسة محاولة من المنصة لتحقيق توازن بين السماح باستخدام أدوات الذكاء الاصطناعي في صناعة المحتوى، وبين منح المستخدمين القدرة على معرفة طبيعة المواد التي يشاهدونها.

هل يمكن منع ظهور علامة الذكاء الاصطناعي؟

لا توجد حاليا طريقة مضمونة تمنع إنستغرام من إضافة علامة الذكاء الاصطناعي إلى صورة ما، لأن التصنيف يعتمد على مجموعة من المؤشرات التي قد لا تكون واضحة للمستخدم.

وانتشرت عبر منصات التواصل الاجتماعي نصائح وطرق مختلفة يعتقد مستخدمون أنها قد تقلل احتمالية ظهور العلامة، إلا أن فعاليتها ليست ثابتة ولا تضمن تجاوز نظام الكشف.

وبالتالي، قد يواجه المستخدم الذي يلتقط صورة حقيقية ثم يجري عليها تعديلات باستخدام بعض أدوات التحرير مشكلة تصنيفها كمحتوى مولد بالذكاء الاصطناعي، في حين قد تمر صور منشأة بالكامل باستخدام التقنية دون علامة، وهو ما يكشف عن استمرار التحديات التقنية أمام أنظمة تصنيف المحتوى الاصطناعي.