الذكاء الاصطناعي يكشف الحسابات الوهمية على منصات التواصل الاجتماعي بدقة عالية

أظهرت دراسة حديثة أجراها المعهد الفيدرالي السويسري للتكنولوجيا في زيورخ بالتعاون مع شركة Anthropic أن نماذج الذكاء الاصطناعي قادرة على كشف هوية الحسابات الوهمية على منصات التواصل الاجتماعي بدقة تصل إلى 90% في معظم الحالات، بحسب تقرير موقع The Verge.

آلية عمل النماذج

اعتمدت الدراسة على نماذج ذكاء اصطناعي متنوعة، شملت نماذج تجارية ونماذج مفتوحة المصدر، جميعها مزودة بقدرة الوصول إلى الإنترنت والبحث المكثف فيه. واستطاعت النماذج تحديد الحسابات الوهمية من خلال تحليل المعلومات المتاحة في المنشورات المجهولة، أنماط الكتابة، وتواتر النشر، ثم مطابقة هذه الأنماط مع ملايين الحسابات المعروفة على منصات التواصل الاجتماعي، وصولًا إلى تضييق القائمة واستخلاص الحساب النهائي أو مجموعة الحسابات المرتبطة به.

وأظهرت النتائج أن النماذج نجحت في كشف نحو 68% من الحسابات الوهمية بدقة مرتفعة، مع اختلاف النتائج بحسب النموذج المستخدم.

مخاطر أمنية محتملة

أثار هذا التطور مخاوف أمنية بحسب تقرير صحيفة The Guardian، إذ يمكن للحكومات استغلال هذه التقنية للكشف عن هويات المعارضين والنشطاء، كما يمكن للقراصنة استخدامها لتنفيذ هجمات تصيد احتيالي أكثر دقة.

ويعد مجال المراقبة المعزز بالذكاء الاصطناعي من أكثر المجالات إثارة للقلق، إذ يسمح بالوصول إلى معلومات المستخدمين بشكل لم يكن ممكنًا سابقًا.

تكلفة منخفضة وقلق من الاستخدام التجاري

أكد سيمون ليرمن، المؤلف المشارك في الدراسة، أن تكلفة إجراء التجربة لم تتجاوز ألفي دولار، بمتوسط تكلفة بين 1 و4 دولارات لكل حساب، ما يجعل التقنية متاحة اقتصاديًا للاستخدام على نطاق واسع.

في المقابل، أبدى بيتر بنتلي، أستاذ علوم الحاسوب في جامعة لندن، قلقه من أن هذه التقنية قد تُعتمد تجاريًا، وهو ما يزيد من خطورة الاستخدام المحتمل والربط الخاطئ بين الحسابات والمنشورات المجهولة.

توصيات لحماية بيانات المستخدمين

دعت الدراسة إلى اتخاذ إجراءات لحماية بيانات المستخدمين من نماذج الذكاء الاصطناعي، وتشمل:

• تحسين آليات التشفير في منصات التواصل الاجتماعي والمنصات التي تحتوي معلومات عن المستخدمين.
• الحد من حجم البيانات المتاحة لنماذج الذكاء الاصطناعي للوصول إليها.

وتؤكد الدراسة على أهمية الموازنة بين الاستفادة من قدرات الذكاء الاصطناعي في كشف الحسابات الوهمية والحفاظ على خصوصية المستخدمين وأمان بياناتهم على الإنترنت.