استخدام المجموعات الصينية لتقنية الذكاء الاصطناعي في عمليات سرية
ذكرت شركة OpenAI المطورة لتطبيق ChatGPT في تقرير، الخميس، أنها لاحظت تزايد عدد المجموعات الصينية التي تستخدم تقنية الذكاء الاصطناعي الخاصة بها في عمليات سرية.
وقالت الشركة الناشئة، التي تتخذ من سان فرانسيسكو مقراً لها، إنه على الرغم من توسع نطاق هذه المجموعات وأساليبها، فإن العمليات المكتشفة كانت صغيرة النطاق بشكل عام واستهدفت عدداً قليلاً من الجمهور.
وكانت هناك مخاوف منذ ظهور ChatGPT في أواخر 2022 متعلقة بالعواقب المحتملة لتقنية الذكاء الاصطناعي التوليدي، والتي يمكنها إنتاج نصوص وصور وأصوات تشبه التي ينتجها الإنسان بسرعة وسهولة.
وتصدر OpenAI تقارير على نحو مستمر تتعلق بالأنشطة الضارة التي تكتشفها على منصتها، مثل إنشاء البرمجيات الخبيثة وإزالتها، أو إنشاء محتوى زائف لمواقع الويب ومنصات التواصل الاجتماعي.
حظر حسابات ChatGPT
وفي أحد الأمثلة، حظرت الشركة حسابات ChatGPT نشرت على منصات التواصل الاجتماعي منشورات تتعلق بمواضيع سياسية وجيوسياسية ذات صلة بالصين، بما في ذلك انتقاد لعبة فيديو تركز على تايوان، وتوجيه اتهامات كاذبة لناشط باكستاني، ومحتوى يتعلق بإغلاق الوكالة الأميركية للتنمية الدولية.
وفي مثال آخر، استخدم متسللون مرتبطون بالصين الذكاء الاصطناعي لدعم مراحل مختلفة من عملياتهم للقرصنة الإلكترونية، بما في ذلك البحث مفتوح المصدر وتعديل النصوص واستكشاف أخطاء تكوينات النظام، وتطوير أدوات لاختراق كلمات المرور وأتمتة وسائل التواصل الاجتماعي.
وفي أبريل الماضي، رصدت شركة Rumi المتخصصة في حلول التعليم القائمة على الذكاء الاصطناعي، قيام نماذج حديثة من ChatGPT، وتحديداً GPT-o3 وGPT-o4 mini، بإضافة علامات مائية رقمية داخل النصوص التي يتم توليدها، لإثبات أنها مولّدة باستخدامه.
وتتمثل هذه العلامات في رموز Unicode خاصة تُعرف باسم “المسافة الضيقة غير القابلة للكسر” (Narrow No-Break Space) وتحمل رمز (Unicode U+202F)، وتبدو للمستخدم كأنها مسافات عادية ولكنها تختلف عنها في الكود الثنائي ASCII.
وأوضح الفريق البحثي، في التقرير المنشور على مدونة الشركة، أن هذه العلامات لا تظهر إلا في الردود الطويلة نسبياً، مثل المقالات النصية المطولة، في المقابل، لم يتم رصد هذه العلامات في النسخ الأقدم من ChatGPT، مثل نموذج GPT-4o.
وجاء هذا الاكتشاف ليكون حلقة جديدة ضمن سلسلة من الخطوات التي أعلنت عنها شركة OpenAI بشأن تطوير تقنيات “العلامات المائية” في الصور المولّدة باستخدام الذكاء الاصطناعي.
