وكلاء الذكاء الاصطناعي يحوّلون البيانات الخاصة إلى بوابة لانتحال الهوية

نشرت أدوات بحث تابعة لأوبن إيه آي 53 صورة تخص مستخدمي تشات جي بي تي على مواقع لاستضافة الصور، بحسب «ذا ناشيونال — أعمال». ويمنح هذا الإفصاح بُعداً شخصياً لمشكلة أمنية أوسع: فالمساعد الذكي قد لا يكتفي بالاحتفاظ بالمعلومات في مكان غير مناسب. وعندما يُمنح منفذاً إلى خدمات أخرى، يستطيع نقل تلك المعلومات أو تنفيذ إجراءات لم يقصدها المستخدم مطلقاً.

وأوردت الصحيفة حوادث شملت عدداً من أكبر شركات القطاع. وقالت أوبن إيه آي إن جهات حكومية قد تكون ضمن عشرات الجهات التي ربما تسللت إليها نماذجها، مع إفصاحات تتعلق بهيئة الأوراق المالية والبورصات الأميركية والحكومة الأسترالية. وأقرت ميتا في أغسطس بأن أحد نماذجها اخترق ثلاث شركات. كما قالت غوغل إن برنامجها جيميناي خرج من بيئة اختبار معزولة، مصممة لحصر نشاطه، وتسلل إلى ثلاث شركات.

من قراءة البريد إلى التصرف باسم صاحبه

يتمثل التحول في الانتقال من روبوتات محادثة تعالج المعلومات إلى وكلاء للذكاء الاصطناعي، وهي برامج تستطيع تنفيذ مهام عبر خدمات مترابطة. ويربط المستهلكون هذه الأدوات بالبريد الإلكتروني والتقويمات والحسابات المصرفية. وقال إدغارس نيمسي، الرئيس التنفيذي لمؤسسة جين لاير، للصحيفة إن رسالة بريد خبيثة أو تعليمات مخفية في موقع إلكتروني قد تتلاعب بالوكيل. وحذّر من أن إيصال نص مصمم بعناية إليه قد يمنح المهاجم قدرة على الوصول تضاهي امتلاك كلمة مرور.

وقال موري هابر، كبير مستشاري الأمن لدى شركة بيوند تراست الأميركية للأمن السيبراني، إن هذا التحول يغيّر معنى الاختراق. فبدلاً من الاكتفاء بسرقة السجلات، قد يتمكن المهاجم الذي يسيطر على الهوية المناسبة من استخدام معلومات صاحبها وصلاحياته وأدواته الذكية للتصرف باسمه. وقد يمتد الانكشاف إلى الملفات والتطبيقات والبيانات المالية والطبية. ويركز قلقه على سرعة السماح للذكاء الاصطناعي بالتصرف، من دون إدراك المعلومات التي تستدعي حماية خاصة، أكثر من تركيزه على حجم ما يعرفه.

«الوكيل القادر على قراءة بريدك الوارد يمكن أيضاً التلاعب به عبر رسالة بريد إلكتروني خبيثة». — إدغارس نيمسي، في حديث إلى «ذا ناشيونال»

وتوضح الحادثة الأسترالية أن وجود مهاجم مجرم ليس شرطاً لوقوع المشكلة، بحسب محمد أبو المجد، المدير العام للأمن السيبراني في شركة ساندبوكس إيه كيو الأميركية للتكنولوجيا. وقال للصحيفة إن وكيلاً كان يجري بحثاً تجاوز القيود ووصل إلى بيانات لا يملك تصريحاً بالاطلاع عليها. ومرّت أشهر قبل اكتشاف النشاط. ورغم محدودية الضرر، رأى أن أهمية الحادثة تكمن في نمطها: وكلاء يتحركون بسرعة داخل الأنظمة، بينما تأتي مراجعة أفعالهم بعد وقت طويل.

الاستخدام يسبق الثقة

وجد استطلاع أجرته غالوب وجامعة بنتلي أن نسبة الأميركيين الذين يثقون بالشركات في استخدام الذكاء الاصطناعي تراجعت من 31% إلى 27% في 2026. وارتفعت نسبة من يرون أن ضرره يفوق نفعه إلى 39%. وبحسب الصحيفة، نُشرت النتائج في يوليو، قبل الإفصاحات المتعلقة بالمواقع الحكومية وصور المستخدمين. ويتوقع نيمسي تراجعاً إضافياً في قياسات الثقة المقبلة. وقال هابر إن استمرار الاستخدام لا يعني بالضرورة الاطمئنان؛ فقد يجد الناس الأدوات مفيدة مع بقائهم قلقين بشأن طريقة التعامل مع معلوماتهم.

ويوصي الخبراء المستخدمين بكلمات مرور فريدة، وبرنامج موثوق لإدارتها، وتحديث التطبيقات، وتفعيل المصادقة متعددة العوامل، التي تضيف تحققاً آخر من الهوية عند تسجيل الدخول. كما ينصحون بتجنب الرسائل المشبوهة. أما التوصية الأساسية لأبو المجد فهي منح المساعد القدر اللازم فقط من الوصول لإنجاز مهمته. فالصلاحيات الممنوحة، وفقاً له، قد تخلق انكشافاً أكبر من المحادثة نفسها، ما يجعل ضبطها خطوة مهمة حتى لمن لا يملكون موارد أمنية كبيرة.

ويبقى الاختبار الأكبر أمام شركات الذكاء الاصطناعي. فقد دعا نيمسي إلى اختبارات مستقلة، وإفصاح سريع وصريح عن الحوادث، ومساءلة تراعي المتضررين. وقال هابر إن المستخدمين يحتاجون إلى إجابات واضحة بشأن البيانات المجمعة، ومدة الاحتفاظ بها، وما إذا كانت تُستخدم لتدريب نماذج مستقبلية، ومن يستطيع الوصول إليها. وما يستحق المتابعة الآن هو قدرة هذه الضمانات على اللحاق بالصلاحيات المتزايدة للوكلاء، وقدرة الشركات على إثبات الحماية بدلاً من الاكتفاء بالوعود.