صلاحية دخول صحيحة وقرار خاطئ: توسع الإمارات في الذكاء الاصطناعي يرفع تحديات الأمن

قد يُظهر حساب موظف مَن فتح قاعدة بيانات أو عدّل ملفاً. لكن عندما يستخدم وكيل ذكاء اصطناعي ذلك الحساب، قد لا يكشف السجل مَن اتخذ القرار فعلياً. هذه الفجوة تتحول إلى تحدٍّ أمني مع منح الشركات الذكاء الاصطناعي صلاحيات للتصرف نيابة عنها، بحسب صحيفة «خليج تايمز». وفي الإمارات، يزداد الاهتمام بهذه المسألة مع التوجه الحكومي نحو أنظمة قادرة على تنفيذ المهام واتخاذ القرارات بصورة مستقلة.

وقال تشنغ لي، الشريك المؤسس ونائب رئيس المجموعة في شركة «أنسن» للذكاء الاصطناعي ومقرها أبوظبي، للصحيفة إن حادثاً أمنياً كبيراً مستقبلاً قد ينجم عن وكيل مخوّل يستخدم بيانات دخول سليمة لكنه يتخذ قراراً خاطئاً. ووكلاء الذكاء الاصطناعي برامج تنفذ سلسلة خطوات لإنجاز مهمة، وتحصل بصورة متزايدة على إمكانية الوصول إلى البريد الإلكتروني وملفات الشركات وتطبيقات أخرى. لذلك، فإن التحقق من حقها في دخول النظام ليس سوى البداية؛ إذ يتعين أيضاً تحديد الأفعال المسموح لها بتنفيذها.

يحذّر لي من أن امتلاك وكيل الذكاء الاصطناعي صلاحية دخول صحيحة لا يضمن اتخاذه قراراً آمناً.

حساب الدخول لم يعد كافياً

حذّر المعهد الوطني الأميركي للمعايير والتكنولوجيا، المعروف اختصاراً باسم «نيست»، في أغسطس من أن التطبيقات المبكرة للوكلاء تكرر خطأً أمنياً مألوفاً: مشاركة بيانات الدخول. فقد يكون ربط الوكيل بحساب موظف قائم، أو برمز وصول طويل الأجل يعمل كمفتاح رقمي للنظام، خياراً سهلاً. لكن سجل النشاط قد ينسب عندئذ جميع العمليات إلى الموظف، من دون التمييز بين تعليماته والقرارات التي اتخذها الوكيل بنفسه، أو الخطوات التي شاركت فيها أداة أخرى.

ويدعو المعهد إلى منح الوكلاء هويات وبيانات دخول وصلاحيات خاصة بهم، مع ربطها بالشخص أو النظام الذي منح التفويض. وتتبع إرشادات مايكروسوفت الأمنية توجهاً مماثلاً، إذ توصي بهوية مستقلة لكل وكيل، ونطاق وصول محدود، وتسجيل سلسلة النشاط كاملة. وتساعد هذه السجلات المؤسسة على معرفة ما حدث، والجهة التي استند إليها التفويض، وما تغيّر داخل أنظمتها نتيجة تلك العمليات.

لكن الهوية المستقلة لا تحسم وحدها مسألة حدود السلطة. فالوكيل المسموح له بتلخيص تنبيه أمني قد يمتلك أيضاً القدرة على تعطيل حساب أو إيقاف خدمة. ويرى لي أن مستوى الضوابط ينبغي أن يتناسب مع تبعات الإجراء، وأن تبقى القرارات عالية التأثير خاضعة للإشراف. وتحذّر مايكروسوفت كذلك من اتساع صلاحيات الوكلاء مع توسع أدوارهم؛ فالجمع بين الوصول إلى البريد والملفات وطلبات الدعم وقواعد البيانات قد يمنحهم قوة أكبر مما توحي به كل صلاحية منفردة.

التوسع الإماراتي يضع التحكم في الواجهة

وطرح مشروع أمن التطبيقات العالمي المفتوح أيضاً معياراً للتحكم في الوكلاء، يدعو إلى إتاحة فحصهم وتتبع أفعالهم. ويشمل ذلك معرفة الموارد التي يستطيعون الوصول إليها، والاحتفاظ بسجلات لما نفذوه، وإمكانية تقييد سلوكهم أثناء التشغيل. ويعكس هذا توجهاً أوسع نحو ضوابط لا تكتفي بالسماح بالدخول، بل تحدد أيضاً نطاق الصلاحية ومدتها وكيفية مراجعة ما جرى بعد التنفيذ.

وتستهدف الحكومة الاتحادية الإماراتية تحويل 50% من القطاعات والخدمات والعمليات الحكومية نحو الذكاء الاصطناعي القائم على الوكلاء خلال عامين، بما يشمل أنظمة مصممة للتنفيذ واتخاذ القرار بصورة مستقلة. وفي يونيو، بدأ أكثر من 300 مشارك من 50 جهة اتحادية حصر الخدمات والعمليات المرشحة لهذا الاستخدام. ولا يعني الهدف منح الأنظمة سلطة مطلقة، لكنه يجعل الهوية والصلاحيات وسجلات النشاط عناصر أساسية في تصميمها مع اتساع نشرها.

ويربط لي هذه الضوابط أيضاً بالذكاء الاصطناعي السيادي، معتبراً أن التحكم لا يكتمل من دون القدرة على مراقبة تصرفات النظام وتقييدها أو التدخل قبل تنفيذ إجراء عالي المخاطر. والتحدي المقبل هو الحفاظ على فائدة الأتمتة وسرعتها من دون التخلي عن الإشراف. ومع توسع الاستخدام، سيكون الاختبار العملي هو قدرة المؤسسات على إبقاء القرارات المؤثرة تحت التقدير البشري، مع إمكانية تتبع الجهة التي أجازت آلاف الإجراءات الروتينية التي ينفذها الوكلاء.