محافظ بنك إنجلترا يدعو إلى تقديم اختبار الذكاء الاصطناعي على تشديد التنظيم

دعا محافظ بنك إنجلترا أندرو بيلي الحكومات إلى إعطاء الأولوية للاختبارات الصارمة قبل تشديد القواعد المنظمة للذكاء الاصطناعي، معتبراً أن السلطات تحتاج إلى فهم أفضل للأنظمة المتزايدة التطور قبل إرساء ضوابط رسمية، بحسب موقع «ذا ناشيونال». ويتباين موقفه مع دعوات متخصصين إلى فرض قيود ملزمة على الاستخدامات العسكرية لهذه التكنولوجيا، في ضوء مخاطر يقولون إنها باتت واضحة بالفعل في غزة وإيران.

وفي مقال مرافق للتقرير الفصلي لاجتماع لجنة السياسة المالية في البنك، قال بيلي إن الذكاء الاصطناعي المتقدم ينطوي على فوائد محتملة كبيرة، لكنه يحمل أيضاً مخاطر جسيمة ومتنامية. وأيد إجراء اختبارات قبل نشر الأنظمة وبعد دخولها حيز الاستخدام، موضحاً أن تصرفاتها غير المتوقعة ينبغي أن تُعد سبباً لتعزيز التدقيق، لا دليلاً على عدم جدوى الاختبارات أو إخفاقها في أداء دورها.

وقال بيلي إن على الجهات الرقابية استخلاص الدروس من الحوادث والحالات التي كادت تؤدي إلى حوادث خلال تطوير الذكاء الاصطناعي، وتحديد نقاط تتيح تدخلاً فعالاً. ولم يستبعد ظهور إطار تنظيمي أكثر رسمية بمرور الوقت، كما لم يقدم الاختبار باعتباره حلاً شاملاً للمخاطر. وتركز موقفه على ترتيب الخطوات، إذ يرى أن سن القواعد التنظيمية ليس نقطة البداية المناسبة للحكومات في تعاملها مع هذه التكنولوجيا.

تعهدات الشركات بشأن السلامة

يأتي هذا النقاش في وقت يعلن فيه مطورو الذكاء الاصطناعي عن مشكلات في أنظمتهم. وبحسب «ذا ناشيونال»، أفادت شركتا أوبن إيه آي وأنثروبيك في وقت سابق من الشهر بأن وكلاء الذكاء الاصطناعي التابعين لهما تصرفوا خارج الحدود المقصودة واخترقوا أنظمة شركات أخرى. وعقب اجتماع مع مسؤولين تنفيذيين في القطاع يوم الثلاثاء، قال الرئيس الأميركي دونالد ترامب إنهم اتفقوا على معايير طوعية والاستعانة بمدققين مستقلين للتحقق من عمل الأنظمة وفق ما أراده مصمموها.

وتعهدت شركات تكنولوجيا كبرى أيضاً بالعمل على منع أدواتها من اختراق الأنظمة التقنية أو الوصول إليها بطرق غير مقصودة. وقال مالك شركة ميتا مارك زوكربيرغ، خلال حديث في البيت الأبيض، إن المشاركين اتفقوا على تطوير ضوابط داخلية أكثر متانة. وأضاف ترامب أنه يدرس تشكيل مجلس من عشرة أعضاء للإشراف على سلامة الذكاء الاصطناعي، بوصفه آلية رقابية محتملة إلى جانب التعهدات الطوعية التي نوقشت مع مسؤولي الشركات.

الاستخدام العسكري يعزز مطالب التنظيم

في المقابل، رأى متخصصون في الذكاء الاصطناعي العسكري أن انتظار فهم أوضح للتكنولوجيا لا يعالج الأضرار الواقعة بالفعل. وقال مات محمودي، الأستاذ المساعد في الإنسانيات الرقمية بجامعة كامبريدج والباحث والمستشار في الذكاء الاصطناعي وحقوق الإنسان لدى منظمة العفو الدولية، إن النقاشات حول انقراض البشر تصرف الانتباه عن التهديدات القائمة. وخلال فعالية على هامش مؤتمر حزب العمال، أشار إلى أنظمة الاستهداف الإسرائيلية المدعومة بالذكاء الاصطناعي، ومنها لافندر وغوسبل و«هوز دادي؟»، التي يُعتقد أنها ساهمت في ارتفاع حصيلة القتلى في غزة. وذكرت «ذا ناشيونال» أن شهوداً وصفوا سابقاً إدخال مواد من وسائل التواصل الاجتماعي ضمن بيانات الاستهداف، بما قد يجعل أشخاصاً غير مرتبطين بحماس أهدافاً، وأن بعض عمليات التحقق من الأهداف استغرقت عشرين ثانية فقط.

وطالب محمودي بقواعد دولية ملزمة لحماية المدنيين من الأسلحة الذاتية التشغيل المعتمدة على الذكاء الاصطناعي، محذراً من أن الغموض بشأن ما إذا كان الإنسان أم الآلة قد اتخذ قرار القتل قد يعقّد إنفاذ القانون الإنساني القائم. وقالت أليكسي درو، المتخصصة في الذكاء الاصطناعي لدى شركة بنومبرا أناليسيس الاستشارية، إن استخدام تكنولوجيا متزايدة الاستقلالية في غزة وأوكرانيا يوضح أن التنظيم يواجه بالفعل صعوبة في مواكبة التطورات. واعتبرت أن إخفاق الحكومات في منع تطويرها يزيد مسؤوليتها عن تقييد استخدامها. ولا تزال الدول منقسمة خلال محادثات الأمم المتحدة بشأن الحاجة إلى ضوابط ملزمة جديدة للأسلحة الفتاكة الذاتية التشغيل، أو الاكتفاء باتباع الإرشادات القائمة.