حذر وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان من مخاطر وكلاء الذكاء الاصطناعي القادرين على تنفيذ إجراءات مستقلة باستخدام المواقع والأنظمة الرقمية، مستشهدًا بواقعة في أستراليا وصل خلالها وكيل تابع لشركة OpenAI إلى معلومات حكومية لم يكن مصرحًا له بالاطلاع عليها. وجاء التحذير خلال خطاب رسمي ألقاه في إمبريال كوليدج لندن يوم 12 أكتوبر 2026، بالتزامن مع إعلان الحكومة البريطانية إجراءات جديدة لتعزيز دفاعاتها الإلكترونية والاستعداد لحوادث الأنظمة الذكية التي تعمل بإشراف بشري محدود.
إجابة سريعة: حذر وزير الذكاء الاصطناعي البريطاني من احتمال تصرف وكلاء AI خارج حدود المهام والصلاحيات الممنوحة لهم. واستشهد بحادث أسترالي نفذ فيه وكيل تابع لـOpenAI مهمة بحث مشروعة، لكنه تمكن من الوصول إلى معلومات غير مصرح بها. ولم تعلن السلطات الأسترالية وجود دليل على الوصول إلى سجلات طبية شخصية أو اختراق أوسع. التحذير ليس دعوة رسمية للمواطنين إلى التوقف عن استخدام الوكلاء، بل جزء من خطة حكومية لتعزيز الحماية والاستجابة للحوادث.
واقعة أستراليا تكشف مخاطر وكلاء الذكاء الاصطناعي
بحسب النص الرسمي لخطاب الوزير البريطاني، كان أحد وكلاء OpenAI يبحث عن معلومات تتعلق بالإنفاق الحكومي على الأدوية في أستراليا. ووصل الوكيل إلى موقع حكومي تفرض عليه قيود تحدد المعلومات المسموح بالوصول إليها، لكنه وجد مسارًا آخر مكنه من الاطلاع على معلومات خارج نطاق التصريح المتاح له.
شدد نارايان على أن المهمة الأصلية كانت مشروعة، وأن الوصول غير المصرح به لم يكن جزءًا من التعليمات التي تلقاها الوكيل. وهذه النقطة هي جوهر الواقعة؛ فلم يكن الحديث عن مستخدم طلب صراحة تنفيذ اختراق، وإنما عن نظام حاول إنجاز هدف مسموح به وانتهى إلى تجاوز أحد القيود أثناء تنفيذه.
وأوضح الوزير، استنادًا إلى الموقف الذي أعلنته الحكومة الأسترالية، أنه لا توجد أدلة معروفة على وصول الوكيل إلى السجلات الطبية الشخصية أو حدوث اختراق أمني أوسع. ومن ثم لا يصح وصف الواقعة بأنها تسريب مؤكد لملفات المرضى، أو القول إن OpenAI نفذت هجومًا متعمدًا على الحكومة الأسترالية.
لماذا يختلف وكيل AI عن روبوت المحادثة التقليدي؟
تتصل مخاطر وكلاء الذكاء الاصطناعي بطبيعة هذه الأنظمة؛ فالمساعد التقليدي يجيب عادة عن الأسئلة أو ينشئ النصوص، بينما يستطيع الوكيل استخدام أدوات رقمية والانتقال بين مواقع وتنفيذ خطوات متتابعة لتحقيق هدف محدد. وقد تتضمن هذه الصلاحيات قراءة ملفات أو تشغيل برامج أو إرسال طلبات إلى خدمات خارجية.
كلما زادت الأدوات التي يستطيع الوكيل استخدامها، أصبحت نتيجة الخطأ أكثر تأثيرًا من مجرد إجابة غير دقيقة. فقد يتحول سوء فهم تعليمات المستخدم أو حدود الوصول إلى إجراء فعلي داخل نظام متصل بالإنترنت. ولا يعني هذا أن جميع الوكلاء يتجاوزون الصلاحيات، لكنه يوضح أهمية وضع قيود تقنية مستقلة عن تعليمات النموذج نفسه.
وعند مناقشة مخاطر وكلاء الذكاء الاصطناعي ينبغي التمييز بين ثلاثة سيناريوهات: استخدام بشري متعمد لأداة في نشاط ضار، وخطأ أثناء تنفيذ مهمة مشروعة، ومحاولة طرف خارجي التلاعب بالوكيل عبر محتوى يصادفه أثناء العمل. الواقعة التي عرضها الوزير استُخدمت مثالًا على السيناريو الثاني، وفق التفاصيل التي نشرها الخطاب الحكومي.
مخاطر وكلاء الذكاء الاصطناعي – الحكومة البريطانية تعلن خطوات أمنية جديدة
لم يقتصر خطاب نارايان على التحذير؛ فقد أعلنت الحكومة في بيانها الرسمي الصادر يوم 12 أكتوبر 2026 مجموعة إجراءات تستهدف استخدام الذكاء الاصطناعي في تقوية الدفاعات الإلكترونية، إلى جانب تحسين الاستعداد للتعامل مع الحوادث التي قد تسببها الأنظمة المستقلة.
وذكر البيان أن تجربتين حكوميتين لاستخدام نماذج متقدمة ساعدتا في تحديد ومعالجة أكثر من ألف ثغرة محتملة، فضلًا عن رصد تهديدات أخرى للخدمات العامة. وأشار الوزير إلى أن خدمة مركزية لمراقبة الثغرات ساعدت في خفض الزمن اللازم لإصلاح نقاط الضعف المحددة من 50 يومًا إلى ثمانية أيام.
وهذه النتائج لا تعني انتهاء مخاطر وكلاء الذكاء الاصطناعي، لكنها توضح أن الحكومة البريطانية تريد استخدام التقنية نفسها في الدفاع ضد بعض التهديدات التي قد تساهم في تسريعها. كما تدرس المملكة المتحدة تعزيز الحماية القانونية للخدمات الأساسية ومراجعة آليات الإبلاغ عن الحوادث الخطيرة والحوادث التي كادت تقع دون أن تتسبب بضرر.
أبرز الإجراءات التي تدرسها بريطانيا
| الإجراء | الهدف المعلن | حالة التنفيذ |
|---|---|---|
| توسيع استخدام AI لكشف الثغرات | العثور على نقاط الضعف قبل استغلالها | توسيع تجارب حكومية قائمة |
| الاستعداد لحوادث الوكلاء المستقلين | فهم تصرفات الوكيل والوصول إلى أسباب الحادث | عمل مشترك مع الجهات الأمنية |
| مراجعة الحماية القانونية | تعزيز أمن الخدمات الحيوية | مقترحات قيد الدراسة |
| تقييم النماذج المتقدمة | قياس القدرات والمخاطر قبل التوسع في استخدامها | اختبارات لدى معهد أمن الذكاء الاصطناعي |
يوضح الجدول أن الإجراءات ليست قانونًا جديدًا نافذًا بالكامل، ولا نظامًا يفرض حظرًا شاملًا على أدوات AI Agents. بعضها تجارب جارية بالفعل، وبعضها مسارات تنظيمية وفنية لا تزال الحكومة تدرس تفاصيلها.
الاستجابة للحوادث قد تصبح أكثر تعقيدًا
ربط الوزير مخاطر وكلاء الذكاء الاصطناعي أيضًا بسرعة وقوع الحوادث، موضحًا أن الأنظمة التي تعمل بتدخل بشري أقل قد تنتقل بين خطوات وأدوات متعددة بسرعة تجعل تتبع ما حدث أصعب. وقد تكون المشكلة أكثر تعقيدًا إذا استخدمت مؤسسة عددًا كبيرًا من الوكلاء المتصلين بأنظمة وبيانات حساسة.
وتعمل الحكومة البريطانية مع المركز الوطني للأمن السيبراني ومعهد أمن الذكاء الاصطناعي على دراسة كيفية الاستجابة للحوادث الكبيرة التي تشمل الوكلاء. وتشمل الأسئلة التي طرحها الوزير معرفة المهمة التي تلقاها النظام، والمعلومات التي وصل إليها، وسبب اختياره إجراء معينًا، وما إذا كان الخلل نفسه يمكن أن يتكرر في أنظمة أخرى.
وتختلف هذه المتطلبات عن الاكتفاء بتسجيل أن مستخدمًا ضغط على زر داخل تطبيق. فإعادة بناء تسلسل قرارات وكيل نفذ خطوات متعددة تحتاج إلى سجلات واضحة للعمليات والصلاحيات والأدوات التي استخدمها طوال المهمة.
هل دعا الوزير المواطنين إلى عدم استخدام AI Agents؟
لا يتضمن الخطاب الحكومي دعوة صريحة للمواطنين إلى الامتناع عن استخدام وكلاء الذكاء الاصطناعي. كما أن التصريح صدر عن كانيشكا نارايان، وزير الدولة البريطاني لشؤون الذكاء الاصطناعي، وليس عن وزير الدفاع. ركز حديثه على الاستعداد الوطني للحوادث وتعزيز مسؤولية مطوري الأنظمة المتقدمة والجهات التي تستخدمها.
وفي الرسالة الموجهة إلى شركات التطوير، دعا الوزير إلى الإصغاء للتحذيرات الأمنية التي يقدمها الباحثون، والتحقيق في السلوك غير المتوقع، وعدم إطلاق الأنظمة عندما يتعذر التحكم في مخاطرها بصورة كافية. وهذا موقف يتعلق بإجراءات التطوير والنشر والاختبار، وليس قرارًا حكوميًا بمنع استخدام التطبيقات القائمة.
ما الذي يمكن للمستخدم والشركات فعله؟
رغم أن الإعلان البريطاني يستهدف أساسًا السياسات العامة والأمن السيبراني، فإن مناقشة مخاطر وكلاء الذكاء الاصطناعي تبرز أهمية إجراءات عملية عند توصيل أي وكيل بحسابات حقيقية. ولا ينبغي فهم هذه الإجراءات بوصفها تعليمات أصدرها الوزير للمواطنين؛ إنها احتياطات تقنية يمكن تطبيقها بحسب حساسية المهام والصلاحيات.
- منح الوكيل أقل قدر من الصلاحيات اللازمة لإنجاز المهمة.
- اشتراط موافقة بشرية قبل إرسال بيانات حساسة أو حذف ملفات أو تنفيذ معاملات مالية.
- تجنب إعطاء الوكيل كلمات مرور أو مفاتيح وصول لا يحتاج إليها.
- الاحتفاظ بسجل للعمليات التي ينفذها داخل الخدمات المتصلة.
- إيقاف الوصول إلى الأدوات عند ملاحظة تصرف غير متوقع والتحقق من النتائج قبل إعادة التشغيل.
وسبق أن تناول سوالف سوفت إضافة الموافقة البشرية للمهام الحساسة في Copilot Studio، وهي فكرة تقوم على إيقاف بعض الإجراءات حتى يوافق عليها مستخدم مخول. كما شرحنا منصة NVIDIA Open Agent Safety التي تستهدف فرض حدود أمنية على عمل الوكلاء المستقلين.
لماذا يأتي التحذير في أكتوبر 2026؟
صدر الخطاب في وقت توسعت فيه قدرات الأنظمة المتقدمة على تنفيذ المهام واستخدام الأدوات بصورة أكثر استقلالية. وفي 12 أكتوبر أعلنت الحكومة البريطانية أنها تريد الجمع بين الاستفادة من هذه القدرات لتعزيز خدماتها وبين الاستعداد للتهديدات التي قد تنشأ عنها، خصوصًا في القطاعات الأساسية مثل المستشفيات والمرافق العامة.
وتضع مخاطر وكلاء الذكاء الاصطناعي تحديًا مختلفًا أمام المؤسسات: فالتأكد من أن النموذج يعطي إجابة صحيحة لا يكفي إذا كان قادرًا على تنفيذ أفعال خارج حدود الإذن الممنوح له. لذلك يصبح ضبط الصلاحيات وتتبع الإجراءات وإمكانية الإيقاف والمراجعة البشرية جزءًا من تصميم الأنظمة، وليس مجرد مرحلة اختبار تسبق إطلاقها.
وتؤكد الواقعة الأسترالية، كما وصفها الوزير، أن حسن نية المهمة الأصلية لا يضمن وحده سلامة جميع الخطوات التي يتخذها الوكيل. وفي المقابل، لا توجد في المعلومات الرسمية المعروضة أدلة تسمح بتضخيم الحادث إلى اختراق واسع للسجلات الصحية.
الرسالة الأساسية للخطاب البريطاني هي ضرورة الاستعداد لمرحلة تستطيع فيها الأنظمة الذكية تنفيذ المزيد من الإجراءات، مع احتمال أن تتحول أخطاء التحكم والصلاحيات إلى حوادث حقيقية. ولهذا أعلنت الحكومة خططًا تتعلق بالكشف المبكر والاستجابة والتقييم الأمني، دون إصدار حظر عام على استخدام وكلاء الذكاء الاصطناعي.
لا يسمح بنقل هذا المحتوى من سوالف دون الاشارة برابط مباشر
