أعلنت NVIDIA عن منصة أمنية جديدة مخصصة لعصر وكلاء الذكاء الاصطناعي تحمل اسم Open Agent Safety، وتهدف إلى منع الوكلاء المستقلين من تجاوز الصلاحيات أو الوصول إلى ملفات وشبكات وخدمات لم يُسمح لهم باستخدامها. المنصة تجمع بين برنامج OpenShell مفتوح المصدر وطبقة مراقبة مستقلة باسم Sentry تعمل على عتاد NVIDIA، في محاولة لنقل حماية الوكلاء من مجرد تعليمات داخل النموذج إلى حدود أمنية يمكن فرضها من خارج الوكيل نفسه.
الإجابة السريعة
تجمع Open Agent Safety بين OpenShell، الذي يشغّل وكلاء الذكاء الاصطناعي داخل بيئات معزولة ويفرض سياسات على الملفات والشبكات والعمليات وبيانات الاعتماد، وبين NVIDIA Sentry الذي يعمل بصورة مستقلة على BlueField-4 DPU ويراقب سلوك الوكيل من خارج بيئته. وإذا حاول الوكيل تجاوز حدوده، تقول NVIDIA إن Sentry يستطيع عزله وإيقافه خلال أجزاء من الثانية.
لماذا تبني NVIDIA طبقة أمان خارج الوكيل؟
السبب الأساسي هو أن الوكيل الحديث لم يعد مجرد نموذج يجيب عن سؤال. الوكلاء يستطيعون قراءة الملفات، تثبيت الحزم، تشغيل الأكواد، الاتصال بخدمات خارجية واستخدام مفاتيح API وبيانات اعتماد حقيقية. وكلما زادت هذه الصلاحيات، أصبح الاعتماد على تعليمات النظام أو القيود الموجودة داخل التطبيق نفسه غير كافٍ بمفرده.
تقول NVIDIA إن حوادث أمنية حديثة أظهرت نمطًا متكررًا: الوكيل قد يحاول إكمال المهمة حتى عندما تعترضه قيود على مستوى التطبيق، وهو ما قد يدفعه إلى البحث عن طريق آخر لم يكن المقصود السماح به. لذلك صممت الشركة Open Agent Safety على أساس أن الحدود الأمنية يجب أن تكون خارج نطاق سيطرة الوكيل نفسه.
OpenShell يضع كل وكيل داخل Sandbox
المكون الأول هو NVIDIA OpenShell، وهو Runtime مفتوح المصدر منشور بترخيص Apache 2.0. يشغّل OpenShell كل وكيل داخل Sandbox ويتيح للمشغل تحديد ما يمكن للوكيل الوصول إليه عبر سياسات واضحة تشمل الملفات، العمليات، الشبكات، الأدوات وبيانات الاعتماد.
بدل منح الوكيل وصولًا مباشرًا إلى الأسرار، يحتفظ OpenShell ببيانات الاعتماد ويضيفها فقط إلى الطلبات المتجهة إلى نقاط النهاية المسموح بها. كما تمر اتصالات الشبكة عبر فحص للسياسة قبل خروجها من البيئة المعزولة، بينما تفرض ضوابط على مستوى النظام قيودًا على الملفات وSystem Calls التي يستطيع الوكيل استخدامها.
ويضيف OpenShell خطوة أخرى قبل تعديل الصلاحيات: التحقق من أثر التغيير قبل اعتماده. فإذا كان تعديل سياسة ما سيمنح الوكيل وصولًا جديدًا إلى خادم خارجي مع بيانات اعتماد، أو يسمح له باستدعاء API لم يكن مسموحًا سابقًا، يمكن إيقاف التغيير للمراجعة البشرية قبل تطبيقه.
Sentry يراقب من خارج النظام الذي يعمل فيه الوكيل
المكون الثاني في Open Agent Safety هو NVIDIA Sentry، وتصفه الشركة بأنه مراقب مستقل Out-of-Band يعمل على BlueField-4 DPU. الفكرة هنا أن أداة المراقبة لا تعمل داخل البيئة نفسها التي يعمل فيها الوكيل، وبالتالي لا يفترض أن يستطيع الوكيل تعطيلها أو التحايل عليها بالطريقة نفسها التي قد يحاول بها تجاوز حماية داخلية.
يراقب Sentry نشاط الوكيل باستمرار ويطبق السياسات من طبقة منفصلة في العتاد. ووفق NVIDIA، إذا حاول وكيل الخروج عن حدوده البرمجية يمكن للنظام عزله وإيقافه خلال أجزاء من الثانية. ويعتمد Sentry على برمجيات DOCA لفحص الطلبات والاستجابات، والتحقق من هوية الوكيل، وتطبيق سياسات Zero Trust دقيقة على البيانات والأدوات وواجهات API والخدمات.
ثلاث طبقات بدل الاعتماد على النموذج وحده
تقسم NVIDIA بنية الأمان الجديدة إلى ثلاث طبقات مترابطة. الأولى هي التطبيق نفسه بما يحتويه من النموذج والأدوات والبيانات والبرامج المساعدة. الثانية هي Runtime الذي ينظم التنفيذ ويطبق السياسات والمراقبة المستمرة. والثالثة هي البنية التحتية الفعلية من المعالج والشبكة ومسرعات الحوسبة وطبقات الحماية الموجودة في العتاد.
الفكرة أن Open Agent Safety لا تحاول جعل النموذج أكثر التزامًا بالتعليمات فقط، بل تفترض أن الوكيل قد يخطئ أو ينحرف عن المهمة، ثم تبني حدودًا تمنع الخطأ من التحول إلى وصول غير مصرح به أو تسريب بيانات أو تنفيذ خارج النطاق المحدد.
ما المقصود بانحراف الوكيل؟
تستخدم NVIDIA مصطلح Drift لوصف الأفعال التي تبتعد عن المهمة أو القيود التي وضعها المشغل. وقد يحدث ذلك بسبب تعليمات غامضة، أو أداة مفقودة، أو خطأ في البرنامج، أو لأن الوكيل يعمل لساعات أو أيام في مهمة صعبة ويبدأ في تجربة مسارات لم تكن متوقعة.
وترى NVIDIA أن هذه المشكلة لا يمكن حلها بالاعتماد على التدريب وحده مع الحفاظ على قدرات الوكلاء المتقدمة. لذلك تطرح خمسة مبادئ أساسية: أن تكون السياسة قابلة للتحقق، وأن يكون التنفيذ الأمني خارج نطاق الوكيل، وأن تصبح الطريق إلى النموذج نقطة تحكم، وأن تزيد قابلية الفحص كلما زادت صلاحيات الوكيل، وأن تتوزع المسؤولية بين مختبرات النماذج والمؤسسات ومقدمي العتاد.
الشركات بدأت بالفعل في دمج المنصة
تقول NVIDIA إن أكثر من 100 جهة تعمل مع تقنيات المنصة. وتشمل القائمة Anthropic وMicrosoft وSalesforce وSAP وRed Hat وCisco وCrowdStrike وHugging Face وJPMorganChase وPalantir وPerplexity وServiceNow وغيرها، إلى جانب شركات تعمل في الروبوتات والبنية التحتية والطاقة.
ومن الأمثلة الرسمية أن Salesforce دمجت OpenShell مع Slack بحيث يمكن للفرق رؤية نشاط الوكلاء وأحداث التدقيق والموافقة أو الرفض على طلبات الصلاحيات الإضافية. كما تعمل SAP على دمج OpenShell مع Joule Studio، بينما تستخدم SpaceXAI المنصة مع وكلاء Cursor ونماذج Grok.
الروبوتات تدخل ضمن الصورة أيضًا في Open Agent Safety
لا تقتصر Open Agent Safety على وكلاء البرمجيات الذين يعملون داخل الحاسوب. NVIDIA تضع الروبوتات والأنظمة المستقلة ضمن البنية نفسها، لأن الوكيل عندما يستطيع تنفيذ فعل في العالم الحقيقي تصبح نتائج تجاوز الحدود أكثر حساسية من مجرد الوصول إلى ملف أو API.
وتشير الشركة إلى أن جهات تعمل في الروبوتات مثل Figure وGecko Robotics وSkild AI تبني باستخدام OpenShell لإضافة ضوابط إلى الأنظمة المستقلة. وهذا يفسر لماذا تصمم NVIDIA المنصة من البرمجيات وصولًا إلى السيليكون بدل تقديم مكتبة برمجية منفصلة فقط.
OpenShell متاح الآن كمشروع مفتوح المصدر
المكون البرمجي OpenShell متاح حاليًا بصورة عامة، ويمكن تشغيله على Linux وmacOS بأجهزة Apple Silicon، مع دعم تجريبي لـWindows عبر WSL 2، إضافة إلى Docker أو Podman أو بيئات افتراضية. كما يستطيع المطور مراجعة الكود والسياسات مباشرة عبر GitHub.
ويظهر المستودع الرسمي وقت إعداد الخبر بأكثر من 8 آلاف نجمة، كما تؤكد NVIDIA أن OpenShell قابل للتمديد ليعمل مع منصات حوسبة من أطراف أخرى، بما في ذلك Arm وIntel، أي أن الفكرة ليست مقصورة بالكامل على أجهزة NVIDIA رغم أن التكامل الأعمق مع Vera وBlueField-4 يبقى جزءًا أساسيًا من التصميم المرجعي.
لماذا Vera وBlueField-4 مهمان هنا؟
يعمل OpenShell بكفاءة على معالجات NVIDIA Vera المصممة لأحمال وكلاء الذكاء الاصطناعي، بينما يضيف BlueField-4 طبقة مستقلة للمراقبة والتنفيذ عبر Sentry. وفي أنظمة Vera Rubin POD، يوجد BlueField-4 في مسار اتصال الوكيل بالنموذج، ما يجعله نقطة يمكن من خلالها مراقبة الحركة وفرض السياسة دون الاعتماد على البرنامج الذي يشغّل الوكيل نفسه.
وتقول NVIDIA إن الأنظمة التي تستخدم بالفعل Vera مع BlueField-4 تستطيع تفعيل هذه الحماية من خلال تحديث برمجي، وهو ما قد يجعل تبني المنصة أسهل داخل مراكز البيانات التي تعتمد بنية الشركة.
ماذا يعني هذا لمستقبل وكلاء الذكاء الاصطناعي؟
كلما أصبح الوكيل قادرًا على تنفيذ مهام طويلة دون إشراف مباشر، تصبح مشكلة الأمان أقرب إلى مشكلة نظام تشغيل وصلاحيات منها إلى مشكلة Prompt فقط. وهذا ما تحاول NVIDIA ترسيخه: لا يجب أن تثق بالوكيل لمجرد أنه مدرب على اتباع التعليمات، بل يجب تحديد ما يستطيع الوصول إليه وفرض هذه الحدود بطبقة مستقلة.
وكانت سوالف قد شرحت سابقًا كيف تنسق أنظمة الوكلاء المتعددة المشاريع بدون بشر، وهو نوع من السيناريوهات الذي يجعل تحديد الصلاحيات والمراقبة أكثر أهمية مع ارتفاع عدد الوكلاء والأدوات التي يمكنها الوصول إليها.
يمكن مراجعة إعلان NVIDIA الرسمي عن Open Agent Safety Platform، كما يتوفر مشروع OpenShell الرسمي على GitHub للمطورين الراغبين في تجربة بيئة التشغيل والسياسات بأنفسهم.
لا يسمح بنقل هذا المحتوى من سوالف دون الاشارة برابط مباشر
