كشفت شركة OpenAI عن الآليات المتطورة التي تعتمدها لحماية وكلاء الذكاء الاصطناعي من الروابط الخبيثة وهجمات حقن الأوامر.
وأوضحت الشركة في تقرير مفصل، أساليبها في “عزل الروابط” باستخدام متصفحات افتراضية، وتطبيق إجراءات صارمة للتحقق من صحة الروابط والبيانات المستخرجة. كما بينت OpenAI استراتيجيتها في “عزل المحتوى” عن التعليمات لمنع “حقن الأوامر”، مع استخدام نماذج ذكاء اصطناعي مدربة خصيصاً لاكتشاف الأنماط المشبوهة.
وتؤكد الشركة التزامها بالشفافية والتعاون مع المجتمع البحثي لتعزيز أمان الذكاء الاصطناعي ومواجهة التهديدات المتطورة باستمرار.
وتتنامي بشكل ملفت الاعتماد على وكلاء الذكاء الاصطناعي لأداء مهام معقدة عبر الإنترنت، مثل البحث عن المعلومات، وتلخيص المستندات، والتفاعل مع خدمات الويب المختلفة نيابة عن المستخدمين. ومع توسع قدرات هذه الأنظمة، تتزايد أيضاً المخاطر الأمنية المرتبطة بها، حيث يسعى المهاجمون لاستغلال أي ثغرة ممكنة للتلاعب بها أو سرقة البيانات الحساسة.
وكلاء الذكاء الاصطناعي تحت حماية OpenAI
أوضحت OpenAI في تقريرها أنها تعتمد على نهج متعدد الطبقات للتعامل مع الروابط الخارجية التي قد يصادفها وكلاء الذكاء الاصطناعي أثناء تصفحهم للويب. وتعتبر تقنية “عزل الروابط” (Link Isolation) هي الركيزة الأساسية لهذا النهج. فعندما يحتاج الوكيل لزيارة رابط معين، لا يتم فتحه مباشرة على النظام الأساسي، بل يتم تحميله داخل بيئة افتراضية معزولة تماماً، تُعرف بـ “المتصفح المعزول” (Sandboxed Browser).
وتعمل هذه البيئة المعزولة كحاجز أمني يمنع أي برمجيات خبيثة أو أكواد ضارة موجودة في الموقع المستهدف من الوصول إلى النظام الرئيسي أو التأثير عليه. ويتم تنفيذ الصفحة داخل هذا “الصندوق الرملي”، ومن ثم يتم استخراج المعلومات المطلوبة فقط، مثل النصوص والصور، وتقديمها للوكيل في تنسيق آمن ونظيف، بعيداً عن أي عناصر نشطة قد تشكل تهديداً.
لا يسمح بنقل هذا المحتوى من سوالف دون الاشارة برابط مباشر
