Anthropic أطلقت تجربة جديدة لميزة داخل متصفح كروم تتيح لوكيلها Claude أن يعيش داخل المتصفح. الميزة متاحة حالياً لمجموعة محدودة من 1000 مشترك في خطة Max (تكلفتها تتراوح بين 100 و200 دولار شهرياً)، مع فتح انتظار لمستخدمي تلك الخطة المهتمين.
عندما تضيف الامتداد إلى كروم، يظهر Claude في نافذة جانبية تتبع سياق نشاطك في المتصفح. يمكنك إعطاؤه إذنًا للقيام بمهام نيابةً عنك، مثل النقر على أزرار أو ملء نماذج.
الآن المتصفحات تحولت إلى ساحة تنافس جديدة بين مختبرات الذكاء الاصطناعي. Perplexity أطلقت متصفح Comet ومؤخرًا OpenAI تقترب من إصدار متصفح مدعوم بالذكاء. جوجل أيضًا دمجت Gemini داخل Chrome.
لكن هذه القدرات تأتي مع مخاطر. Anthropic حذرت من هجمات “حقن التعليمات” الخفية (prompt injection)، حيث تعليمات خبيثة مخفية في صفحات الويب تخدع Claude لتنفيذ أوامر قد تكون خطرة.
في تجاربها، خضعت Claude لـ 123 سيناريو هجوم تعليمات، وبدون إجراءات حماية، نجحت تلك التعليمات في 23.6٪ من الحالات. مثال فعلي: بريد إلكتروني خبيث يبدو كرسالة أمان من صاحب العمل يطالب بحذف الرسائل، فاستجاب Claude بدون تأكيد.
لتقليل المخاطر، وضعت Anthropic عدة طبقات أمان:
- صلاحيات على مستوى المواقع تتيح لك التحكم في إمكانية الوصول.
- تأكيد من المستخدم قبل تنفيذ إجراءات عالية الحساسية مثل النشر أو الشراء أو مشاركة بياناتك.
- حظر افتراضي لمواقع في فئات عالية الخطورة مثل الخدمات المالية، المحتوى البالغ، والمواقع المنتهكة لحقوق الطبع.
- تطوير مصنّفات ذكية تكشف أنماط تعليمات مشبوهة داخل محتوى يبدو شرعيًا.
بفضل هذه التدابير، انخفض معدل نجاح الهجمات من 23.6٪ إلى 11.2٪. أما في السيناريوهات الخاصة بخطر في المتصفح، مثل حقن في حقول النماذج غير المرئية أو ألقاب الصفحات، فقد تم تقليص النجاح من 35.7٪ إلى الصفر.
الشركة الآن في مرحلة مراجعة أوسع للتجربة، مستهدفة الحصول على ملاحظات من مستخدمين موثوقين لتطوير النموذج وتعزيز الأمان قبل طرحه على نطاق أوسع مستقبلاً.
لا يسمح بنقل هذا المحتوى من سوالف دون الاشارة برابط مباشر
