كشفت منصة Character.AI، الرائدة في مجال الدردشة ولعب الأدوار باستخدام شخصيات مُولّدة بالذكاء الاصطناعي، كشفت يوم أمس الثلاثاء عن نموذجها المُرتقب لإنشاء مقاطع الفيديو، AvatarFX.
يتوفر هذا النموذج في نسخة تجريبية مغلقة، ويُحرّك شخصيات المنصة بمجموعة متنوعة من الأنماط والأصوات، من شخصيات تُشبه البشر إلى رسوم متحركة ثنائية الأبعاد للحيوانات.
يتميز AvatarFX عن منافسيه مثل Sora من OpenAI بأنه ليس مُجرّد مُولّد نصوص إلى مقاطع فيديو. بل يُمكن للمستخدمين أيضًا إنشاء مقاطع فيديو من صور موجودة مسبقًا، مما يسمح لهم بتحريك صور أشخاص حقيقيين.
جديد من منصة Character.AI
يتضح جليًا كيف يُمكن استغلال هذا النوع من التقنيات لأغراض الإساءة – حيث يُمكن للمستخدمين تحميل صور المشاهير أو أشخاص يعرفونهم في الحياة الواقعية وإنشاء مقاطع فيديو واقعية يظهرون فيها أفعالًا أو أقوالًا تُدينهم. تقنية إنشاء مقاطع فيديو مُزيفة عميقة مُقنعة موجودة بالفعل، لكن دمجها في منتجات استهلاكية شائعة مثل Character.AI يُفاقم احتمالية استخدامها بشكل غير مسؤول.
تُواجه Character.AI بالفعل مشاكل تتعلق بالسلامة على منصتها. رفع آباء دعاوى قضائية ضد الشركة، زاعمين أن روبوتات الدردشة الخاصة بها شجعت أطفالهم على إيذاء أنفسهم، أو الانتحار، أو قتل والديهم.
في إحدى الحالات، انتحر صبي يبلغ من العمر 14 عامًا بعد أن ورد أنه أقام علاقة هوسية مع روبوت ذكاء اصطناعي على منصة Character.AI، مستوحى من شخصية من مسلسل “صراع العروش”. قبل وفاته بفترة وجيزة، أخبر الروبوت عن أفكار انتحارية تراوده، فشجعه الروبوت على المضي قدمًا في حياته، وفقًا لملفات المحكمة.
لا يسمح بنقل هذا المحتوى من سوالف دون الاشارة برابط مباشر
