الجحيم هو: مقاطع فيديو منتجة بواسطة سورا 2

?️ من ويل سميث المشوه إلى فيديوهات يستحيل التحقق منها في عامين؟ قبل سنتين فحسب، كانت مقاطع الفيديو المولدة بالذكاء الاصطناعي تبدو باهتة وبعيدة تماما عن الكمال. هل تذكرون المقطع الذي انتشر لويل سميث وهو يلتهم المكرونة السباجيتي؟ كان وجه سميث يبدو مشوها، وأصابعه تتداخل مع المكرونة في مشهد عبثي تماما، ووقتها ظن الجميع أن الذكاء الاصطناعي أمامه سنوات طويلة كي يكون قادرا على إنتاج فيديوهات سليمة، لكن الزمن أثبت أن هذا لم يكن صحيحا.

**لينكات إنتربرايز فقط تظهر على الإيميل، اضغط على عنوان الفقرة بالأعلى لقراءتها مصحوبة بكل الروابط**

هل شاهدتم فيديوهات سورا؟ في نهاية سبتمبر الماضي، أطلقت أوبن أيه أي النسخة الثانية من تطبيق سورا، والذي يمثل نقلة جبارة في إمكانيات صناعة الفيديو بناء على أوامر كتابية ليس إلا. هذا النموذج أكثر واقعية ودقة من الناحية الفيزيائية، وأكثر قابلية للتحكم من الأنظمة السابقة، حسبما تؤكد الشركة. فتح التحديث الجديد الطريق أمام سيل من المحتوى الملفق والمزعج والمنتهك لحقوق النشر، والذي يحتمل أن يكون خطيرا أيضا، مما يثير مخاوف كبيرة بشأن فعالية إجراءات الحماية التي تتبناها أوبن أيه أي.

فوضى، فوضى، فوضى: في غضون ساعات فقط من طرح التحديث، اكتظت منصات التواصل الاجتماعي بمقاطع فيديو لأشخاص حقيقيين وحتى شخصيات خيالية محمية بحقوق النشر تنخرط في مواقف محرجة ومشاهد عنيفة وعنصرية مرعبة، وفقا لتقرير الجارديان. تضمنت هذه الفيديوهات مشاهد مخيفة تشمل رمي قنابل وإطلاق نار جماعي في حرم الجامعات، ولقطات مفبركة من مناطق حرب في غزة وميانمار، وحتى لقطات من كاميرا مراقبة تظهر الرئيس التنفيذي لأوبن أيه أي سام ألتمان وهو يرتكب جرائم. قفز التطبيق إلى المركز الأول على متجر أبل خلال ثلاثة أيام لا أكثر، رغم إصداره المحدود بالدعوات فقط.

لعل أكثر ما يبين الفراغ الأخلاقي في التطبيق ما فعله المستخدمون مع الفيزيائي الراحل ستيفن هوكينج، والذي يظهر في مقاطع الفيديو المفبركة وهو يتلقى اللكمات والركلات على يد مصارعين وملاكمين محترفين حتى يسقط من على كرسيه المتحرك، وكذلك يدوسه ثور هائج ويهاجمه تمساح. الغريب أن هوكينج نفسه سبق أن انتقد الذكاء الاصطناعي بشدة، مؤكدا أنه قد يكون أسوأ حدث في تاريخ الحضارة الإنسانية.

تنص وثائق السلامة الخاصة بشركة أوبن أيه أي على أنها ستتخذ إجراءات لمنع تصوير الشخصيات العامة، إلا أنها في الوقت نفسه تسمح بإنشاء مقاطع فيديو تحتوي على شخصيات تاريخية، مما يخلق ثغرة قانونية للعبث بصور المشاهير الراحلين. أوضح دليل على فجاجة هذا ما فعلته زيلدا ابنة الممثل والكوميديان الراحل روبن ويليامز، والتي توسلت أمس إلى المستخدمين كي يتوقفوا عن إرسال مقاطع فيديو مولدة بواسطة الذكاء الاصطناعي لوالدها إلى حسابها على إنستجرام، مؤكدة أن هذا "أمر غبي ومضيعة للوقت والطاقة"، وهو ما أيدته بيرنيس كينج ابنة مارتن لوثر كينج الابن.

حماية لا تحمي: ربما يكون الأمر الأكثر مدعاة للقلق هو مدى سهولة التحايل على إجراءات السلامة في سورا 2، وأهمها العلامة المائية، والتي توفر بعض المواقع طرقا لإزالتها بسلاسة وفي ثوان. هناك العديد من الأدوات القادرة على تفكيك البيانات الوصفية المولدة بالذكاء الاصطناعي عن طريق تغيير لون المحتوى وسطوعه، مما يتجاوز حواجز الحماية التي تضعها الشركة، حسبما تذكر خبيرة الأمن السيبراني ريتشل توباك. تحذر توباك من أن إزالة العلامة المائية من المحتوى المولد بالذكاء الاصطناعي قد يؤدي إلى كوارث تشمل خسارة الناس لمدخراتهم في عمليات احتيال، وحرمانهم من حق التصويت في الانتخابات، والتلاعب بأسعار الأسهم، وزيادة التوترات بين الجماعات، وإشعال فتيل العنف أو الذعر.

المشكلة في المستخدمين؟ استقبل الإنترنت سيلا غامرا من مقاطع الفيديو المفبركة التي تحتوي على صور لمواد محمية بحقوق النشر من ديزني وبوكيمون وشركات إعلامية أخرى، لكن أوبن أيه أي تحايلت على المسؤولية القانونية من خلال الانسحاب من المسألة برمتها وإلقاء اللوم على المستخدمين. فقبل إصدار النموذج بوقت قصير، تواصلت الشركة مع وكالات المواهب والاستوديوهات لتنبيههم إلى أنه سيشمل المحتوى المحمي بحقوق النشر ما لم يطلب أصحاب الحقوق استبعاد أعمالهم صراحة، وفق وول ستريت جورنال. وبعد تهديدات باتخاذ إجراءات قانونية، حدثت أوبن أيه أي شروط الاستخدام لتحميل المستخدمين جميع الأعباء واللوم، مبلغة أصحاب حسابات سورا بأنهم مسؤولون عن ضمان عدم انتهاك ما ينتجونه لأي قوانين، وأنهم وحدهم المسؤولون قانونيا عن حدوث أي انتهاكات.

هل تشعر بالمسؤولية وتريد حذف حساب سورا؟ فات الأوان للأسف، ما لم تكن على استعداد لقطع علاقتك بكل منتجات أوبن أيه أي تماما، بما في ذلك تطبيقها الأشهر تشات جي بي تي، لأن حذف حساب سورا يعني بالتبعية حذف حسابك على جي بي تي ومنعك من التسجيل مرة أخرى.