كيف تضبط غوغل استخدامات الذكاء الاصطناعي في عصر التزييف العميق

تستثمر غوغل مليار دولار سنويا في الثقة والأمان، حسبما قالت مديرة قسم الثقة والأمان بالشركة أماندا ستوري (لينكد إن) في مقابلة مع نشرة إنتربرايز الإمارات الصباحية في دبي. تزعم دعاوى قضائية ضد شركات الذكاء الاصطناعي في الوقت الحالي أن تلك التقنيات تسببت في انتحار أطفال ومراهقين، كما تغلغل استخدام الذكاء الاصطناعي في نسيج حياتنا اليومية، مما يجعل مسائل الثقة والأمان على الإنترنت أكثر أهمية وإثارة للجدل من أي وقت مضى.

يعمل مئات المهندسين خلف الكواليس في غوغل لجعل العالم الرقمي آمنا للمستخدمين، بل وزيادة مدى أمانه، فيركزون على مسائل متنوعة منها كيفية متابعة وضمان سلامة سلوك المستخدمين دون سن 18 عاما، ومنع عمليات الاحتيال وانتشار التزييف العميق. ويترافق ذلك مع الجهود المبذولة بالتعاون مع الهيئات التنظيمية والجهات الحكومية التي تحاول تنظيم قطاع الذكاء الاصطناعي بينما يتطور يوما بعد يوم، كمن يبني طائرة في أثناء تحليقها في السماء.

ولا يقتصر الأمر على متابعة سلوك المستخدمين على الإنترنت واستخدامهم للذكاء الاصطناعي، بل يشمل أيضا ضمان أن يكون لكل منطقة ضوابطها الخاصة التي تتماشى مع قوانينها وثقافتها. ففي الشرق الأوسط مثلا، إلى جانب التعامل مع عدد لا يحصى من عمليات الاحتيال عبر الإنترنت كما هو الحال في جميع أنحاء العالم، يجب على غوغل أيضا أن تضمن حجب الإعلانات التي تتعارض مع القوانين أو اللوائح المحلية في المنطقة، كالإعلانات المتعلقة بالمقامرة والكحوليات على سبيل المثال، حسبما أوضحت ستوري.

لكن الإنترنت أصبح مساحة معقدة للغاية، تضم العديد من الأطراف، الجيد منها والسيئ. هذا يعني أنه لا يمكن لشركة واحدة أن تخوض المعركة بمفردها، وأن هناك حاجة إلى حلول جديدة ومبتكرة لمنع المواقف الخطرة وعمليات الاحتيال. لذا يعمل فريق ستوري الضخم في غوغل على تمهيد الطريق لبعض من هذه المبادرات، والتي تشمل مشروعات تعليمية، وإنشاء مركز عالمي لتبادل ومشاركة مؤشرات الاحتيال. شرحت لنا ستوري كل هذا بالتفصيل في حوارنا. وفيما يلي مقتطفات محررة من الحوار:

إنتربرايز: بداية، ماذا يعني مصطلحا الثقة والأمان في العالم الرقمي؟ وهل تغير معناهما مع التطور السريع للذكاء الاصطناعي؟

أماندا ستوري: أرى أن هذه المسألة تجمع بين الفلسفة ونهج سيكس سيغما. الفلسفة فيه تتعلق بوضع السياسات، وتحديد نوع المحتوى والسلوك المقبولين في منتجاتنا وخدماتنا، وما لن نسمح به منهما، سواء عمليات الاحتيال، أو نشر صور إباحية للمستخدمين دون رضاهم، أو طرح تطبيقات تحتوي على برامج ضارة. أما نهج سيكس سيغما فيتعلق بالتنفيذ الفعلي لتلك السياسات بسرعة، وعلى نطاق واسع، وبجودة عالية.

يتطلب ذلك متابعة وتحسينا مستمرين، لأن ذوي الأغراض الخبيثة دائما ما يبتكرون ويحاولون تجنب الرصد، ويبدعون للغاية في محاولاتهم لإساءة استخدام الأنظمة.

في عام 2024، حذفنا 450 مليون إعلان وعلقنا 5 ملايين حساب من حسابات المعلنين تحديدا بسبب عمليات الاحتيال. ومثلت لنا إعلانات الاحتيال باسم المشاهير بالأخص مشكلة، فعلقنا نحو 700 ألف حساب مخالف في عام 2024 بسبب هذا النوع من إساءة الاستخدام فقط. وشهدنا انخفاضا بنسبة 90% في بلاغات المستخدمين فيما يتعلق بهذا النوع من الاحتيال، مما يشير إلى أن الأدوات التي نستخدمها فعالة، وهذا مشجع حقا.

نقوم بهذا العمل في غوغل منذ 25 عاما حتى الآن. وأعتقد أننا نستثمر نحو مليار دولار سنويا في أعمال الثقة والأمان. لقد ترسخ في أعمالنا منذ البداية أن المستخدمين لن يثقوا بنا ما لم نوفر لهم الأمان، وأننا لن نستطيع النمو ما لم نحظ بثقتهم.

إنتربرايز: هل أدى الذكاء الاصطناعي إلى تفاقم أو ظهور صور إشكالية معينة من المحتوى اضطرت غوغل إلى التعامل معها في السنوات الأخيرة؟

أماندا ستوري: ما زلنا نلاحظ الكثير مما نسميه الصور التقليدية لإساءة الاستخدام، والتي ذكرنا بعضها سابقا، وتتفاقم أزمتها حاليا بسبب الذكاء الاصطناعي، لكننا لا نرصد حقا زيادة كبيرة في ظهور الحالات الجديدة لإساءة الاستخدام بسبب الذكاء الاصطناعي.

صحيح أننا نلاحظ سلوكيات احتيالية قائمة على الذكاء الاصطناعي، لكننا نعاني من مشاكل الاحتيال بالفعل منذ سنوات عديدة. نعم علينا تطوير سياساتنا وآليات الرصد لدينا لمواكبة الإمكانات الجديدة التي يتيحها الذكاء الاصطناعي، لكن صور إساءة الاستخدام وطرقها لم تشهد تغيرا جوهريا.

وسهلت أدوات الذكاء الاصطناعي كذلك تصميم الصور الإباحية للمستخدمين دون رضاهم، لذلك كان علينا مراجعة سياساتنا لمنع الوصول إلى ذلك النوع من الأدوات. فاتخذنا إجراءات على متجر التطبيقات ومحرك البحث لنصعب بشدة الوصول إلى أنواع التطبيقات أو المواقع التي تسمح للناس بإنشاء تلك الصور. ولدينا أيضا سياساتنا الحالية التي تقضي بإزالة هذه الصور عند رصدها.

إنتربرايز: ما رأيك في المشهد التنظيمي الحالي للذكاء الاصطناعي؟ وكيف تتكيف غوغل مع التغييرات المستمرة في اللوائح التنظيمية بينما تطور الدول أطرها التنظيمية للقطاع؟

أماندا ستوري: أعتقد أننا بدأنا نشهد خطوات فعلية على الصعيد التنظيمي. لدينا نحو 100 ملف تنظيمي متعلق بالذكاء الاصطناعي الآن حول العالم، وأُقر قانون للذكاء الاصطناعي في الاتحاد الأوروبي، لذا نحرص على التواصل عن كثب مع الهيئات التنظيمية.

وتبذل الإمارات تحديدا جهدا كبيرا يجعلها من رواد تنظيم المجال، خاصة في المنطقة، وفي طليعته بشكل عام ليس فقط من الناحية التنظيمية. فنلاحظ هنا اهتماما بالبنية التحتية، واستثمارات في البحث والتطوير محليا، وتشجيعا على الابتكار والاستعانة بأدوات الذكاء الاصطناعي.

نوضح دائما أننا نرى مجال الذكاء الاصطناعي مهم إلى درجة تستلزم خضوعه للتنظيم، بل إن أهميته البالغة تتطلب العناية بلوائحه التنظيمية. وأعتقد أن أحد الاتجاهات المثيرة للاهتمام التي نراها على الصعيد التنظيمي هو أن الحكومات تحاول تنظيم المجال إلى حد ما كما تفعل مع قطاع الأجهزة الطبية، فتركز على إخضاع الجهاز نفسه للتنظيم، بدلا من نتائجه أو حالات استخدامه.

وفي رأيي فمن المهم أن نتحقق من حالات الاستخدام، وألا نحد من تقنيات يمكن توظيفها لتحقيق خير كبير للمجتمع، سواء لأغراض الرعاية الصحية أو تغير المناخ أو الإنتاجية الاقتصادية. صحيح أن المجال يتطلب الكثير من النقاش والتعاون لتنظيمه على النحو السليم، لكننا ملتزمون بالسعي إلى ذلك على المدى الطويل.

إنتربرايز: أخبرينا قليلا عن الجانب التعليمي في الثقة والأمان الرقميين. ما أبرز المبادرات التعليمية المتعلقة بالذكاء الاصطناعي التي تعمل غوغل على تنفيذها حاليا؟

أماندا ستوري:لدينا برنامج يسمى أبطال الإنترنت لتدريب الأطفال على الحفاظ على سلامتهم على الإنترنت، بدأناه في عام 2018، ودربنا من خلاله أكثر من 500 ألف طفل. وهناك أيضا برنامج رحلة الذكاء الاصطناعي (Experience AI)، وهو تعاون بين رازبيري باي وغوغل ديب مايند، يهدف حقا إلى تعليم الطلاب كيفية استخدام الذكاء الاصطناعي في رحلتهم التعليمية. وقدمنا أيضا منحة لمنظمة فيليدج كابيتال غير الربحية، لتعزيز مهارات الذكاء الاصطناعي للعاملين الذين يعانون نقصا في الخدمات بالمناطق الريفية في الإمارات والسعودية ومصر، من بين دول أخرى. وهذا جهد خيري رائع حقا، لأن الذكاء الاصطناعي يمكن أن يكون وسيلة قوية لتمكين الناس لإنجاز ما يريدون في العالم الحقيقي.

تتعلق الثقة والأمان بالأساس بمصدر المعلومات، ومساعدة الناس على فهم ما عليهم أن يبحثوا عنه عند تقييم المصادر. ولدينا في هذا الصدد حل "سينث آي دي" SynthID، وهو في الأساس علامة مائية صغيرة توضع على أي منتج بالذكاء الاصطناعي من خلال أدواتنا. كما أننا جزء من ائتلاف مصداقية وأصالة المحتوى (C2PA)، الذي يوفر معيارا للمصادر ساعدنا في تطويره ينطبق على المجال بأكمله.

إنتربرايز: ما الذي تعمل عليه غوغل حاليا في مجال الأمان والثقة الرقميين؟ هل هناك أي حلول أو منتجات جديدة تتشوقون لطرحها؟

أماندا ستوري: أعتقد أن من المجالات المهمة حقا كيفية إدارة استخدام الأطفال والمراهقين المتزايد لمنتجات الذكاء الاصطناعي. هذا أمر بالغ الأهمية، فمع أننا في غوغل لدينا سجل طويل من دراسة الأضرار المحتملة في الحياة الواقعية من خلال فرق الثقة والأمان، هناك شركات أخرى رائدة تطور نماذج ذكاء اصطناعي لكنها ما زالت تحتاج إلى اكتساب تلك الثقافة.

نطبق دائما سياسات افتراضية لتوفير مستوى أعلى من الحماية للمستخدمين دون سن 18 عاما، مثل تحويل حساباتهم على يوتيوب تلقائيا إلى حسابات خاصة، أو إيقاف تسجيل الموقع الجغرافي لهؤلاء المستخدمين. هذه الميزات الهادفة إلى الأمان مهمة حقا، لكن في مجال الذكاء الاصطناعي تختلف بعض تجارب الاستخدام.

فتطبيقاتنا الحالية للدردشة الآلية عليها أن ترصد ما إذا كان هؤلاء المستخدمون يكتبون شيئا عبر منتجاتنا يتضمن مثلا أفكارا أو نوايا انتحارية، لتقدم لهم في تلك الحالة موارد للدعم في الواقع. وهذا موقف خطير للغاية بالنسبة لهؤلاء الأطفال والصغار أثناء التفاعل مع الذكاء الاصطناعي.

ومنذ بداية رحلتنا في مجال الذكاء الاصطناعي، يعمل خبراؤنا المعنيون بسلامة الأطفال ضمن فريق الثقة والأمان على اختبار السيناريوهات الخطرة بالنسبة لتلك المنتجات قبل طرحها، فيحاولون توجيه النموذج كما قد يفعل الطفل للوصول إلى سيناريوهات السلوكيات المسيئة المعتادة التي قد يتعرض لها، ما يتيح لنا اختبار منتجاتنا في ظل هذه الظروف قبل طرحها.

ثم تأتي سياساتنا للاستخدامات المحظورة، والتي تحظر ببساطة حالات استخدام معينة بالنسبة لأدوات الذكاء الاصطناعي، مثل إنتاج مواد الاعتداء على الأطفال أو صور حميمية للمستخدمين دون رضاهم، على سبيل المثال. المفتاح هنا هو جانب الرقابة، أي القدرة على الرصد حين يستخدم الأداة شخص ما على نحو محظور، وبالتالي نتمكن من التصرف.

إنتربرايز: هل هناك أي شراكات أو مبادرات أوسع على مستوى المنظومة ككل تعتقدين أنها ستساعد في تغيير المشهد في السنوات القليلة المقبلة؟

أماندا ستوري:المشكلات مثل عمليات الاحتيال صعبة الحل حقا، لأن كل منصة، سواء كانت بنكا أو شركة اتصالات أو غير ذلك، ترى فقط جزءا معينا من رحلة المستخدم. لا أحد لديه الصورة الكاملة. وإذا مر شيء ما عبر إحدى منصاتنا ثم إلى خارج الإنترنت، أو إلى منصة مختلفة أو مكالمة هاتفية أو معاملة ما، فمن الصعب جدا رصده كعملية احتيال.

لذا أسسنا شهر أكتوبر العام الماضي مبادرة للمشاركة العالمية للمؤشرات مع التحالف العالمي لمكافحة الاحتيال (GASA)، بهدف تجميع كل تلك المؤشرات معا من خلال مركز تبادل عالمي يضم كيانات مختلفة. لدينا الآن 300 شريك على المنصة، وتبادلنا نحو 500 مليون مؤشر. ونتعاون من خلالها أيضا مع جهات لإنفاذ القانون وحكومات، حتى نتمكن جميعا من رصد عمليات الاحتيال بسرعة أكبر.