أعرب آباء ثكالى عن شعورهم بالاشمئزاز من انتشار مقاطع فيديو مزعجة على منصة تيك توك منتجة باستخدام تقنية الذكاء الاصطناعي لإظهار أطفال حقيقيين راحوا ضحية جرائم قتل.
تظهر تلك المقاطع، التي صُنعت بدون موافقة الأقارب، نسخ ذكاء اصطناعي للأطفال، وبعضهم رضّع، وهم يتحدثون عن الطريقة التي قتلوا بها.
منذ أبريل/نيسان الماضي تقريبا، نُشر العديد من مقاطع الفيديو المنتجة باستخدام أجهزة كمبيوتر، على تيك توك، رغم أن الشركة كانت قد أعلنت في مارس/آذار حظر بث نسخ ذكاء اصطناعي لأطفال حقيقيين.
بيد أن تحقيقا أجرته بي بي سي توصل إلى دليل يشير إلى أنه ربما كان هناك بعض الالتباس بين موظفي تيك توك بشأن سياسة المنصة.
وأخبر أحد مراقبي المحتوى بتيك توك بي بي سي أنه رغم مرور أربعة شهور على إصدار الحظر، فإن الشركة لم تكن قد أخبرته بعد بتغيير القواعد.
وبقيت مقاطع فيديو تصور الضحايا باستخدام الذكاء الاصطناعي على المنصة لعدة أشهر، وقد حقق بعضها ملايين المشاهدات.
وقد أدان الأقارب الثكالى في عدة دول النسخ المنتجة بتقنية الذكاء الاصطناعي لأعزائهم المقتولين والتي ظهرت على شبكة الإنترنت.
وتقول البارونة بيبان كيدرون، وهي عضوة مستقلة بمجلس اللوردات بالبرلمان البريطاني، إن مقاطع الفيديو تلك من الممكن أن تثير حزن وإزعاج الأسر الثكلى على وجه الخصوص لأنها تحتوي على نسخ رقمية لأقاربهم الراحلين الذين يبدون وكأنهم يحكون قصتهم.
وتضيف: “إذا كانت تربطك صلة بذلك الطفل، لاسيما إذا كنت أحد أبويه أو واحدا من أفراد أسرته، فإن ذلك إذن بمثابة [تعرضك] لهجوم، هجوم عاطفي”.
“أسوأ من أسوأ لكمة”
لم تمض فترة طويلة على ظهور مقاطع الفيديو تلك حتى شرع أقارب بعضهم في التعبير عن مشاعرهم. من بين أول من تحدثوا، سيدة كندية تدعى أميلي ليميو.
في يوليو/تموز عام 2020، قُتلت ابنتاها – رومي ذات الستة أعوام ونورا التي كانت تبلع من العمر 11 عاما – على يد زوجها الذي كانت منفصلة عنه، والذي انتحر بعد قتل ابنتيه.
في أبريل/نيسان من العام الحالي، أصيبت ليميو بالذعر عندما أٌرسل إليها مقطع فيديو يحتوي على نسخة ذكاء اصطناعي لنورا وهي تتحدث عن جريمة قتلها هي وأختها.
تقول ليميو: “كان ذلك أسوأ من تلقي أسوأ لكمة ممكن أن تتخيلها”.
“لم أتمكن من مشاهدته حتى النهاية، ولم يتمكن أخي من مشاهدته هو الآخر. كان يصرخ مطالبا بوقفه”.
كانت ليميو قلقة بوجه خاص من احتمال أن يشاهد بنات أو أبناء إخوتها الصغار عن طريق الصدفة مقطع فيديو لابنة عمتهم المتوفاة بينما يتصفحون تيك توك.
ورغم أن العديد من الأشخاص أبلغوا عن الفيديو، إلا أنه ظل متاحا على تيك توك. وأخيرا، وبعد سلسلة من المقابلات الإعلامية التي أجرتها ليميو للإعراب عن فزعها، أُوقف الحساب مجهول الهوية الذي كان قد بث الفيديو على المنصة.
لم تتمكن ليميو من اكتشاف الشخص الذي صنع الفيديو، لكنها مشمئزة من تصرفاته.
تقول: “إنه شيء صادم بصورة لا يمكن وصفها، أن يستخدم شخص ما شيئا مزعجا للغاية، شيئا سيترك بداخلنا شعورا بالفقد حتى آخر العمر”.
“كل ما يريدونه هو المشاهدات، والإعجابات والمشاركات، والأشخاص الذين يتركون تعليقات أسفل الفيديو. شخصيا، لا أستطيع أن أغفر لهم هذا التصرف”.
تقنية جديدة
ما جعل تصميم مقاطع الفيديو تلك ممكنا هو كون برمجيات الذكاء الاصطناعي متاحة بشكل متزايد على شبكة الإنترنت.
فقد بات ممكنا الآن تصميم صورة متحركة لبشر وإعطاؤها نصا تقرأه بصوت من إنتاج الكمبيوتر.
بعض الوجوه في مقاطع فيديو الضحايا لا يشبه الشخص الحقيقي، لكن البعض الآخر يستند إلى صور حقيقية لهم.
الأشخاص الذين يصنعون تلك المقاطع عادة ما يظلون مجهولي الهوية. لكن بي بي سي حددت هوية أحد صناع ذلك المحتوى، وهو طالب من لندن يدعى ريتول (Ritul).
على قناته على موقع يوتيوب، يروج ريتول لما يسميه مقاطع فيديو “تحكي قصة”، بوصفها وسيلة لاستمالة المزيد من المتابعين على تيك توك خلال وقت قصير.
يقول في أحد مقاطعه المصورة: “اكتسبت الآلاف والآلاف من المتابعين من خلال المقاطع التي تحكي قصصا باستخدام الذكاء الاصطناعي فقط…فقد حصلت على 47 ألف متابع في غضون أقل من ثلاثة أسابيع فقط”.
طلبنا من ريتول التعليق ولكنه رفض، وقد أُلغي حسابه على تيك توك.
يتعين على مقاطع تيك توك المصورة أن تلفت انتباه المستخدمين في غضون ثوان معدودة، وإلا سينصرفون إلى تصفح المنصة بحثا عن مقاطع أخرى. ومن ثم فإن صانعي المحتوى مثل ريتول يركزون على تصوير مقاطع فيديو تتناول أكثر القضايا شهرة أو إثارة للجدل.
قصص بعض الأطفال أصبحت موضوعا للعديد من مقاطع الفيديو المنشورة بعدة لغات، بما فيها البرتغالية والإسبانية والفرنسية والإيطالية والألمانية والبولندية.
على مدى شهرين، اكتشفت بي بي سي 170 فيديو مختلفا على تيك توك تظهر فيه نسخ ذكاء اصطناعي لجيمز بَلجر، الطفل البريطاني البالغ من العمر عامين والذي قتله طفلان أكبر سنا في مِرزي سايد بإنجلترا عام 1993.
رد تيك توك
احتلت ظاهرة تيك توك تلك عناوين الأخبار في بريطانيا في يوليو/ تموز الماضي، عندما أجرت دينيس فيرغاس، والدة جيمز بَلجر، حوارا مع إحدى الصحف قالت فيه إن مقاطع الفيديو التي تصور ابنها “أكثر من مقززة”.
وقد عكفت منصة تيك توك على حجب عدد كبير من مقاطع الفيديو، وأصدرت بيانا جاء فيه: “ليس هناك مكان على منصتنا لمحتوى مزعج من هذا النوع. وسوف نواصل إزالة هذا النوع من المحتوى كلما وجدناه”.
وقد تم حجب مقاطع فيديو جيمز، بما فيها مقطعان باللغة الفيتنامية كان قد بلغ مجموع ما حصداه من مشاهدات أربعة ملايين مشاهدة.
وتحدثت بي بي سي إلى مراقب محتوى تيك توك في فيتنام، والذي وافق على إجراء مقابلة معه شريطة عدم ذكر اسمه. يقول إنه بعد مرور أسبوعين على إزالة مقاطع الفيديو، لم تكن الشركة قد أخبرته بعد بشكل رسمي بأن هذا النوع من المحتوى محظور.
ويضيف أنه يعتقد إن تلك المقاطع سُمح ببثها بموجب قواعد تيك توك التي تتيح للناجين من الاستغلال والامتهان بمشاركة قصصهم.
هل هناك إذن شيء من الالتباس بين موظفي تيك توك بشأن سياسة الشركة؟ لم ترد المنصة على هذه النقطة بالتحديد عندما طلبنا منها التعليق.
لكن المنصة أوضحت أن مراقب المحتوى أخطأ عندما أشار إلى أن مقاطع الفيديو المشار إليها من الممكن السماح بها بوصفها تتحدث عن تجارب ضحايا ناجين – لأنها عبارة عن صور من إنتاج الكمبيوتر لأطفال متوفين وليست تجارب حقيقية لناجين.
ومازال من السهل العثور على ذلك النوع من مقاطع الفيديو على تيك توك. لكن المنصة تقول إنها لا تخفي حقيقة أنها لن تتمكن من العثور على كافة المقاطع.
