تتيح خدمة "ريلز" في "إنستغرام" عرض مقاطع فيديو قصيرة للمستخدمين تتناول موضوعات ترى خواريزميات التطبيق أنها تثير اهتمامهم، مثل الفيديوهات الرياضية أو الترفيهية، ومختلف المجالات التي من شأنها أن تستأثر باهتمام المستخدِم. لكن اختبارات أجرتها صحيفة "وول ستريت جورنال" كشفت أن التطبيق المملوك لشركة "ميتا" يعتمد الطريقة ذاتها بالنسبة للمستخدمين، الذين ترى خوارزميات المنصة أن لديهم "اهتماماً شهوانياً" بالأطفال.
وسعت الصحيفة إلى اختبار ما ستوصي به خوارزمية خدمة "ريلز" لفائدة حسابات اختبار أنشأتها، وتابعت حسابات وصفحات لاعبي جمباز شباب وفرق تشجيع نسائية، وكذلك لصناع محتوى أطفال ومراهقين على المنصة.وأوضحت الصحيفة أنها أنشأت الحسابات التجريبية، بعدما لاحظت أن آلاف المتابعين لحسابات هؤلاء الشبان والشابات، غالباً ما تضم أعداداً كبيرة من الرجال البالغين، كما أن العديد من هؤلاء المتابعين يظهرون أيضاً اهتماماً بمحتويات جنسية، خاصة بالكبار والصغار، على حد سواء.وأشارت الصحيفة إلى أن أنظمة التطبيق قدمت "اقتراحات ومحتوى صادماً وبذيئاً" لهذه الحسابات التجريبية، من بينها "مقاطع فيديو جريئة لأطفال"، بالإضافة إلى فيديوهات ذات طابع جنسي واضح، وإعلانات لبعض أكبر العلامات التجارية في الولايات المتحدة.وتابعت الحسابات التجريبية للصحيفة عدداً من تلك الحسابات، كاشفة أن "خوارزميات التطبيق، أصبحت بعد ذلك تنتج محتوى أكثر إثارة للقلق، تخللته إعلانات". ففي سلسلة مقاطع فيديو أوصت بها خوارزميات "إنستغرام"، ظهر إعلان لتطبيق المواعدة "بامبل" بين فيديو لشخص يداعب وجه دمية بحجم الإنسان، وفيديو آخر لفتاة صغيرة بوجه محجوب، ترفع قميصها لتكشف عن المنطقة الوسطى لجسدها.وفي إعلان آخر، أعقب إعلان "بيتزا هت"، مقطع فيديو لرجل مستلق على سرير وذراعه حول ما وصفه تعليق على الفيديو بأنها، فتاة تبلغ من العمر 10 سنوات.وأجرى المركز الكندي لحماية الطفل، اختبارات مماثلة مستقلة وتوصل إلى نتائج شبيهة، بحسب "وول ستريت جورنال". وفي ردها على نتائج التقرير، قالت "ميتا" أن الاختبارات التي أجرتها الصحيفة "أفرزت تجربة مصطنعة لا تمثل ما يراه مليارات المستخدمين".ورفضت الشركة التعليق على أسباب قيام خوارزميات التطبيق بجمع مقاطع فيديو منفصلة تظهر الأطفال والجنس مع الإعلانات، لكن متحدثاً باسمها قال إنها أدخلت في تشرين الأول/أكتوبر أدوات أمان جديدة للعلامة التجارية، تمنح المعلنين سيطرة أكبر على مكان ظهور إعلاناتهم، وأن التطبيق يقوم بإزالة، أو يقلل من بروز، أربعة ملايين مقطع فيديو يشتبه في انتهاكها لمعاييره كل شهر.ومن بين الشركات التي ظهرت إعلاناتها مع محتوى غير مناسب خلال اختبار الصحيفة للتطبيق، متجر "وولمارت" وشركة "ديزني"، وشركة المواعدة عبر الإنترنت "ماتش غروب"، وصحيفة "وول ستريت جورنال" نفسها، رغم أن معظم أصحاب العلامات التجارية يطلبون عدم عرض إعلاناتهم مع المحتوى الجنسي أو الصريح.وردت المسؤولة عن قسم الإعلانات في "ميتا"، سامانثا ستيتسون، بأن أنظمة التطبيق "فعالة في تقليل المحتوى الضار"، مضيفة أن الشركة استثمرت بكثافة للحد منه. ونقلت الصحيفة عن موظفين حاليين وسابقين في الشركة، أن إمكانية جمع خوارزميات "إنستغرام" لمحتوى جنسي للأطفال، أمر معروف داخلياً بأنه يمثل مشكلة.وكشف الموظفون أنه بمجرد تصنيف "إنستغرام" للمستخدم على أنه مهتم بموضوع معين، فإن الأنظمة مصممة على دفع المزيد من المحتوى، ذي الصلة، إليه. وقالوا أن منع الأنظمة من دفع محتوى ضار إلى المستخدمين المهتمين به يتطلب تغييرات كبيرة في الخوارزميات التي تقوم بتوصية محتوى معين، التي تقود مستخدمين عاديين لهذا المحتوى.وقالت الصحيفة أن وثائق الشركة التي اطلعت عليها تظهر أن موظفي السلامة في "ميتا" ممنوعون على نطاق واسع من إجراء تغييرات في النظام الأساسي، قد تقلل عدد المستخدمين النشطين يومياً. وتم مثلاً عرض إعلانات تشجع المستخدمين على زيارة "ديزني لاند" لقضاء العطلات، بجوار مقطع فيديو لامرأة بالغة تمثل بأنها تمارس الجنس مع والدها، ومقطع آخر لامرأة شابة ترتدي ملابس داخلية مع دماء مزيفة تقطر من فمها.وأشارت الصحيفة إلى أنها عرضت تجربتها على بعض المعلنين، ما جعل الشركات تثير تساؤلات مع "ميتا" التي أخبرتهم أنها ستحقق في الأمر، لكنها لم تقدم جدولاً زمنياً لحل المشكلة، كما لم توضح كيف ستقيد في المستقبل الترويج للمحتوى غير المناسب.