تجربة خوارزمية التوصيات وتدابير السلامة
أعلنت تيك توك عن إجراء تجربة داخلية على خوارزمية التوصيات في الولايات المتحدة بدأت في عام 2021، هدفها اختبار ميزة مرتبطة بسلامة المستخدمين على جزء من الجمهور بهدف قياس أثرها في التفاعل ومدة البقاء داخل التطبيق. ووفقاً للوثائق، صممت المنصة آلية تقليل تكرار ظهور أنواع محتوى متشابهة في صفحة For You، مع إبقاء نحو 10% من المستخدمين الأميركيين خارج نطاق هذه الميزة خلال فترة الاختبار. الغاية من الاختبار هي مقاربة سلوك المستخدمين الذين استفادوا من الميزة مقابل من لم يستفيدوا، لمعرفة ما إذا كان تقليل التكرار سيؤثر في معدلات التفاعل والوقت المستغرق في التطبيق، وهما مؤشّران رئيسيان لنموذج الإعلانات الذي يعتمد عليه التطبيق.
ورغم هدف السلامة، أوردت تقارير أن بعض القاصرين ربما كانوا ضمن المجموعة التي لم تستفد من الميزة. وأوضحت الوثائق أن الاستثناء كان جزءاً من مقارنة السلوك بين المجموعتين بهدف قياس الفروق في التفاعل والمدة التي يقضيها المستخدمون داخل التطبيق. كما أشارت تقارير أميركية إلى حالة مراهق تعرض بشكل متكرر لمحتوى مرتبط بإيذاء النفس والاضطرابات النفسية قبل وفاته، وهو ما أثار تساؤلات حول الضمانات التي اعتمدتها الشركة عند تصميم التجربة. وتأتي هذه التطورات في وقت يواجه فيه قطاع التواصل الاجتماعي ضغوطاً قانونية متزايدة في الولايات المتحدة بشأن تأثير خوارزمياتها على القاصرين، خصوصاً ما يتعلق بتصميم المنصات وآليات التوصية التي تشجع المستخدمين على قضاء فترات أطول أمام المحتوى.
في سياق التطورات التنظيمية، طالب عضوَتا مجلس الشيوخ الأميركي مارشا بلاكبيرن وريتشارد بلومنثال تيك توك بتقديم تفاصيل حول آلية اختيار المشاركين والمسؤولين عن التجربة، وما إذا كان تم استبعاد الأطفال والمراهقين، إضافة إلى الكشف عن اختبارات أخرى مرتبطة بتأثير خوارزميات التوصية على الصحة النفسية.
