“سر” الخوارزمية.. كيف تنتشر المعلومات المضللة على تيك توك؟

هل لديك حساب على تطبيق تيك توك؟ إذا كانت إجابتك “نعم”، فأنت واحد من بين نحو مليار شخص يقضون ساعات يوميا في استكشاف مقاطع فيديو قصيرة متدفقة بشكل يشعرك أن هذا التطبيق يفهم ما تريد.

يقول أحد المتعجبين من قدرة تيك توك على فهم ما يفكر به، إن خوارزمية هذا التطبيق “عرفت حياتي الجنسية بشكل أفضل مما أعرف أنا عن نفسي”، ووصف التطبيق بـ “أشعة سينية تكشف حياة المستخدمين الداخلية”، في أشارة رمزية إلى أن تيك توك أدهش العالم في قدرته على الكشف عن رغبات الناس.

لكن الصدمة هي أن تحقيقا أجراه موقع “نيوز غارد” عام 2022، وهو متخصص في كشف المعلومات المضللة، فحص فيه المحتوى المنشور على منصة تيك توك الصينية، وجد أن أي مستخدم يبحث عن معلومة معينة سيحصل على مقاطع فيديو تجيبه عن تساؤله، لكن 20 في المئة من هذه المقاطع تضخ معلومات مضللة.

ووفقا لتقرير أصدرته في الربع الأول من عام 2022، أزالت، بايت دانس، الشركة الأم المالكة لمنصة تيك توك، أكثر من 102 مليون مقطع فيديو انتهك قواعد “الأصالة والنزاهة”، لأنها تضمنت معلومات ضارة.

وتعرف المعلومات الضارة بأنها “معلومات مضللة تسبب ضررا كبيرا للأفراد أو المجتمع (…) بغض النظر عن النية من نشرها”.

شركة تيك توك تنبهت لذلك بعد أن دقت حكومات غربية ناقوس الخطر، وبدأت الأدلة تكشف انتهاك خصوصية المستخدمين، ومساهمة خوارزمياتها في انتشار المعلومات المضللة على نطاق واسع.

تقول تيك توك على موقها الرسمي إن تطبيقها “يستخدمه أكثر من مليار شخص لإنشاء المحتوى ومشاركة الموضوعات التي تهمهم. نحن نعمل بجد للحفاظ على مساحة آمنة تمكن الأشخاص من اكتشاف المحتوى الأصلي والتفاعل مع الأشخاص الحقيقيين”.

وتؤكد الشركة أنها تستخدم سياسة صارمة “تحمي مجتمع تيك توك من المعلومات المضللة”، فهي تملك “شراكات مع خبراء وبرنامج عالمي لتدقيق الحقائق”.

لكن تيك توك لم تكن تعلم أن وثيقة تحمل عنوان “TikTok Algo 101” كتبها فريق الشركة الهندسي في بكين ستظهر للعلن عام 2021، وتكشف ما لم تكن الشركة ترغب في أن يعرفه الجمهور.

ولم تجد المتحدثة باسم الشركة، هيلاري ماكوايد، خيارا سوى تأكيد صحة الوثيقة التي قالت إنها كتبت لتشرح للموظفين غير التقنيين كيفية عمل خوارزميات تيك توك.

وقدمت الوثيقة مستوى جديدا من التفاصيل حول تطبيق الفيديو المهيمن، مما يوفر لمحة كاشفة للسر الذي يمتلكه التطبيق، ونظرة ثاقبة لفهم الشركة للطبيعة البشرية.

كما أن الوثيقة ترفع الستار عن طبيعة اتصال شركة تيك توك مع الشركة الأم الصينية بايت دانس، تزامنا مع تحركات وزارة التجارة الأميركية للتحقق مما إذا كان تطبيق تيك توك يشكل خطرا أمنيا على الولايات المتحدة، قبل أن تشرع جهات حكومية أميركية في حظره في مرافقها.
كيف ينشر تيك توك المعلومات المضللة؟

هناك أمران مهمان يساهمان في انتشار المعلومات المضللة على منصة تيك توك، الأول خوارزميات هذه المنصة، والثاني طبيعة المستخدمين وخبراتهم غير المتمرسة في التدقيق بالمعلومات وتقييم مصادرها.

وما يميز منصة تيك توك هو خاصية مقاطع الفيديو القصيرة ذات التفاعل العالي، وهذا النوع من المضمون المرئي يجتذب الشباب والمراهقين.

وفي الوضع الطبيعي، فإن لدى المراهقين الشباب الكثير من الأسئلة، وفي ذات الوقت فإنهم قليلو الخبرة في تدقيق مصداقية المصدر.

على سبيل المثال، تبدأ مراهقة بالبحث عن طرق مبتكرة لتحسين بشرتها، أو تقوية شعرها، فتلجأ إلى تيك توك، الذي يقدم لها مئات المقاطع القصيرة التي تجيبها عن السؤال، قسم كبير منها يحتوي معلومات مغلوطة وضارة.

خورازميات تيك تيك تسهل انتشار الفيديو، وهذا يسمح للمعلومات المضللة بانتشار واسع يعطيها صبغة المصداقية.

وعادة يفسر المستخدمون الانتشار الواسع لمقاطع الفيديو بأنه دليل على خبرة منتج المحتوى ومصداقيته في تقديم المعلومات، وبالتالي يتعاملون مع المعلومات التي يقدمونها للجمهور على أنها حقائق مثبتة.

ويقع التضليل في مقاطع فيديو تيك توك القصيرة عندما تقدم معلومات خارجة عن السياق، فتخدع المتلقي الذي يتعامل معها على أنها معلومات صحيحة، لكنها في الواقع مغلوطة، بل في كثير من الأحيان هي خطر يضر بسلوكيات المراهقين والشباب، صحيا أو اجتماعيا، وحتى قانونيا في بعض الأحيان.

وتساهم برمجة وخوارزميات تيك توك في نشر المعلومات المضللة عبر تدعيم المحتوى الذي سينشر مستقبلا بالتفاعلات التي جرت فعلا مع محتوى مماثل في وقت سابق.

على سبيل المثال، لو تفاعل مستخدم مع مقطع فيديو يحتوي معلومات مضللة، فإن خوارزميات تيك توك ستعرض للمستخدم مقاطع فيديو مستقبلية من المرجح أن تحتوي أيضا على معلومات مضللة عن ذات الموضوع.

في عام 2020 هرع كثيرون إلى منصة تيك توك للسؤال عن مواد يمكن تناولها لحماية الجسم من فيروس كورونا.

أحد مقاطع الفيديو التي انتشرت بقوة، تقول إن الثوم يحصن الجسم من هذا الفيروس الخطير، كان مقطع الفيديو قصيرا، منزوع السياق، لا يقدم أدلة علمية، لكن المستخدمين تفاعلوا معه، فسمح هذا الأمر لخوارزميات تيك توك بأن تنشره أكثر باعتباره مضمونا ذات مصداقية حظي بإعجاب مستخدمين وتفاعلهم.

وفي عام 2021، ادعى مقطع فيديو على منصة تيك توك كذبا أن لقاحات كوفيد-19 تحتوي على مواد سرية مغناطيسية، ما دفع البعض إلى التشكيك في التطعيم وحتى رفضه. وببساطة فإن التفاعل مع الفيديو هذا عرض للمستخدم مقاطع أخرى تدعم ذات المعلومات المضللة.

وكثيرون نشروا مقاطع فيديو قصيرة ومثيرة على تيك توك تدعي أن تقنية الاتصالات 5G تسبب مرض السرطان، وهو ما انتشر بشكل كبير عبر هذه المنصة.

وسياسيا، يعد تيك توك مساحة خصبة بمقاطع الفيديو التي تروج لنظريات المؤامرة حول الجماعات السياسية مثل تلك التي ترتبط بالصراع الإسرائيلي الفلسطيني.
سر خوارزميات تيك توك

في أطروحتها للدكتوراة، والتي نشرت في المجلة الدولية للاتصالات، أجابت، مورجان لوندي، عن السؤال “كيف تساهم ميزات تيوك توك الفريدة في نشر المعلومات المضللة؟” وصممت الأطروحة كدراسة حالة ركزت على المعلومات المضللة المتعلقة بفيروس كورونا.

أول ما اكتشفته لوندي، أنه وعلى عكس منصة أكس (تويتر سابقا)، الذي يستخدم تنسيقا نصيا (text format)، فإن تنسيق الفيديو الصغير الخاص (The micro-video format) الذي يستخدمه تيك توك يجعل اكتشاف المعلومات المضللة أكثر صعوبة.

وتشرح لوندي بشكل مبسط كيف تساهم برمجة تيك توك في نشر المعلومات المضللة، إذ “يتم تمرير المعلومات عبر وسائط متعددة، عبر الصوت والمرئيات والنص ولغة الجسد والتسميات التوضيحية والرموز، وكل هذه العوامل تتفاعل في وقت واحد لإنشاء المعنى أو المعلومات المضللة التي تتم مشاركتها”.

في تجاربها البحثية، استخدمت لوندي منهجا مزدوجا للتدرب على الخوارزميات، وأخذت عينات من الهاشتاغ للحصول على بيانات لأبحاثها.

المراقبة الحثيثة التي أجرتها لوندي لكيفية عمل خوارزميات تيك توك كشفت أنه “كلما تفاعلت مع المزيد من المعلومات المضللة، كلما رأيت المزيد منها، ويمكنك أن تجد نفسك منغمسا بسرعة في أعداد هائلة من مقاطع فيديو تيك توك القصيرة المتعلقة بالمعلومات المضللة عن لقاح كوفيد-19، والسر في ذلك أنك أبديت الإعجاب ببعض مقاطع الفيديو مباشرة” بمعنى أنك تفاعلت معها.

يقول باحثو علوم الاتصال والسلوكيات الاجتماعية، إن قسما لا بأس به من الجيل الجديد من الشباب والمراهقين تواقون للشهرة، ويسعى كثير منهم إليها بأدوات موجودة على هواتفهم الذكية، ومنها منصة تيك توك التي وصفت صفحتها القوية “For You” بأنها مصممة حسب خوارزمية تتنبأ باهتماماتك بناء على سلوكك في داخل هذا التطبيق الصيني.

لكن هذه ليست القصة الكاملة، وفقا لستة موظفين حاليين وسابقين في منصة تيك توك وشركتها الأم، بايت دانس، والوثائق والاتصالات الداخلية التي استعرضتها مجلة فوربس.

وتكشف هذه المصادر أنه بالإضافة إلى السماح للخوارزمية بتحديد ما ينتشر بسرعة، يقوم الموظفون في تيك توك وبايت دانس أيضا بانتقاء مقاطع فيديو محددة وتعزيز انتشارها، باستخدام ممارسة تعرف داخليا باسم “التسخين”.

ووفق مستند داخلي آخر لمنصة تيك توك بعنوان (MINT Heating Playbook) “تشير ميزة التسخين إلى تعزيز مقاطع الفيديو في صفحة (For You) من خلال التدخل التشغيلي لتحقيق عدد معين من مشاهدات الفيديو”.

ولم تكشف تيك توك علنا أنها تستخدم “زر التسخين” لتضخيم انتشار مقاطع الفيديو التي ينتجها المستخدمون.

ونقل تقرير لمجلة فوربس أن تيك توك غالبا ما تستخدم أسلوب “التسخين” لجذب الشخصيات المؤثرة والعلامات التجارية، وإغرائهم بالشراكة من خلال تضخيم عدد مشاهدات مقاطع الفيديو الخاصة بهم.

وهذا يعني أن استراتيجية “التسخين” التي تستخدمها تيك توك أفادت بعض أصحاب النفوذ والعلامات التجارية ممن سعت المنصة الصينية إلى توثيق علاقتها بهم على حساب آخرين لم يدخلوا في شراكات معها.

خوارزمية تيك توك عبارة عن نظام توصيات يحدد مقاطع الفيديو التي ستظهر على صفحتك الفريدة والمخصصة لك فقط “For You”.

هذا يعني أنه لن يرى مستخدمان نفس مقاطع الفيديو على صفحة “For You” الخاصة بهما، وقد تتغير مقاطع الفيديو التي تشاهدها بمرور الوقت بناء على سلوكياتك على التطبيق، وحتى حالتك الذهنية.

وتعرف خوازمية تيك توك على أنها “مجموعة من مقاطع الفيديو المنسقة حسب اهتماماتك، مما يسهل العثور على المحتوى وصانعي المحتوى الذين تحبهم، مدعوما بنظام توصيات يقدم محتوى لكل مستخدم من المحتمل أن يكون مثيرا لاهتمامه”.

كما أن خبراء التكنولوجيا وشبكات التواصل الاجتماعي يعتبرون هذه الطريقة في تصميم خوارزميات تيك توك سببا مباشرا في الانتشار الواسع للمعلومات المضللة على هذه المنصة.

يقول الرئيس التنفيذي لتيك توك، شو زي تشيو، إن شركته مستقلة، ولا ترتبط بأي كيان حكومي، في رد على الاتهاامات التي تواجهها المنصة من الولايات المتحدة وأوروبا بأنها ترتبط بالحزب الشيوعي الصيني.

من حيث المبدأ، صحيح أن بايت دانس، المالكة لمنصة تيك توك، شركة صينية خاصة، لكن رفضها لسيطرة الحكومة الصينية قد لا يكون خيارا آمنا للمديرين التنفيذيين المقيمين في الصين، نظرا لسجل الحكومة في معاقبة مديري الأعمال في البلاد لعدم اتباعهم لقواعد الحزب الشيوعي، وفق تقرير لمنظمة هيومن رايتس ووتش.

المنظمة الحقوقية تقول إن منصة تيك توك “قد ترغب حقا في أن تكون مثل أي شركة أميركية أخرى مشهورة في مجال التواصل الاجتماعي”، ولكن حقيقة أن تيك توك شركة صينية “تجعلها معرضة بشدة لمطالب الحزب الشيوعي الصيني”.

وتضيف أن لدى الحزب “سجل في إرغام الشركات الصينية الخاصة على تنفيذ أعماله السياسية، بما في ذلك فرض الرقابة على الأميركيين ومراقبتهم”.

وتوضح هيومن رايتس ووتش أنه على الرغم من “عدم وجود دليل قاطع على أن تيك توك تتبع أوامر بكين المباشرة أو حتى غير المباشرة، فقد أصدرت الشركة مرارا تأكيدات بأنها لم ولن تتجسس لصالح الحزب الشيوعي الصيني”.

وتبين المنظمة أنه “ببساطة لا نعرف الكثير عن الأعمال الداخلية للشركة، ففي نهاية المطاف، لا يوجد قانون أميركي يلزم المنصات بأن تشرح للمستخدمين كيفية إدارة المحتوى أو استخدام الأدوات الآلية. ولا يوجد أيضا قانون يخضع المنصات للتدقيق الخارجي”.

وتنشر شركة تيك توك ردودا على ما تقول إنها “خرافات” حول المنصة الشهيرة، وترفق بكل واحدة ما تقول إنها “الحقيقة” التي تفندها.

أول قضية تبدأ بها الشركة هي الملكية، قائلة إن هناك “خرافة” تقول إن بايت دانس، الشركة الأم لتيك توك، مملوكة للصين. مفندة ذلك بالقول إن الشركة الأم تأسست “على يد رواد أعمال صينيين، ولكن اليوم، ما يقرب من ستين في المئة من الشركة مملوكة بشكل مفيد لمستثمرين ومؤسسين عالميين مثل Carlyle Group، وGeneral Atlantic، وSusquehanna International Group. وتعود ملكية 20 في المئة إضافية من الشركة إلى موظفي بايت دانس حول العالم، بما في ذلك الأستراليون. أما نسبة الـ 20 في المئة المتبقية، فهي مملوكة لمؤسس الشركة، وهو فرد عادي وليس جزءا من أي دولة أو كيان حكومي”.

وتشير الشركة إلى ما تقول إنها “خرافة” استضافة بكين للمقر الرئيسي للشركة، مبينة أن للشركة مقرين رئيسيين في لوس أنجليس وسنغافورة.

لكن شركة تيك توك تشير إلى أنه وبموجب القانون الصيني، فإن تشغيل بعض منتجات الأخبار والمعلومات التي يتم تقديمها حصريا في الصين، يلزم الحصول على تراخيص إعلامية لهذه الخدمات.

وللحصول على هذه التراخيص يجب أن يمتلك كيان تابع للحكومة الصينية 1 في المئة من شركة تابعة لشركة بايت دانس.

وتقول الشركة إن هذا الترتيب خاص بالخدمات في السوق الصينية، وليس له أي تأثير على عمليات الشركة الأم العالمية خارج الصين، بما في ذلك تيك توك.

وترد تيك توك على الاتهامات بأنها تتلاعب بالمحتوى بطريقة تفيد الحكومة الصينية، قائلة إنها “لا تسمح لأي حكومة بالتأثير على نموذج توصياتها أو تغييره”.

ضغطت حكومات غربية على شركة تيك توك التي خضع رئيسها التنفيذي لعدة جلسات مساءلة في الكونغرس الأميركي وبرلمانات أوروبية بغرض استيضاح إجراءات الشركة في حماية خصوصية المستخدمين ومنع تعريضهم للمعلومات المضللة.

واستجابة للضغوط أدركت تيك توك علنا خطورة دورها في نشر المعلومات المضللة، واتخذت خطوات للتخفيف من تأثيرها.

وتشير تقارير منظمات متخصصة في التكنولوجيا، إضافة إلى بيانات رسمية لتيك توك بأن الشركة الصينية تعاونت مع منظمات متخصصة في التحقق من المعلومات مثل PolitiFact وSnopes لتحديد وإزالة المحتوى المضلل من المنصة.

وتقول تيك توك إن الشركات هذه ساهمت في تقديم أدوات لمساعدة المستخدمين على تحديد المعلومات المضللة والإبلاغ عنها. وأطلقوا حملات تعليمية تهدف إلى مساعدة المستخدمين بالتعرف على المعلومات المضللة وتجنبها من خلال مقاطع الفيديو والمقالات والاختبارات.

وتقول الشركة الصينية إنه عندما يتم تحميل مقاطع الفيديو على منصة تيك توك، تتم مراجعتها بواسطة نظام إشراف آلي يقوم بالبحث عن انتهاكات إرشادات مجتمع النظام الأساسي لتيك توك، مثل العري أو التهديدات لسلامة الأطفال.

وتقول الشركة إنه إذا تم وضع علامة على المحتوى، فغالبا ما تتم مراجعته بواسطة أحد عشرات الآلاف من مشرفي المحتوى في تيك توك الذين يقومون بتقييم المحتوى.

وتشير إلى أنه في الفترة من أبريل إلى يونيو 2021، تمت إزالة أكثر من 81 مليون مقطع فيديو من المنصة بسبب هذه الانتهاكات.

لكن الباحثة لوندي أشارت في أطروحتها إلى أن الإجراءات التي تتخذها تيك توك ليست كافية لحماية المستخدمين من خطر المعلومات المضللة.

وتقدم لوندي مثالا حول انتشار المعلومات المضللة حول فيروس كورونا على منصة تيك توك.

وتقول إن مستخدمي تيك توك الذين يعارضون لقاح كوفيد-19 يستخدمون لغة مشفرة عمدا، وكلمات بها أخطاء إملائية، وعلامات تصنيف بديلة، للتهرب من جهود مكافحة المعلومات المضللة.

إن كمية المعلومات المضللة التي تنتشر على منصة تيك توك، وسهولة العثور عليها، مثيرة للقلق، خاصة عند النظر إلى شعبية التطبيق بين الشباب والمراهقين، وفق ما يعتقد، ستيفن بريل، مؤسس موقع “نيوز غارد”.

ويتساءل بريل عما إذا كانت شركة بايت دانس تفعل ما يكفي لوقف تدفق المعلومات المضللة، أو ما إذا كانت تسمح عمدا بانتشار المعلومات المضللة كوسيلة لزرع الارتباك في الولايات المتحدة والديمقراطيات الغربية الأخرى.

ويقول بريل إن ما يحدث قد يكون سببه “عدم الكفاءة أو شيء أسوأ من ذلك”.

محمد أبوعرقوب – الحرة