Amnesty International France dénonce l’influence de l’algorithme de TikTok sur la santé mentale des jeunes et annonce saisir l’Arcom
Contexte et cadre juridique
L’antenne française de l’ONG Amnesty International publie un rapport mardi dénonçant l’effet en spirale de l’algorithme de TikTok et l’accusant d’accroître l’exposition à des contenus liés au suicide ou à l’automutilation. Amnesty indique qu’elle compte saisir l’Arcom pour déposer une plainte dans le cadre du Digital Services Act, le DSA, au titre d’un manquement présumé.
Selon Katia Roux, responsable du plaidoyer pour Amnesty International France, ces éléments visent à éclairer les éléments de l’enquête et à appuyer une action juridique.
Des expériences réalisées et des résultats observés
Le rapport affirme que des adolescents manifestant un intérêt pour des contenus relatifs à la tristesse ou au mal-être psychologique se voient diriger vers des contenus dépressifs en moins d’une heure sur la plateforme. Amnesty rappelle avoir mené en France de nouvelles expériences après un rapport publié en 2023 sur l’algorithme de TikTok.
Le document avance que TikTok expose les jeunes à des contenus potentiellement préjudiciables et susceptibles de normaliser, banaliser ou idéaliser la dépression, l’automutilation ou le suicide.
Pour tester le fonctionnement, l’ONG a créé trois profils factices d’adolescents âgés de 13 ans et a fait défiler le fil personnalisé baptisé Pour toi pendant plusieurs heures afin de visionner des contenus évoquant la tristesse ou des problèmes de santé mentale. Dans les 15 à 20 minutes qui ont suivi le démarrage, les fils analysés contenaient presque uniquement des vidéos sur la santé mentale, dont une partie était dépressive. Sur deux des trois comptes, des vidéos exprimant des pensées suicidaires apparaissaient dans les 45 minutes.
Approche technique et vérifications
Douze comptes automatisés ont ensuite été créés, en lien avec l’association Algorithmic Transparency Institute, et reliés à l’historique des trois premiers comptes afin d’observer l’évolution des recommandations.
Réactions et cadre européen
La revue des contenus et les résultats ont été croisés avec les éléments d’enquête en cours au niveau européen. Amnesty estime que TikTok n’a pas pris les mesures adéquates pour identifier et prévenir les risques encourus par les jeunes sur la plateforme et reproche au réseau un non-respect des obligations imposées par le DSA depuis août 2023. L’ONG espère que ces nouvelles preuves seront examinées et prises en compte pour faire progresser l’enquête ouverte par la Commission européenne.
En février 2024, la Commission européenne a ouvert une enquête visant TikTok pour des manquements présumés en matière de protection des mineurs. TikTok affirme proposer une expérience sûre et adaptée à l’âge des adolescents et souligne que neuf vidéos sur dix enfreignant ses règles sont supprimées avant même d’être visionnées.
Perspectives et suites
Amnesty International France réaffirme son intention de poursuivre les voies juridiques et d’apporter des éléments destinés à accroître la transparence des mécanismes algorithmiques lorsque des risques pour les jeunes sont identifiés, tout en appelant à une attention soutenue des autorités européennes sur ces questions.
