L'UE somme TikTok de modifier ses flux personnalisés, accusés d'effets "nocifs"

L'Union européenne a sommé vendredi le réseau social TikTok de modifier radicalement ses flux de vidéos personnalisés, accusés de nuire au bien-être et à la santé mentale des utilisateurs en les exposant à des spirales de contenus aux effets très négatifs, ce que le groupe conteste vigoureusement.

La filiale du groupe chinois ByteDance, déjà dans le collimateur de Bruxelles, risque de se voir infliger une amende potentiellement lourde, la Commission européenne estimant qu'elle pourrait avoir ainsi enfreint des dispositions cruciales du règlement européen sur les services numériques (DSA).

En cause, le fonctionnement même de l'algorithme de recommandation de contenus de TikTok.

Les flux de vidéos personnalisés (consultables dans la section "pour toi" de l'application) sont conçus pour proposer encore et encore tout type de contenus qui a suscité l'intérêt d'un utilisateur.

Y compris, et c'est le coeur du problème, lorsque les vidéos portent sur des thèmes qui peuvent affecter le bien-être physique et moral à force de les regarder, comme la tristesse, la solitude, ou l'estime de soi.

S'enfermer dans le visionnage ininterrompu et répété de tels contenus (un phénomène surnommé en anglais les "rabbit holes") peut avoir des effets négatifs sur la santé mentale, prévient la Commission européenne, en particulier lorsqu'il s'agit d'adultes vulnérables ou de mineurs.

"La Commission a formulé une série de déclarations fondamentalement inexactes, qui dénaturent l’architecture de notre plateforme ainsi que notre engagement en faveur de la sécurité des utilisateurs", a réagi un porte-parole du groupe auprès de l'AFP.

"Nous avons fait nos preuves en matière de protection de notre communauté, tout en offrant aux utilisateurs un contrôle direct et intuitif sur l'expérience liée à leur contenu", ajoute la plateforme.

TikTok assure avoir investi de longue date dans des systèmes visant à détecter les contenus dont le visionnage répété pourrait s'avérer problématique, et avoir en place des outils permettant notamment d'exclure certains types de contenus des flux "Pour toi'.

Mais Bruxelles, qui agit dans le cadre d'une enquête lancée en 2024, juge les mesures prises par le réseau social insuffisantes, et demande une série de changements profonds, qui touchent au coeur même du modèle d'activité de TikTok visant à capter le plus possible l'attention des utilisateurs.

Cela porte sur la façon dont son algorithme sélectionne les contenus montrés.

La pression monte sur TikTok

L'UE voudrait cependant que les utilisateurs aient plus de contrôle sur les vidéos qui leur sont recommandées et que leurs préférences soient vraiment respectées.

Car Bruxelles déplore qu'actuellement, si un internaute signale qu'un certain type de contenus ne l'intéresse plus, l'algorithme de TikTok puisse passer outre ce choix, dans le but de maximiser le temps passé par l'utilisateur sur la plateforme.

L'entreprise aura désormais la possibilité de se défendre et de proposer des solutions pour tenter de remédier à l'amiable aux problèmes soulevés.

Si cela ne satisfait pas la Commission, Bruxelles, qui n'a pas de calendrier imposé pour clore cette procédure, pourrait à terme infliger à TikTok une amende pouvant atteindre jusqu'à 6 % de son chiffre d'affaires annuel mondial.

Car la Commission soupçonne ce réseau social d'avoir commis une infraction au DSA, qui impose aux grandes plateformes en ligne d'évaluer et d'atténuer les risques encourus par leurs utilisateurs.

Tik Tok est déjà soupçonné d'avoir commis d'autres infractions à ce même règlement, en matière de protection des mineurs, et en raison de fonctionnalités jugées trop "addictives" par l'UE.

"À chaque fois qu'un utilisateur fait défiler ou +aime+ une vidéo sur TikTok, l'algorithme lui en propose davantage, l'entraînant dans des spirales dont il lui est difficile de s'extraire", a résumé la vice-présidente de la Commission chargée du Numérique, Henna Virkkunen, pour qui "ces nouvelles injonctions préliminaires montrent une fois de plus que TikTok doit intensifier ses efforts pour préserver le bien-être des utilisateurs, y compris celui des mineurs".

L'UE est lancée dans une vaste offensive pour mettre au pas les réseaux sociaux, en application du DSA, et a présenté en septembre un projet de loi, le Kids Act, qui vise à les interdire aux moins de 13 ans, en raison de nombreux risques pour leur bien-être et leur développement.