Une interdiction des réseaux sociaux résout-elle le problème ?

de Meret Schneider

Tout le monde en parle, en Suisse comme dans d’autres pays européens : l’interdiction des réseaux sociaux pour les moins de 16 ans. Alors qu’une pétition a été lancée chez nous, l’Allemagne est déjà allée un pas plus loin.

Après que le SPD et le vice-chancelier Lars Klingbeil se sont clairement prononcés en faveur d’une interdiction des réseaux sociaux pour les moins de 14 ans et qu’on peut lire dans un document de position du SPD que les moins de 16 ans aussi ne devraient pouvoir utiliser que des « versions jeunesse » de telles applications, le partenaire de coalition CDU, avec Friedrich Merz, a désormais lui aussi exprimé sa sympathie à l’égard d’une telle réglementation. Vendredi (20.02.26), la CDU débattra d’une telle interdiction lors de son congrès de parti et, comme des décideurs importants se sont déjà prononcés en sa faveur, une telle interdiction devrait bientôt entrer en vigueur dans notre pays voisin.

Mais ce n’est pas une solution aux problèmes qui persistent en lien avec les plateformes numériques. Désinformation, algorithmes opaques, deep fakes, concentration du pouvoir entre les mains de quelques grands acteurs et, plus récemment, représentations en bikini générées par l’IA de femmes et d’enfants prolifèrent sur les plateformes concernées et, bien qu’il soit souhaitable que les jeunes de moins de 16 ans en soient à l’avenir épargnés, ces mécanismes continuent de peser sur les adultes et sur notre société dans son ensemble. Parfois, ces plateformes me rappellent l’Hydre de la mythologie grecque : chaque fois qu’on lui coupe une tête, deux nouvelles repoussent.

Si l’on tente de bannir des plateformes les contenus justiciables, une nouvelle fonctionnalité surgit permettant de « déshabiller » des femmes et des enfants sur des images à l’aide de l’IA et de générer ainsi des images d’eux en bikini. Si l’on veut signaler des représentations glorifiant la violence, une tendance apparaît soudain, dans le cadre de laquelle des images de l’Holocauste générées par l’IA montrant des Juifs jouant du violon et des enfants partageant du pain inondent les plateformes, parce qu’elles génèrent des clics. L’Holocauste comme modèle commercial – on ne peut guère faire plus cynique, et c’est à juste titre que des lieux de mémoire de l’Holocauste protestent contre de tels contenus. Pendant ce temps, la Suisse regarde, apparemment en haussant les épaules, et met en consultation une loi sur la régulation des plateformes qui n’aborde même pas précisément ces problèmes.

Le projet de loi proposé par le Conseil fédéral reprend certes certains points pertinents et fixe de premières lignes directrices importantes pour la régulation des plateformes de communication et des moteurs de recherche. Par exemple, les plateformes sont tenues de mettre en place une procédure de signalement, de désigner une représentation juridique en Suisse, de donner accès aux données ainsi que de modérer les contenus. En outre, le projet introduit des sanctions qui pourront effectivement être douloureuses pour les plateformes et produire des effets. Même des blocages de réseau sont envisagés dans la proposition du Conseil fédéral, ce qui, au vu de l’approche autrement plutôt hésitante, étonne et surprend positivement.

Ce qui manque à la loi sur la régulation des plateformes

Ce qui est toutefois fatal, c’est que certains domaines soient complètement laissés de côté, ce qui affaiblit fortement l’efficacité de la loi. Ainsi, dans le projet de loi du Conseil fédéral, les contenus générés par l’IA, par exemple, ne sont absolument pas mentionnés, alors qu’ils devraient justement être réglementés d’urgence en raison de leur influence sur la formation de l’opinion et de leur potentiel accru de désinformation. Entre-temps, presque chaque photo de téléphone portable est retouchée à l’aide de l’IA, raison pour laquelle un label pour les contenus générés par l’IA devrait être utilisé de manière inflationniste et n’aurait ainsi pratiquement plus de valeur ajoutée pour les utilisateur·trice·s.

Une possibilité plus efficace serait en revanche d’inverser la charge de la preuve : ce ne sont pas les contenus générés par l’IA qui doivent être signalés, mais l’authenticité des contenus. Cela signifie que les utilisateur·trice·s doivent vérifier comme tels les contenus non générés par l’IA, et que seule leur authenticité peut alors être considérée comme certaine. À cette fin, on peut recourir à des processus organisationnels d’assurance qualité et à des moyens techniques, par exemple des signatures cryptographiques ou des filigranes. Si un contenu ne dispose pas d’une telle preuve, il doit être identifié comme « non vérifié ». Ainsi, les utilisateur·trice·s peuvent rapidement reconnaître si un contenu est authentique ou fake – le point central pour pouvoir réduire l’influence et la désinformation de la population.

En outre, il manque des délais clairs pour le traitement des procédures de signalement de contenus justiciables tels que les appels à la violence, les menaces ou les deep fakes. Il faut donc craindre que de tels processus ne s’éternisent et perdent ainsi leur force d’impact. De plus, il ne devrait pas être possible de signaler uniquement des contenus, mais aussi des activités problématiques de bots ou de fake accounts. Dans le projet de loi actuel, une réglementation sur les bots fait complètement défaut.

La diffusion automatisée de contenus comporte justement de grands risques en matière de formation de l’opinion et de désinformation, comme on peut déjà l’observer aujourd’hui avec une multitude de bots, surtout russes. Les plateformes de communication doivent aussi être obligées de signaler ces comptes. Il serait judicieux de créer un nouvel article avec le contenu suivant : « Les fournisseurs de plateformes de communication signalent de manière bien visible pour les utilisatrices et utilisateurs les comptes qui publient des contenus de manière automatisée. » Cela permettrait de distinguer les vraies personnes des comptes automatisés et accroîtrait la transparence.

Ce ne sont là que quelques-unes des faiblesses centrales du projet de loi, mais compte tenu de l’évolution accélérée sur les plateformes et de la vague de contenus générés par l’IA qui menace de submerger les utilisateur·trice·s que nous sommes, ce sont à mon avis les plus pertinentes. Heureusement, le processus parlementaire concernant la loi vient tout juste de démarrer et le travail politique à ce sujet commence maintenant. Et comme toujours, une chose est vraie : la politique avance aussi sous la pression de l’opinion publique.

Notre autrice
Meret Schneider est linguiste, spécialiste en sciences de la communication et de l’environnement, et travaille comme cheffe de projet pour le Kampagnenforum. Elle est conseillère nationale du canton de Zurich et s’engage dans les domaines de l’environnement, de l’agriculture et du bien-être animal. En tant que co-direction d’une NPO, elle a déjà co-initié l’initiative contre l’élevage intensif, accompagné la campagne et travaillé dans différents domaines de la pratique agricole. En tant que journaliste indépendante, elle écrit des chroniques hebdomadaires pour Moneycab et articles invités pour Nau.ch.
Meret Schneider