Une interdiction des médias sociaux résout-elle le problème ?

Une interdiction des réseaux sociaux résout-elle le problème ?

par Meret Schneider

C'est sur toutes les lèvres, en Suisse comme dans d'autres pays européens : l'interdiction des réseaux sociaux pour les moins de 16 ans. Alors qu'une pétition a été lancée dans notre pays, l'Allemagne a déjà une longueur d'avance. Après que le SPD et le vice-chancelier Lars Klingbeil se sont clairement prononcés en faveur d'une interdiction des réseaux sociaux pour les moins de 14 ans, et qu'un document de position du SPD indique que les moins de 16 ans ne devraient pouvoir utiliser que des « versions pour jeunes » de ces applications, le partenaire de coalition, la CDU, par la voix de Friedrich Merz, a désormais lui aussi exprimé sa sympathie pour une telle réglementation. Vendredi (20.02.26), la CDU délibérera sur une telle interdiction lors de son congrès et, comme des décideurs importants se sont déjà prononcés en sa faveur, une telle interdiction devrait bientôt entrer en vigueur chez notre voisin.

Ce n'est pourtant pas une solution aux problèmes qui persistent concernant les plateformes numériques. Désinformation, algorithmes opaques, deepfakes, concentration du pouvoir entre les mains de quelques grands acteurs et, depuis peu, représentations en bikini de femmes et d'enfants générées par IA pullulent sur les plateformes concernées. Même s'il est souhaitable que les jeunes de moins de 16 ans en soient préservés à l'avenir, ces mécanismes continuent de peser sur les adultes et sur notre société dans son ensemble. Parfois, ces plateformes me rappellent l'Hydre de la mythologie grecque : chaque fois qu'on lui coupe une tête, il en repousse deux. Si l'on tente de bannir des contenus répréhensibles des plateformes, une nouvelle fonctionnalité surgit, permettant de « déshabiller » des femmes et des enfants sur des images grâce à l'IA pour générer des photos d'eux en bikini. Si l'on veut signaler des représentations glorifiant la violence, un nouveau phénomène apparaît soudainement, inondant les plateformes d'images de l'Holocauste générées par IA – montrant des Juifs jouant du violon et des enfants partageant du pain – car elles génèrent des clics. L'Holocauste comme modèle d'affaires : on ne peut pas faire plus cynique, et c'est à juste titre que les mémoriaux de l'Holocauste protestent contre de tels contenus. Pendant ce temps, la Suisse assiste à cela, haussant apparemment les épaules, et met en consultation une loi sur la réglementation des plateformes qui n'aborde même pas ces problèmes précis.

Le projet de loi proposé par le Conseil fédéral aborde certes certains points pertinents et pose de premières lignes directrices importantes pour la régulation des plateformes de communication et des moteurs de recherche. Par exemple, les plateformes sont tenues de mettre en place une procédure de signalement, de désigner un représentant légal en Suisse, de garantir l'accès aux données et de modérer les contenus. De plus, le projet introduit des sanctions qui pourraient s'avérer réellement douloureuses pour les plateformes et avoir un véritable impact. Le projet du Conseil fédéral envisage même des blocages de réseau, ce qui étonne et surprend positivement au vu de la démarche habituellement plutôt hésitante.

Il est toutefois regrettable que certains domaines soient complètement occultés, ce qui affaiblit considérablement l'efficacité de la loi. Ainsi, le projet de loi du Conseil fédéral passe totalement sous silence les contenus générés par IA, alors que ceux-ci devraient de toute urgence être régulés en raison de leur influence sur la formation de l'opinion et d'un risque accru de désinformation. Aujourd'hui, presque toutes les photos prises avec un téléphone portable sont retouchées par IA, c'est pourquoi un label pour les contenus générés par IA devrait être utilisé de manière inflationniste et n'apporterait presque plus de valeur ajoutée aux utilisateurs et utilisatrices. Une option plus efficace consisterait en revanche à inverser la charge de la preuve : ce ne sont pas les contenus générés par IA qui doivent être signalés, mais l'authenticité des contenus. En d'autres termes, les utilisateurs doivent vérifier les contenus non générés par IA en tant que tels, et ce n'est que pour ces derniers que l'on peut être sûr de leur authenticité. Pour ce faire, il est possible de recourir à des processus organisationnels d'assurance qualité et à des solutions techniques, comme des signatures cryptographiques ou des filigranes. Si un contenu ne dispose pas d'une telle preuve, il doit être marqué comme « non vérifié ». Les utilisateurs peuvent ainsi rapidement identifier si un contenu est réel ou faux – le point central pour réduire l'influence et la désinformation de la population.

De plus, il manque des délais clairs pour le traitement des procédures de signalement de contenus répréhensibles tels que les appels à la violence, les menaces ou les deepfakes. Il est donc à craindre que ces processus ne s'éternisent et perdent ainsi de leur efficacité. En outre, il devrait être possible de signaler non seulement des contenus, mais aussi des activités problématiques de bots ou de faux comptes. Dans le projet de loi actuel, toute réglementation concernant les bots fait totalement défaut. Pourtant, la diffusion automatisée de contenus comporte des risques majeurs pour la formation de l'opinion et la désinformation, comme on peut déjà l'observer aujourd'hui avec un grand nombre de bots, notamment russes. Les plateformes de communication doivent être tenues de signaler également ces comptes. Il serait judicieux de créer un nouvel article rédigé comme suit : « Les fournisseurs de plateformes de communication signalent de manière bien visible pour les utilisateurs et utilisatrices les comptes qui publient des contenus de façon automatisée. » Cela permettrait de distinguer les personnes réelles des comptes automatisés et de renforcer la transparence.

Ce ne sont là que quelques-unes des faiblesses majeures du projet de loi, mais au vu du développement accéléré des plateformes et de la vague de contenus générés par IA qui menace de submerger les utilisateurs, ce sont à mon sens les plus pertinentes. Heureusement, le processus parlementaire concernant cette loi vient tout juste de commencer et le travail politique débute maintenant. Et comme toujours : la politique bouge aussi sous la pression de l'opinion publique.

Notre autriceMeret Schneider est linguiste, spécialiste en communication et en sciences de l'environnement, et travaille comme cheffe de projet pour le Kampagnenforum. Elle est conseillère nationale du canton de Zurich et s'engage dans les domaines de l'environnement, de l'agriculture et du bien-être animal. En tant que co-directrice d'une ONG, elle a co-initié l'initiative contre l'élevage intensif, a accompagné la campagne et a été active dans différents domaines de la pratique agricole. En tant que journaliste indépendante, elle rédige des chroniques hebdomadaires pour Moneycab et des contributions pour Nau.ch,Meret Schneider