Une interdiction des réseaux sociaux résout-elle le problème ?
Le sujet est sur toutes les lèvres, en Suisse comme dans d'autres pays européens : l'interdiction des réseaux sociaux pour les moins de 16 ans. Alors qu'une pétition a été lancée chez nous, l'Allemagne a déjà franchi un pas supplémentaire. Après que le SPD et le vice-chancelier Lars Klingbeil se sont clairement prononcés en faveur d'une interdiction
Tout le monde en parle, en Suisse comme dans d'autres pays européens : l'interdiction des réseaux sociaux pour les moins de 16 ans. Alors qu'une pétition a été lancée chez nous, l'Allemagne a déjà une longueur d'avance. Après que le SPD et le vice-chancelier Lars Klingbeil se sont clairement prononcés en faveur d'une interdiction des réseaux sociaux pour les moins de 14 ans, et qu'un document de position du SPD indique que les moins de 16 ans ne devraient également pouvoir utiliser que des « versions pour jeunes » de ces applications, le partenaire de coalition, la CDU, par la voix de Friedrich Merz, a désormais lui aussi exprimé sa sympathie pour une telle réglementation. Le vendredi (20.02.26), la CDU délibérera sur une telle interdiction lors de son congrès et, comme des décideurs importants se sont déjà prononcés en sa faveur, une telle interdiction devrait bientôt entrer en vigueur dans notre pays voisin.
Mais ce n'est pas une solution aux problèmes qui persistent concernant les plateformes numériques. La désinformation, les algorithmes opaques, les deepfakes, la concentration du pouvoir entre les mains de quelques grands acteurs et, depuis peu, les représentations en bikini de femmes et d'enfants générées par IA font rage sur les plateformes concernées. Et bien qu'il soit souhaitable que les jeunes de moins de 16 ans soient épargnés à l'avenir, ces mécanismes continuent de peser sur les adultes et sur notre société dans son ensemble. Parfois, ces plateformes me rappellent l'Hydre de la mythologie grecque : chaque fois qu'on lui coupe une tête, il lui en pousse deux nouvelles. Si l'on tente de bannir des contenus illégaux des plateformes, une nouvelle fonctionnalité surgit, permettant de « déshabiller » des femmes et des enfants sur des images grâce à l'IA pour générer des photos d'eux en bikini. Si l'on veut signaler des représentations glorifiant la violence, une tendance apparaît soudainement, inondant les plateformes d'images de l'Holocauste générées par IA montrant des Juifs jouant du violon et des enfants partageant du pain, car elles génèrent des clics. L'Holocauste comme modèle d'affaires – on ne peut pas faire plus sans scrupules, et c'est à juste titre que les mémoriaux de l'Holocauste protestent contre de tels contenus. Pendant ce temps, la Suisse regarde faire, haussant apparemment les épaules, et met en consultation une loi sur la régulation des plateformes qui n'aborde même pas ces problèmes précis.
Le projet de loi proposé par le Conseil fédéral aborde certes quelques points pertinents et pose de premières lignes directrices importantes pour la régulation des plateformes de communication et des moteurs de recherche. Par exemple, les plateformes sont tenues de mettre en place une procédure de signalement, de désigner un représentant légal en Suisse, d'accorder l'accès aux données et de modérer les contenus. De plus, le projet introduit des sanctions qui pourraient s'avérer réellement douloureuses pour les plateformes et avoir un réel impact. Le blocage de sites internet est même envisagé dans la proposition du Conseil fédéral, ce qui étonne et surprend positivement au vu de la démarche habituellement plutôt hésitante.
Il est toutefois regrettable que certains domaines soient complètement occultés, ce qui affaiblit considérablement l'efficacité de la loi. Ainsi, les contenus générés par l'IA restent par exemple totalement passés sous silence dans le projet de loi du Conseil fédéral, alors qu'ils devraient de toute urgence être régulés en raison de leur influence sur la formation de l'opinion et d'un potentiel accru de désinformation. Aujourd'hui, presque toutes les photos prises avec un téléphone portable sont retouchées par l'IA, c'est pourquoi un label pour les contenus générés par l'IA devrait être utilisé de manière inflationniste et n'apporterait donc presque plus de valeur ajoutée aux utilisateurs·trices. Une solution plus efficace consisterait en revanche à inverser la charge de la preuve : ce ne sont pas les contenus générés par l'IA qui doivent être signalés, mais l'authenticité des contenus. Cela signifie que les utilisateurs·trices doivent vérifier les contenus non générés par l'IA comme tels, et que ce n'est que pour ces derniers que l'on peut présumer de leur authenticité avec certitude. Pour ce faire, des processus organisationnels d'assurance qualité et des moyens techniques, comme des signatures cryptographiques ou des filigranes, peuvent être mis en œuvre. Si un contenu ne dispose pas d'une telle preuve, il doit être étiqueté comme « non vérifié ». Ainsi, les utilisateurs·trices peuvent rapidement identifier si un contenu est réel ou faux – le point central pour pouvoir réduire l'influence et la désinformation de la population.
De plus, il manque des délais clairs pour le traitement des procédures de signalement de contenus illégaux tels que les appels à la violence, les menaces ou les deepfakes. Il est donc à craindre que ces processus ne s'éternisent indéfiniment et perdent ainsi de leur efficacité. En outre, il devrait être possible de signaler non seulement des contenus, mais aussi des activités problématiques de bots ou de faux comptes. Dans le projet de loi actuel, toute réglementation concernant les bots fait totalement défaut. Pourtant, la diffusion automatisée de contenus comporte précisément des risques majeurs en matière de formation de l'opinion et de désinformation, comme on peut déjà l'observer aujourd'hui avec un grand nombre de bots, russes pour la plupart. Les plateformes de communication doivent être tenues de signaler également ces comptes. Il serait judicieux de créer un nouvel article ainsi rédigé : « Les fournisseurs de plateformes de communication signalent de manière bien visible pour les utilisateurs et utilisatrices les comptes qui publient des contenus de façon automatisée. » Cela permettrait de distinguer les personnes réelles des comptes automatisés et d'accroître la transparence.
Ce ne sont là que quelques-unes des faiblesses centrales du projet de loi, mais au vu du développement accéléré des plateformes et de la vague de contenus générés par l'IA qui menace de nous submerger, nous, les utilisateurs·trices, ce sont à mon avis les plus pertinentes. Heureusement, le processus parlementaire relatif à la loi vient tout juste de commencer et le travail politique à ce sujet débute maintenant. Et comme toujours, la politique bouge aussi sous la pression de l'opinion publique.