Löst ein Social Media Verbot das Problem?

Es ist in aller Munde, in der Schweiz wie auch in anderen europäischen Ländern: Das Social Media Verbot für unter 16 Jährige. Während hierzulande eine Petition lanciert wurde, ist man in Deutschland bereits einen Schritt weiter. Nachdem sich die SPD und Vizekanzler Lars Klingbeil klar für ein Verbot von Social Media für unter 14 Jährige ausgesprochen haben und in einem Positionspapier der SPD zu lesen ist, dass auch unter 16 Jährige nur „Jugendversionen“ solcher Apps nutzen können sollten, hat nun auch der Koalitionspartner CDU mit Friedrich Merz Sympathien bezüglich einer solchen Regelung bekundet. Am Freitag (20.02.26) wird die CDU an ihrem Parteitag über ein solches Verbot beraten und da sich relevante Entscheidungsträger bereits dafür ausgesprochen haben, dürfte ein solches Verbot in unserem Nachbarland bald in Kraft treten.

Das ist aber keine Lösung für die Probleme, die in Bezug auf die digitalen Plattformen fortbestehen. Desinformation, Intransparente Algorithmen, Deep Fakes, Machtkonzentration bei wenigen grossen Playern und neuerdings KI-generierte Bikinidarstellungen von Frauen und Kindern grassieren auf den einschlägigen Plattformen und wenngleich es wünschenswert ist, dass Jugendliche unter 16 künftig davon unbehelligt bleiben, belasten diese Mechanismen Erwachsene und unsere Gesellschaft als Ganzes weiterhin. Manchmal erinnern mich diese Plattformen an die Hydra aus der griechischen Mythologie: Immer wenn man ihr einen Kopf abschlägt, wachsen ihr zwei neue. Versucht man, justiziable Inhalte von Plattformen zu verbannen, so ploppt ein neues Feature auf, mit dem man Frauen und Kinder auf Bildern mit KI “ausziehen” und damit Bikinibilder von ihnen generieren kann. Will man gewaltverherrlichende Darstellungen melden, so taucht plötzlich ein Trend auf, im Zuge dessen KI-generierte Holocaust-Bilder von geigenspielenden Juden und Brot teilenden Kindern die Plattformen fluten, da diese Klicks generieren. Der Holocaust als Geschäftsmodell - skrupelloser geht es nicht und zu recht protestieren Holocaust Gedenkstätten gegen solche Inhalte. Die Schweiz schaut derweil zu, scheinbar achselzuckend und schickt ein Plattformregulierungsgesetz in die Vernehmlassung, das exakt diese Probleme nicht einmal adressiert. 

Der vom Bundesrat vorgeschlagene Gesetzesentwurf nimmt zwar einige relevante Punkte auf und setzt erste wichtige Richtlinien für die Regulierung von Kommunikationsplattformen und Suchmaschinen. Beispielsweise werden die Plattformen dazu verpflichtet, ein Meldeverfahren einzurichten, eine Rechtsvertretung in der Schweiz zu benennen, Datenzugang zu gewähren sowie Inhalte zu moderieren. Zudem werden mit dem Entwurf Sanktionen eingeführt, die für die Plattformen auch tatsächlich schmerzhaft sein können und Wirkung entfalten werden. Sogar Netzsperren werden im bundesrätlichen Vorschlag in Betracht gezogen, was in Anbetracht des sonst eher zögerlichen Vorgehens erstaunt und positiv überrascht. 

Fatal ist jedoch, dass bestimmte Bereiche komplett ausgeklammert werden und dadurch die Wirksamkeit des Gesetzes stark geschwächt wird. So bleiben im Gesetzesentwurf des Bundesrates beispielsweise KI-generierte Inhalte komplett unerwähnt, obwohl gerade diese aufgrund ihres Einflusses auf die Meinungsbildung und eines erhöhten Desinformationspotentials dringend reguliert werden müssten. Mittlerweile wird beinahe jedes Handyfoto mit KI bearbeitet, weshalb ein Label für KI-generierte Inhalte inflationär verwendet werden müsste und so für die Nutzer*innen kaum mehr einen Mehrwert hätte. Eine griffigere Möglichkeit wäre es hingegen, die Beweislast umzukehren: Nicht die KI-generierten Inhalte müssen gekennzeichnet werden, sondern die Authentizität von Inhalten. Das heisst, Nutzende müssen nicht-KI-generierte Inhalte als solche verifizieren und nur bei diesen kann mit Sicherheit von deren Echtheit ausgegangen werden. Dazu können organisatorische Qualitätssicherungsprozesse und technische Möglichkeiten, beispielsweise kryptografische Signaturen oder Wasserzeichen, eingesetzt werden. Verfügt ein Inhalt nicht über einen solchen Nachweis, muss er als «nicht verifiziert» gekennzeichnet werden. So können die Nutzende schnell erkennen, ob ein Inhalt echt oder fake ist – der zentrale Punkt, um Beeinflussung und Desinformation der Bevölkerung reduzieren zu können.

Ausserdem fehlen klare Fristen bei der Bearbeitung der Meldeverfahren von justiziablen Inhalten wie Gewaltaufrufen, Drohungen oder Deep Fakes. Es ist daher zu befürchten, dass sich solche Prozesse ewig und drei Tage hinziehen werden und daher ihre Schlagkraft verlieren. Zudem sollten nicht nur Inhalte, sondern auch problematische Aktivitäten von Bots oder Fake Accounts gemeldet werden können. Im aktuellen Gesetzesentwurf fehlt eine Regelung zu Bots komplett. Gerade die automatisierte Verbreitung von Inhalten birgt jedoch grosse Risiken in Bezug auf Meinungsbildung und Desinformation, wie sich bereits heute an einer vielzahl vor allem russischer Bots beobachten lässt. Die Kommunikationsplattformen müssen verpflichtet werden, auch diese Konten zu kennzeichnen. Sinnvoll wäre die Schaffung eines neuen Artikels mit folgendem Inhalt: «Anbieterinnen von Kommunikationsplattformen kennzeichnen auf für Nutzerinnen und Nutzer gut sichtbare Weise Konten, die automatisiert Inhalte posten.» Damit könnten echte Menschen von automatisierten Accounts unterschieden werden und die Transparenz würde erhöht. 

Dies sind nur einige der zentralen Schwachstellen des Gesetzesentwurfes, doch in Anbetracht der beschleunigten Entwicklung auf den Plattformen und der Woge an KI-generierten Inhalten, die uns Nutzende zu überrollen droht, sind es meines Erachtens die relevantesten. Glücklicherweise ist der parlamentarische Prozess zum Gesetz eben erst angelaufen und die politische Arbeit daran beginnt jetzt. Und wie immer gilt: Politik bewegt sich auch auf Druck aus der Öffentlichkeit.