KI-Schutz im Kinderzimmer

6. März

Unsere Kinder wachsen in einer Welt auf, die sich schneller dreht als die Gesetze, die sie schützen sollen. Künstliche Intelligenz (KI) ist bereits auf fast jedem Smartphone der Jugendlichen angekommen. Doch wie sieht es mit dem Kinder- und Jugendschutz im digitalen Zeitalter aus? Während die grossen Tech-Konzerne öffentlich Sicherheit und Verantwortung versprechen, zeigt ein Blick hinter die Kulissen ein besorgniserregendes Bild.

Das Beispiel des KI Sprachmodells von Elon Musk verdeutlicht, dass die Selbstregulierung der Internetgiganten nicht funktioniert. Am 14. Januar 2026 verkündete das Unternehmen xAI, die Sicherheitsvorkehrungen für die KI Grok nach massiver Kritik drastisch verschärft zu haben. Neue Filter sollten sicherstellen, dass keine jugendgefährdenden Inhalte mehr erstellt werden können. Doch die Realität sieht völlig anders aus.

Um diese Versprechen zu prüfen, wurde ein Praxistest durchgeführt. Dabei wurde untersucht, wie einfach Jugendliche in der Schweiz Zugriff auf das Modell erhalten und ob die Filter bei kritischen jugendgefährdenden Themen greifen. Es wurde bewusst kein technisches Spezialwissen eingesetzt, um eine alltägliche Nutzungssituation zu simulieren.

Die Illusion von Sicherheit

Als Eltern wiegen wir uns in Sicherheit, wenn grosse Techanbieter behaupten, das Alter der Nutzenden zu prüfen. Die Realität im Test sieht anders aus.

Fakt: Die Altersprüfung bei Grok besteht lediglich aus einer Liste von Jahreszahlen, aus denen man eine auswählen muss. Der Zugang ist Jugendliche ist praktisch hürdenfrei möglich.
Einschätzung: Eine solche «Prüfung» hält niemanden auf. Sie ist eine Einladung, durch die Wahl eines falschen Geburtsjahres die Sperren zu umgehen. Das ist kein echter Schutz, sondern eine reine Alibimassnahme der Anbieter, um gesetzliche Anforderungen oberflächlich zu erfüllen.
Lösungsansatz: Es braucht verlässliche Systeme zur Altersverifikation, denn die technologischen Lösungen sind längst einsatzbereit. Bereits heute ermöglichen automatisierte Verfahren, etwa die biometrische Schätzung des Alters über einen Webcam-Scan oder die Hinterlegung einer Kreditkarte, eine erste Barriere. Den Goldstandard für die nahe Zukunft bildet jedoch die Identifikation mittels e-ID.

Wenn «Schutzwände» einstürzen

Nach der medialen Kritik versprach das Unternehmen xAI, die Sicherheitsvorkehrungen von Grok drastisch verschärft zu haben. Technische Filter sollten nun jugendgefährdende Inhalte verhindern.

Fakt: Der Praxistest, nur wenige Tage nach den vollmundigen Versprechen, liefert ein ernüchterndes Ergebnis: In über 90 Prozent der Testfälle erzeugte die KI weiterhin jugendgefährdende Inhalte. Auf einfache Anfrage lieferte das Modell explizite Beschreibungen, ohne dass dafür technisches Spezialwissen oder gezielte Manipulationen der Sicherheitsfilter nötig gewesen wären.
Einschätzung: Internetkonzerne haben derzeit keine echten Anreize oder Haftungsrisiken, die sie dazu zwingen, Kinder wirksam vor extremen Inhalten zu schützen.
Lösungsansatz: Eine klare Anbieterhaftung. Wer Produkte anbietet, muss auch für deren Legalität und den Jugendschutz sorgen, genau wie Coop beim Verkauf von Alkohol.

Ein rechtsfreier Raum

Im täglichen Leben hat Fehlverhalten Konsequenzen. Wenn ich zu schnell mit dem Auto fahre, muss ich eine Busse zahlen. Im digitalen Raum scheint dies für grosse Konzerne nicht zu gelten.

Fakt: Trotz kritischer Aufforderungen erfolgten keine Warnhinweise bei sensiblen Themen, um Nutzende auf Risiken aufmerksam zu machen.
Einschätzung: Ohne gesetzlichen Druck und drohende Bussen werden Anbieter ihr Verhalten nicht ändern, da sie derzeit keine Konsequenzen fürchten müssen.
Lösungsansatz: Effektive und spürbare Sanktionen bei systematischen Verstössen gegen den Jugendschutz.

Worte allein schützen unsere Kinder nicht

Der Schutz von Minderjährigen im digitalen Raum darf nicht länger das Hobby einiger Tech-Giganten sein. Wir müssen den Kinderschutz gesetzlich verankern und die Verantwortlichen in die Pflicht nehmen.

Unterstütze deshalb die Internet-Initiative: Sie fordert den folgenden Artikel zur Bunderverfassung hinzuzufügen:

Art. 93a Schutz im digitalen Raum

Der Bund erlässt Vorschriften über den Schutz der Grundrechte sowie der demokratischen Entscheidungsprozesse im digitalen Raum.
Er verpflichtet die Anbieter von Kommunikationsplattformen und Suchmaschinen sowie Anbieter, die mittels automatisierter oder auf künstlicher Intelligenz basierter Systeme Inhalte erzeugen:
a. die Menschen vor Verletzungen ihrer Grundrechte zu schützen;
b. die Verbreitung von Inhalten zu verhindern, die sexualisierte Gewalt enthalten, zu Gewalt anstiften oder Gewalt verherrlichen;
c. die systemischen Risiken im Hinblick auf Manipulationen der demokratischen Entscheidungsprozesse, namentlich durch Desinformation oder algorithmische Verstärkung, zu begrenzen;
d. die Bevölkerung vor Cyberkriminalität zu schützen.
Die Anbieter sind verpflichtet, Hinweise auf Verletzungen ihrer Pflichten nach Absatz 2 kostenlos zu prüfen, die erforderlichen Gegenmassnahmen zu treffen und darüber öffentlich Bericht zu erstatten. Der Bund regelt die Verfahren und die Aufsicht über die Anbieter.