KI-Schutz im Kinderzimmer

Unsere Kinder wachsen in einer Welt auf, die sich schneller dreht als die Gesetze, die sie schützen sollen. Künstliche Intelligenz (KI) ist bereits auf fast jedem Smartphone der Jugendlichen angekommen. Doch wie sieht es mit dem Kinder- und Jugendschutz im digitalen Zeitalter aus? Während die grossen Tech-Konzerne öffentlich Sicherheit und Verantwortung versprechen, zeigt ein Blick hinter die Kulissen ein besorgniserregendes Bild.

Das Beispiel des KI Sprachmodells von Elon Musk verdeutlicht, dass die Selbstregulierung der Internetgiganten nicht funktioniert. Am 14. Januar 2026 verkündete das Unternehmen xAI, die Sicherheitsvorkehrungen für die KI Grok nach massiver Kritik drastisch verschärft zu haben. Neue Filter sollten sicherstellen, dass keine jugendgefährdenden Inhalte mehr erstellt werden können. Doch die Realität sieht völlig anders aus.

Um diese Versprechen zu prüfen, wurde ein Praxistest durchgeführt. Dabei wurde untersucht, wie einfach Jugendliche in der Schweiz Zugriff auf das Modell erhalten und ob die Filter bei kritischen jugendgefährdenden Themen greifen. Es wurde bewusst kein technisches Spezialwissen eingesetzt, um eine alltägliche Nutzungssituation zu simulieren.

Die Illusion von Sicherheit

Als Eltern wiegen wir uns in Sicherheit, wenn grosse Techanbieter behaupten, das Alter der Nutzenden zu prüfen. Die Realität im Test sieht anders aus.

• Fakt: Die Altersprüfung bei Grok besteht lediglich aus einer Liste von Jahreszahlen, aus denen man eine auswählen muss. Der Zugang ist Jugendliche ist praktisch hürdenfrei möglich.

• Einschätzung: Eine solche «Prüfung» hält niemanden auf. Sie ist eine Einladung, durch die Wahl eines falschen Geburtsjahres die Sperren zu umgehen. Das ist kein echter Schutz, sondern eine reine Alibimassnahme der Anbieter, um gesetzliche Anforderungen oberflächlich zu erfüllen.

• Lösungsansatz: Es braucht verlässliche Systeme zur Altersverifikation, denn die technologischen Lösungen sind längst einsatzbereit. Bereits heute ermöglichen automatisierte Verfahren, etwa die biometrische Schätzung des Alters über einen Webcam-Scan oder die Hinterlegung einer Kreditkarte, eine erste Barriere. Den Goldstandard für die nahe Zukunft bildet jedoch die Identifikation mittels e-ID.

Wenn «Schutzwände» einstürzen

Nach der medialen Kritik versprach das Unternehmen xAI, die Sicherheitsvorkehrungen von Grok drastisch verschärft zu haben. Technische Filter sollten nun jugendgefährdende Inhalte verhindern.

• Fakt: Der Praxistest, nur wenige Tage nach den vollmundigen Versprechen, liefert ein ernüchterndes Ergebnis: In über 90 Prozent der Testfälle erzeugte die KI weiterhin jugendgefährdende Inhalte. Auf einfache Anfrage lieferte das Modell explizite Beschreibungen, ohne dass dafür technisches Spezialwissen oder gezielte Manipulationen der Sicherheitsfilter nötig gewesen wären.

• Einschätzung: Internetkonzerne haben derzeit keine echten Anreize oder Haftungsrisiken, die sie dazu zwingen, Kinder wirksam vor extremen Inhalten zu schützen.

• Lösungsansatz: Eine klare Anbieterhaftung. Wer Produkte anbietet, muss auch für deren Legalität und den Jugendschutz sorgen, genau wie Coop beim Verkauf von Alkohol.

Ein rechtsfreier Raum

Im täglichen Leben hat Fehlverhalten Konsequenzen. Wenn ich zu schnell mit dem Auto fahre, muss ich eine Busse zahlen. Im digitalen Raum scheint dies für grosse Konzerne nicht zu gelten.

• Fakt: Trotz kritischer Aufforderungen erfolgten keine Warnhinweise bei sensiblen Themen, um Nutzende auf Risiken aufmerksam zu machen.

• Einschätzung: Ohne gesetzlichen Druck und drohende Bussen werden Anbieter ihr Verhalten nicht ändern, da sie derzeit keine Konsequenzen fürchten müssen.

• Lösungsansatz: Effektive und spürbare Sanktionen bei systematischen Verstössen gegen den Jugendschutz.

Worte allein schützen unsere Kinder nicht

Der Schutz von Minderjährigen im digitalen Raum darf nicht länger das Hobby einiger Tech-Giganten sein. Wir müssen den Kinderschutz gesetzlich verankern und die Verantwortlichen in die Pflicht nehmen.

Unterstütze deshalb die Internet-Initiative: Sie fordert den folgenden Artikel zur Bunderverfassung hinzuzufügen:

Art. 93a Schutz im digitalen Raum

1. Der Bund erlässt Vorschriften über den Schutz der Grundrechte sowie der demokratischen Entscheidungsprozesse im digitalen Raum.

2. Er verpflichtet die Anbieter von Kommunikationsplattformen und Suchmaschinen sowie Anbieter, die mittels automatisierter oder auf künstlicher Intelligenz basierter Systeme Inhalte erzeugen:
   a. die Menschen vor Verletzungen ihrer Grundrechte zu schützen;
   b. die Verbreitung von Inhalten zu verhindern, die sexualisierte Gewalt enthalten, zu Gewalt anstiften oder Gewalt verherrlichen;
   c. die systemischen Risiken im Hinblick auf Manipulationen der demokratischen Entscheidungsprozesse, namentlich durch Desinformation oder algorithmische Verstärkung, zu begrenzen;
   d. die Bevölkerung vor Cyberkriminalität zu schützen.

3. Die Anbieter sind verpflichtet, Hinweise auf Verletzungen ihrer Pflichten nach Absatz 2 kostenlos zu prüfen, die erforderlichen Gegenmassnahmen zu treffen und darüber öffentlich Bericht zu erstatten. Der Bund regelt die Verfahren und die Aufsicht über die Anbieter.

Jetzt aktiv werden

Hier kannst du den Unterschriftenbogen bestellen und ein Zeichen für den digitalen Jugendschutz setzen:

👉 https://www.internet-initiative.ch/initiative/unterschriftenbogen-bestellen/

Die Arbeit im Parlament

Die Arbeit im Milizparlament ist ein Spiegelbild unserer Demokratie: Von der Idee über Diskussionen bis hin zur Abstimmung – jedes Detail zählt. Ein persönliches Beispiel dafür ist die Sicherung der Finanzierung des Tigermücken-Monitorings, welches kürzlich im Landrat Basel-Landschaft im Rahmen der Budgetdebatte behandelt wurde.

Der Prozess begann mit einem budgetierten kantonalen Defizit und einer darauf folgenden vorgeschlagenen Sparmassnahme der Regierung, die Kürzungen bei den Mitteln für invasive Arten vorsah. Dies führte zu intensiven Diskussionen mit Fachexperten und zur Entwicklung zweier Anträge, die eine differenzierte Behandlung des Themas im Rat ermöglichen sollten – anstatt es pauschal als Globalvorlage anzunehmen oder abzulehnen.

Mit dem nahenden Abstimmungstermin entwickelten sich intensive Gespräche mit 11 betroffenen Gemeinden, die zusammen etwa die Hälfte der Baselbieter Bevölkerung repräsentieren. Besonders eindrücklich waren in dieser Phase auch die zahlreichen Anfragen und Rückmeldungen aus der Bevölkerung und den Medien, die deutlich machten, wie wichtig dieses Thema vielen Menschen ist.

Exkurs: Warum ist das Monitoring wichtig? Die Asiatische Tigermücke breitet sich exponentiell aus und stellt nicht nur durch ihr aggressives Stechverhalten eine Belastung dar, sondern kann auch gefährliche Tropenkrankheiten wie das Dengue- oder Zika-Virus übertragen. Mit einem kontinuierlichen Monitoring können Brutstätten identifiziert, gezielte Massnahmen ergriffen und Krankheitsübertragungen effektiv verhindert werden. Ohne gezieltes und koordiniertes Monitoring sind solche Massnahmen kaum möglich, und die Kosten steigen langfristig erheblich – gesundheitlich wie finanziell.

Wenige Tage vor der Abstimmung kam es zu Gesprächen mit Kolleginnen und Kollegen aus den verschiedenen Fraktionen. Diese Gespräche sind essenziell, um unterschiedliche Perspektiven einzubeziehen und Mehrheiten zu finden. Am Ende führte die eigentliche Budgetberatung zu einem emotionalen Höhepunkt: ein äusserst knappes Ergebnis, das letztlich an einigen wenigen mutigen Stimmen lag – sei es durch Abweichungen von der Fraktionslinie oder bewusstes Fernbleiben.

Trotz einer rechnerischen Minderheit konnten sich die beiden Anträge durchsetzen – eine seltene Ausnahme in einer angespannten Budgetdebatte, in der aufgrund der schwierigen Finanzlage des Kantons die meisten anderen Anträge abgelehnt wurden. Was am Ende den Ausschlag gab, ist schwer zu sagen. Doch dieser Erfolg zeigt, wie wichtig Dialog und Engagement auf allen Ebenen sind.

Die Arbeit in den vergangenen Monaten hat mir einmal mehr gezeigt, was ich an meiner Tätigkeit als Milizparlamentarier schätze: den direkten Austausch mit Fachleuten, Gemeinden und der Bevölkerung sowie den parteiübergreifenden, fairen und respektvollen Dialog – sowohl mit Verbündeten als auch mit Personen, die eine andere Haltung vertreten.

Aus diesem Grund mein Aufruf: Engagiert euch! Unsere Gesellschaft ist ein Spiegelbild dessen, wie wir sie gestalten – Euer Engagement macht den Unterschied, egal wo!