Kanada lädt OpenAI zu Gesprächen wegen Gewalt in KI-Chatbots– warum das auch Schweizer Eltern betrifft

Was ist neu am Fall in Kanada – und was bedeutet das (nicht) für die Schweiz?

In Kanada sind Gespräche mit dem OpenAI-Sicherheitsteam angekündigt. Im Mittelpunkt steht die Frage, wie Plattformen mit heiklen Inhalten umgehen, die in KI-Chats auftauchen können. Auslöser sind Diskussionen im Zusammenhang mit einem tödlichen Schul-Angriff in British Columbia und Berichten zu Chatbot-Unterhaltungen der mutmasslichen Täterin.

Wichtig für dich als Elternteil in der Schweiz: Das sind Abklärungen in Kanada. Es gibt daraus keine direkte neue Regel für Schweizer Schulen oder Familien. Aber der Anlass ist real: KI-Chatbots sind für viele Jugendliche Alltag (Hausaufgaben, Ideen, Rollen- und Gedankenspiele). Und genau dort kann es sinnvoll sein, Medienkompetenz, Grenzen und Hilfewege konkret zu besprechen.

Warum KI-Chats bei Jugendlichen kippen können 

ChatGPT & Co. sind Beispiele für generative KI. Das sind Systeme, die aus grossen Datenmengen neue Texte erzeugen. Sie wirken oft „menschlich“, haben aber kein echtes Verständnis, keine Moral und keine Verantwortung. Sie reagieren auf Eingaben (Prompts) und können dadurch auch Inhalte liefern, die problematisch sind: etwa Gewaltfantasien, Selbstverletzungs-Themen, Hass oder sexualisierte Inhalte.

Aus entwicklungspsychologischer Sicht ist das Teenageralter eine Phase, in der Neugier, Ausprobieren und starke Emotionen normal sind. Gleichzeitig reift die Fähigkeit zur Impulskontrolle und Risikoeinschätzung noch. Genau deshalb hilft nicht primär ein Verbot, sondern Begleitung: klare Regeln, ein offenes Gesprächsklima und ein Plan, was bei heiklen Inhalten passiert. 

3 Schritte, die du als Eltern sofort umsetzen kannst

• Heute: 10 Minuten Check-in, ohne Verhör. Frag konkret: „Welche KI-Tools nutzt du gerade?“ „Wofür sind sie hilfreich?“ „Gab es etwas, das sich komisch, aggressiv oder beängstigend angefühlt hat?“ Ziel ist Vertrauen, nicht Kontrolle.
• Diese Woche: Eine klare Familienregel plus Stopp-Regel. Formuliere kurz und verbindlich: „KI ist kein geheimer Raum.“ „Keine Gewaltfantasien, keine Drohungen, keine Selbstverletzungs-Inhalte.“ Und die Stopp-Regel: Wenn Gewalt- oder Selbstverletzungs-Inhalte auftauchen, wird der Chat beendet und es wird mit einer Vertrauensperson gesprochen (du, eine andere Bezugsperson, Schulsozialarbeit).
• Wenn es heikel wird: sichern, melden, Hilfe holen. Bleib ruhig und mach es praktisch: Chat stoppen, wenn möglich Belege sichern (z. B. Screenshots), in der jeweiligen Plattform die Report-Funktion nutzen. Wenn dein Kind betroffen ist oder du dir Sorgen machst: Schule einbeziehen (Klassenlehrperson, Schulleitung, Schulsozialarbeit). 

Woran du merkst, dass du genauer hinschauen solltest

Nicht jedes ungewöhnliche Prompt ist ein Alarmzeichen. Viele Jugendliche testen Grenzen in Gedanken oder Sprache. Aufmerksamkeit ist trotzdem sinnvoll, wenn sich Muster zeigen: Ihr Kind zieht sich stark zurück, wirkt ungewöhnlich gereizt oder angespannt, spricht über Gewalt als „faszinierend“, oder KI-Chats werden auffällig geheim gehalten. Auch wenn KI zunehmend als „Ratgeberin“ für emotionale Themen dient, lohnt sich ein Gespräch: Nicht, weil KI grundsätzlich „gefährlich“ ist, sondern weil Jugendliche in Belastungssituationen verlässliche menschliche Unterstützung brauchen.

Wenn du unsicher bist, kann es helfen, gemeinsam einen Satz zu vereinbaren, der das Gespräch erleichtert, ohne Scham auszulösen: „Wenn dir online etwas begegnet, das dich erschreckt oder anzieht, sag es mir. Ich werde nicht schimpfen. Wir lösen es zusammen.“

Mini-FAQ für den Familienalltag

Soll ich KI-Chatbots verbieten?

Ein generelles Verbot wirkt oft nur kurzfristig und verlagert die Nutzung ins Verborgene. Häufig wirksamer sind klare Leitplanken: wofür KI okay ist (z. B. Lernen erklären lassen), wofür nicht (z. B. Gewaltfantasien, Bedrohungen, Selbstverletzung, persönliche Daten), und was bei Grenzverletzungen passiert (Stopp-Regel, Gespräch, ggf. Schule/Beratung).

Was ist ein guter „erster Satz“, wenn ich Sorge habe?

Starte niedrigschwellig: „Ich habe gemerkt, KI-Tools sind gerade überall. Ich möchte verstehen, wie du sie nutzt, damit wir gute Regeln haben.“ Das signalisiert Interesse statt Misstrauen. Danach kannst du eine konkrete Frage stellen: „Gab es Inhalte, die zu weit gingen?“

Wohin kann ich mich in der Schweiz wenden?

Bei schulbezogenen Situationen sind Klassenlehrperson, Schulleitung und Schulsozialarbeit meist die schnellsten Anlaufstellen. Für Jugendliche in Krisen ist Pro Juventute 147 eine etablierte, anonyme Hilfe. Für bestimmte digitale Vorfälle (z. B. Phishing, Betrug) bietet das Bundesamt für Cybersicherheit (BACS) ein Meldeverfahren. Welche Unterstützung in Schulen üblich ist, ordnet die EDK zur Schulsozialarbeit ein.