Das Institut für Digitale Ethik (IDE) der Stuttgarter Hochschule der Medien hat zusammen mit der Beratungsplattform klicksafe.de „10 Gebote der KI-Ethik“ herausgegeben, die im Netz ein nahezu einhellig positives Echo ausgelöst haben.

Im Folgenden soll kurz gezeigt werden, warum die „Gebote“, die sich explizit an Kinder und Jugendliche im Alter von 12 bis 17 Jahren richten, im Kern problematisch sind – auch wenn sie sicherlich mit den besten Intentionen formuliert wurden.

Die Probleme beginnen mit dem Titel. 

Denn während Ethik als rational-diskursive Theorie moralischen Handelns verstanden werden kann, sind Gebote normativ-autoritäre Setzungen, die befolgt und nicht diskutiert werden sollen. Doch der kompetente, selbstbestimmt-reflexive und sozial verantwortliche Umgang mit KI lässt sich natürlich nicht durch das Befolgen von Geboten erreichen.

Gerade gegenüber der Zielgruppe der Kinder und Jugendlichen ist die latent adultistische Gebots-Haltung kontraproduktiv, wenn es um die aktive Förderung von Medienkompetenz geht.

Weiterhin fällt auf, dass sich kaum ein Gebot spezifisch auf KI bezieht, sondern lediglich allgemeine Lebens- oder Netzregeln in einer KI-Version präsentiert werden. 

Dass man Dinge stets kritisch prüfen und nicht alles glauben soll (vgl. Gebot 3), ist ebenso eine Binsenweisheit wie die Forderung, dass man Technik nicht nutzen sollte, um anderen zu schaden (vgl. Gebot 6). Das gilt nicht nur für KI, sondern auch für die Handschrift und den Hammer. 

Als noch problematischer erweist sich die Reduktion komplexer struktureller Verantwortungsdimensionen auf die persönliche Ebene der Nutzer:innen. 

So wird mit Gebot 9 („Wäge ab, wann du KI nutzen willst. KI kostet viel Energie und für sie werden Menschen ausgebeutet.“) die individuelle KI-Nutzung  moralisch negativ aufgeladen, während der Einfluss von Konzernen, Algorithmen und Plattform-Logiken gar nicht beleuchtet wird. 

Gebot 2 („Sei dir bewusst, dass KI keine echten Freundschaften und Beziehungen ersetzen kann.“) adressiert offensichtlich den ELIZA-, LaMDA– oder HER-Effekt, der eintreten kann, wenn Menschen im Dialog mit KI-Chatbots die Maschine mit einem Menschen verwechseln. Das ist sicherlich ein wichtiges Thema. 

Gleichzeitig enthält die Formulierung „echte Freundschaften und Beziehungen“ feine Spuren des ontologisch und epistemologisch naiven digitalen Dualismus, der u.a. davon ausgeht, dass es wahre Freundschaft nur im echten Leben und nicht in der virtuellen Scheinwelt des Internets geben kann. 

Der Punkt ist: Selbstverständlich können Kinder und Jugendliche im Chat mit der KI keine echte Freundschaft finden. Ebenso selbstverständlich können sie jedoch im Chat mit Ihren Peers echte Freundschaften aufbauen und pflegen.

Und schließlich:

Die „10 Gebote“ rücken Technik in die Nähe des Mythisch-Magischen. Gebot 1: „Erzähle und zeige der KI möglichst wenig von dir und deinem Umfeld“ enthält den Subtext: „Wer weiß, was dieser undurchschaubar-gefährliche Moloch mit Dir und Deiner Familie anstellen wird, wenn Du Dich nicht an das Gebot hältst.“

Hier steht nicht rationale Aufklärung, sondern die Dämonisierung einer magischen Blackbox im Vordergrund.