Die Diskussion über eine zunehmend sogenannte #empathischeKI ist aktueller denn je – gerade im Kontext von Kindern und Jugendlichen. Neben den fraglos bestehenden Potentialen haben KI-gestützte Avatare aber auch erhebliche Risiken für Kinder und ihre Entwicklung, wenn sie unreflektiert und ohne Schutzmechanismen eingesetzt werden. Das gilt insbesondere für die Simulation einer Beziehungsebene:
Was kann passieren, wenn Kinder KI-Beziehungen als real wahrnehmen? Kinder könnten unrealistische Erwartungen entwickeln – an sich selbst, an andere Menschen bzw. zwischenmenschliche Beziehungen. KI-Avatare, die immer nett, scheinbar fehlerfrei und verfügbar sind, vermitteln ein verzerrtes Bild von wirklicher Kommunikation, wirklich menschlichem Verhalten und Empathie. Gleichzeitig besteht die Möglichkeit, dass Kinder echte soziale Interaktionen meiden, weil sie schwieriger, konfliktreicher oder schwerer einzuschätzen sind und so jede Menge Unsicherheiten bergen.
Der fehlende Umgang mit Konflikten, Frustration oder Kritik wird nicht nur nicht mehr geübt, wenn KI diese Herausforderungen immer in Dialogen “glattbügelt”, es kann zum Abbau sozialer Kompetenzen kommen. Einen Hinweis darauf liefert uns bereits der zu beobachtende Rückgang von empathischen Fähigkeiten bei den jüngeren Generationen.
Bei aller Kritik dürfen wir aber nicht von einem idealisierten Bild unserer Gesellschaft ausgehen und müssen im Blick haben, dass KI eben auch positive Effekte haben kann. KI-basierte Beratung kann zum niedrigschwelligen Unterstützungsangebot werden – anonym, rund um die Uhr und ohne Vorurteile. Gerade Kinder, die sich schwer tun, mit Erwachsenen über Probleme zu sprechen und/oder bereits negative Erfahrungen mit Erwachsenen gemacht haben, könnten hier neue Möglichkeiten finden, einer Isolation zu entkommen. Insbesondere dann, wenn KI die Kinder ermutigt und unterstützt, sich menschlichen Beratungsangeboten zu öffnen.
KI kann individuell fördern, Barrieren abbauen und Lernprozesse spielerisch gestalten. Kinder mit besonderen Bedürfnissen könnten gezielt unterstützt werden. Das gilt zum Beispiel dort, wo Unterstützungsmöglichkeiten im Elternhaus nicht gegeben sind. Hier könnte KI letztlich sogar dazu beitragen, die Durchlässigkeit der Gesellschaft zu erhöhen.
Durch gezielte Fragen und Simulationen kann KI für Kinder zum sozialen Trainingstool werden, Emotionen besser zu erkennen und zu regulieren.
Letztlich halte ich KI, mit Blick auf unsere Gesellschaft und dem, was ich von Erfahrungen aus der Jugendarbeit und der außerschulischen Bildungsarbeit mitbringe, eher für ein Potenzial, dass wir nutzen und mit kritischem Blick gestalten sollten.
Das bedeutet, dass wir die folgenden Punkte auf jeden Fall diskutieren müssen:
Transparenz und Kennzeichnung:
Jede KI sollte deutlich und wiederholt darauf hinweisen, dass sie kein Mensch ist – sichtbar, hörbar und altersgerecht gestaltet.
Digitale Beziehungskompetenz fördern:
Kinder müssen lernen, wie KI funktioniert und warum sie keine “echten Gefühle” oder Freundschaften bieten kann. Workshops und schulische Programme könnten hier helfen. Meiner Meinung nach gehört so etwas als Pflichtfach in die Schule.
Regulierung und Schutzmechanismen:
Unternehmen sollten gesetzlich verpflichtet werden, KI-Angebote für Kinder an ethischen Standards auszurichten. Technische Zugangsbeschränkungen und verpflichtende Hinweise könnten Kinder zusätzlich schützen.
Eltern und Pädagog*innen befähigen und begleiten die Kinder im Umgang mit KI:
Begleitende Gespräche und Tools für Eltern können helfen, den Umgang mit KI zu überwachen und Missverständnisse frühzeitig aufzuklären.
Altersbeschränkung für KI:
Der Zugang zu KI könnte zum Beispiel auf das Mindestalter von zwölf Jahren beschränkt werden. Entsprechend müssten kindgerechte KI-Angebote von vornherein ausgeschlossen werden. Das nimmt Eltern die Möglichkeit, ihre Kinder, neben dem Fernseher, auch noch vor der KI zu parken oder die Gutenachtgeschichte an ihren KI-Zwilling abzutreten.
Die Frage ist imho also letztlich nicht (mehr), ob #empathischeKI Teil unseres Alltags wird, sondern wie wir sie gestalten, so dass sie Kinder fördert, anstatt ihre soziale Entwicklung zu gefährden. Bildung, Transparenz und klare (rechtliche) Grenzen sind der Schlüssel, um die Potentiale zu nutzen und die Risiken zu minimieren.
Michael E.W. Ney
Beratung, Forschungsinstitut Betriebliche Bildung (f-bb)