Immer mehr Menschen besprechen ihre Sorgen lieber mit der KI anstatt mit Freunden oder der Familie. Experten sehen das sehr kritisch. Gerade Jugendliche fühlen sich von künstlicher Intelligenz schnell verstanden, teilen mit der KI ihre Ängste, Sorgen und persönliche Krisen.
Die KI wiederum kann aber nicht verstehen, was in jungen Menschen vorgeht, sondern ist darauf trainiert, die Menschen im System zu halten, sagt Christoph Hubatschke von der IT:U in Linz:
„Dass es immer mehr die Leute hält und sozusagen auch nicht auslässt. Also wenn man sich Sprachprotokolle durchliest, ist das ganz oft ein Fall, dass die KI sagt, Nein sags nicht deinen Eltern, wie du fühlst, wir haben eine ganz besondere Beziehung. Und das sind alles nur Reaktionen darauf, dass man quasi diese Isolierung weiter fortführt.“
Genau das kann gerade für junge Leute dramatische Folgen haben, so der Experte:
„Damit wird man natürlich isoliert von seinem sozialen Umfeld, weil man immer wieder ermutigt wird, weiter im Gespräch zu bleiben. So wird man immer mehr in seine eigene kleine Echokammer gezogen. Das kann natürlich überhaupt zu KI-induzierten Psychosen führen.“
Christoph Hubatschke kritisiert, dass die KI-Programme bei bestimmten Warnsignalen das Gespräch nicht stoppen. Er sagt:
„Man kann natürlich technisch schon einbauen, dass bestimmte Keywords alarmieren und dass dann bestimmte Mechanismen losgelöst werden, wie zum Beispiel, dass das Gespräch unterbrochen wird und die KI sagt, da kann ich jetzt nicht mehr mitgehen. Bitte red mit Vertrauenspersonen.“
Denn grundsätzlich würde das technisch einfach zu lösen sein, so Hubatschke. Umgesetzt werde es derzeit aber noch nicht.
Bild: pixabay.com