Eine kritische Reflexion zur Integration von KI-Tools in System-Mapping-Prozesse von Fabian Gampp

TL;DR: Die neuesten Entwicklungen im Bereich der KI eröffnen völlig neue Möglichkeiten für Systems Thinking und System-Mapping. Es ist beeindruckend zu sehen, wie schnell und mühelos komplexe Inhalte zusammengefasst, analysiert und visualisiert werden können. Es gibt aber auch klare Grenzen und Gefahren. In diesem Artikel stellt Fabian Gampp einige Use Cases vor.

Die neuesten Entwicklungen im Bereich der KI eröffnen völlig neue Möglichkeiten für Systems Thinking und System-Mapping.

Die folgenden System Maps zeigen Ursachen und Auswirkungen von Obdachlosigkeit, erstellt mit ChatGPT (1), dem Miro-Plugin „Systemic“ (2) und Claude (3). Mit einem sehr einfachen Prompt („Erstelle ein Causal Loop Diagram, das die Ursachen und Auswirkungen von Obdachlosigkeit darstellt.“) erhalten wir innerhalb von Sekunden Ergebnisse, die zwar nicht perfekt, aber zunehmend wertvoll für die weitere Arbeit sind.

Gerade weil sich diese Möglichkeiten so schnell entfalten, beschäftigt uns an der System Mapping Academy jedoch zunehmend eine Frage:

Können KI-Tools das Systemdenken sogar behindern, indem sie uns fertige Synthesen präsentieren, ohne dass wir den eigentlichen Denkprozess selbst durchlaufen haben?

Das Dilemma der reibungslosen Antworten

Überspitzt formuliert könnte man argumentieren, dass der KI-Prozess – ein schneller, reibungsloser und unreflektierter Pfad zu einer fertigen System Map – das Gegenteil von Systemdenken darstellt.

In den vergangenen Monaten haben wir verschiedene Experimente durchgeführt, um ein klareres Verständnis davon zu gewinnen, wo die tatsächlichen Chancen und Risiken liegen. 

In unserer Praxis der vergangenen Jahre hat sich vor allem eine Einsicht hervorgetan:

System Mapping dreht sich primär weder um das Endprodukt noch um die fertige Karte, die Visualisierung oder die Synthese. Entscheidend ist der Prozess selbst: sich mit Komplexität auseinanderzusetzen, in sie einzutauchen, Überforderung aushalten und dabei zu lernen.

Wenn wir KI-Tools nutzen, um direkt zu einer Synthese oder einer fertigen System Map zu springen, entfallen diese Zwischenschritte oder werden zumindest erheblich verkürzt. Das persönliche Lernen im Prozess, der Umgang mit Unsicherheit und die Veränderung von Perspektiven finden dann nicht mehr in uns statt, sondern werden an das KI-Modell abgegeben.

Die Gefahr besteht nicht nur darin, dass eine einzelne Person weniger lernt, sondern dass überhaupt kein gemeinsames Lernen mehr zwischen den Menschen stattfindet, die innerhalb des Systems jedoch gemeinsam handeln müssen.

Hinzu kommt ein tiefergehendes Risiko, das über individuelles Lernen hinausgeht. Systemarbeit ist fast immer ein kollektives Unterfangen. Idealerweise sind mehrere Akteur:innen beteiligt, die jeweils ihr eigenes Verständnis darüber mitbringen, wie das System funktioniert. Wenn KI innerhalb von Sekunden eine Abkürzung vom Problem zur vermeintlich fertigen Analyse schafft, überspringt sie genau jene Gespräche und Diskussionen, durch die gemeinsames Verständnis entsteht. Die Gefahr liegt also nicht nur darin, dass Einzelne weniger lernen, sondern darin, dass überhaupt kein gemeinsames Lernen mehr stattfindet. 

Ohne Reibung in der Begegnung mit Komplexität gibt es kaum tiefgreifendes Lernen.

Der schnelle Weg der KI zu Ergebnissen vernachlässigt die Lernerfahrungen im Prozess

Versteckte Voreingenommenheit kann bestehende Machtstrukturen verstärken

KI-Modelle, die überwiegend mit dokumentiertem und institutionell erzeugtem Wissen trainiert wurden, neigen dazu, System Maps mit vertrauten Akteur:innen, dominanten (auch kolonial geprägten) Narrativen und eingeübten Deutungsmustern zu füllen, während informelle, marginalisierte oder emergente Perspektiven wenig berücksichtigt werden.

Ebenso prägen die tieferliegenden System-Prompts großer Sprachmodelle indirekt, welche Inhalte sichtbar werden und welche Perspektiven im Hintergrund bleiben. Auch sind westliche und englischsprachige Sichtweisen stark überrepräsentiert, während lokales Wissen indigener Gemeinschaften, nicht-akademische Expertise sowie Perspektiven aus dem Globalen Süden systematisch unterrepräsentiert bleiben.

Die KI macht auf dieses Ungleichgewicht jedoch nicht aufmerksam. Dies sind lediglich zwei Beispiele für das wesentlich größere Problem struktureller Verzerrungen in KI-Modellen.

Wir müssen daher kritisch hinterfragen, welche Quellen die Analyse speisen, wessen Wissen vertreten ist und wessen fehlt – und gegenüber Ergebnissen skeptisch bleiben, die umfassend wirken, möglicherweise aber nur die lautesten und am besten dokumentierten Stimmen widerspiegeln.

Der Nutzen entfaltet sich nur bei sorgfältiger Anwendung

Die Integration von KI in die Praxis des System Mappings bringt reale Herausforderungen mit sich, die eine ehrliche Reflexion verdienen. Das ist kein Argument gegen KI; es ist ein Argument dafür, sie aufmerksam und zielgerichtet einzusetzen, insbesondere wenn die Arbeit darauf abzielt, in komplexe Systeme einzugreifen, die das Leben von Menschen beeinflussen.

KI kann eine wertvolle Ergänzung des Prozesses sein, sollte jedoch menschliche Gespräche, Spannungen und gemeinsame Sinnbildungsprozesse nicht ersetzen, sondern ergänzen. Andernfalls riskieren wir, genau jene kritische Fähigkeit auszulagern, die diese Arbeit überhaupt wertvoll macht. Menschliches Urteilsvermögen aufrechtzuerhalten ist nicht nur ein Schutz vor Fehlern, es ist eine Voraussetzung guter Praxis und letztlich auch dafür, Schaden zu vermeiden.

Aus unseren eigenen Experimenten mit KI-unterstütztem Mapping sind mehrere Erkenntnisse hervorgegangen, die inzwischen unsere Arbeitsweise prägen.

Wir haben diese Erkenntnisse in erste Leitlinien für KI-unterstütztes System Mapping zusammengefasst.

Leitlinien für KI-unterstütztes System Mapping

1. Kenne deine Datenquellen
Bevorzuge Datenquellen, die du nachvollziehen oder zumindest zurückverfolgen kannst: Wer war an ihrer Erstellung beteiligt? Welche Datenpunkte wurden einbezogen und welche ausgelassen?

KI-Anwendungen bringen zusätzliche Intransparenz mit sich: Sie greifen oft auf schwer überprüfbare Quellen zurück, ihre Ergebnisse lassen sich häufig nur schwer zuordnen oder verifizieren. Nutze offene Websuchen nur dann, wenn keine besser nachvollziehbare Alternative verfügbar ist, und begegne ihren Ergebnissen stets mit erhöhter kritischer Aufmerksamkeit.

2. Betrachte KI-Ergebnisse als Ausgangspunkt, nicht als Antwort
Alles, was KI erzeugt (eine Skizze einer Karte, eine Stakeholder-Perspektive oder die Beobachtung eines Musters) sollte als Anstoß zur Reflexion verstanden werden, nicht als Schlussfolgerung, die einfach übernommen wird.

3. Beziehe eine menschliche Perspektive immer im Prozess mit ein
Kein KI-Tool kann die Menschen ersetzen, die innerhalb des Systems leben und arbeiten, das du kartierst. Ihr Wissen, ihre Widersprüche und ihre Meinungsverschiedenheiten sind keine Ineffizienzen, die beseitigt werden sollten, sie bilden das Rohmaterial eines systemischen Verständnisses. Integriere sie als aktive Teilnehmende in den Prozess.

4. Bleibe neugierig auf das, was fehlen könnte
KI wird auf Basis dessen trainiert, was dokumentiert und veröffentlicht wurde. Dadurch werden informelles Wissen, marginalisierte Stimmen und gelebte Erfahrungen systematisch unterrepräsentiert. In der Systemarbeit ist das, was auf der Karte fehlt, oft genauso wichtig wie das Sichtbare. Menschliches Urteilsvermögen sollte diesen blinden Fleck aktiv ausgleichen.

5. Verlangsame den Prozess an den entscheidenden Stellen
KI kann eine gefährliche Illusion von Fortschritt erzeugen. Eine in wenigen Minuten erstellte System Map kann sich wie echtes Verständnis anfühlen, obwohl dieses noch gar nicht erreicht wurde. Die wichtigsten Momente im System Mapping benötigen Zeit und lassen sich nicht beschleunigen. Erkenne, wann es Zeit ist, das Tool beiseitezulegen.

6. Benenne offen, wann und warum du KI nutzt
Transparenz über den Einsatz von KI ist wichtig, sowohl innerhalb des Teams als auch gegenüber weiteren Beteiligten. Klar zu benennen, welche Teile des Prozesses KI einbezogen haben und welche Rolle sie spielte, schafft Vertrauen und hilft der Gruppe dabei, ehrlich zu bleiben darüber, wo menschliches Denken endet und maschinelle Ergebnisse beginnen.

Die Gedanken in diesem Artikel verstehen sich bewusst als erste Impulse. Wir erheben keinen Anspruch auf Vollständigkeit und sind überzeugt davon, dass sich unsere Sichtweise durch weitere Experimente und Gespräche weiterentwickeln wird.