WYSIATI im Doppelpack – bei Mensch und KI

Was hinter WYSIATI steckt

Vielleicht haben Sie beim Titel aufgrund der Aneinanderreihung von Buchstaben gestutzt und lesen diesen Beitrag genau deshalb. WYSIATI steht für «What You See Is All There Is», auf Deutsch «Was du siehst, ist alles, was es gibt».

Der Begriff stammt vom Psychologen Daniel Kahneman. In seinem Buch «Schnelles Denken, langsames Denken» beschreibt er, wie Menschen urteilen, welche systematischen Denkfehler (Bias) dabei entstehen und weshalb wir uns so gern auf mentale Abkürzungen (Heuristiken) verlassen.

WYSIATI erklärt einen Teil dieser Denkfehler. Wir beurteilen eine Situation anhand der Informationen, die uns aktuell vorliegen, und was fehlt, berücksichtigen wir kaum oder gar nicht. Unsere Überzeugung, mit unserem Urteil richtig zu liegen, hängt dabei weniger von der Vollständigkeit der Informationen ab als davon, wie gut sie zusammenpassen. Eine stimmige Geschichte überzeugt uns, selbst wenn sie auf wenigen Fakten beruht.

Ein Beispiel aus dem Vorstellungsgespräch

Ein Bewerber erscheint pünktlich, lächelt sympathisch und stellt selbstbewusst zwei erfolgreiche Projekte vor. Unser Gehirn fügt die Eindrücke sofort zu einer runden Geschichte zusammen. Die Person wirkt kompetent, belastbar und wie geschaffen für die Stelle.

Was wir nicht sehen, hinterfragen wir auch nicht. Vielleicht waren die Projekte vor allem eine Teamleistung. Vielleicht gerät die Person unter echtem Druck rasch ins Schwimmen, oder der Lebenslauf enthält geschönte Angaben. Weil das Bild so gut zusammenpasst, fragen wir gar nicht erst, ob die Projekte wirklich sein Verdienst waren und wie belastbar die Person tatsächlich ist.

Genau diese offenen Fragen wären für den Entscheid aber zentral. Wer fundiert urteilen will, sollte sich deshalb immer auch fragen, welche Informationen ihm noch fehlen.

Auch KI arbeitet mit einem unvollständigen Bild

Auch KI-Agenten, die Entscheide vorbereiten oder selbstständig treffen, urteilen nur auf Grundlage dessen, was ihnen vorliegt.

Ein Agent arbeitet mit dem Kontext, den er erhält oder selbst erschliesst. Dazu gehören der Auftrag des Nutzers, abgerufene Dokumente, Ergebnisse verbundener Werkzeuge und der bisherige Gesprächsverlauf. Allgemeines Wissen bringt er zudem aus dem Training mit. Spezifische, aktuelle oder interne Informationen, die er nicht abruft, kann er dagegen nicht berücksichtigen. Findet eine Suche das entscheidende Dokument nicht, liefert eine Schnittstelle lückenhafte Daten oder fehlt im Auftrag eine wichtige Randbedingung, arbeitet der Agent trotzdem weiter.

Noch schwerer wiegt, wie Sprachmodelle reagieren, wenn in diesem Kontext etwas fehlt. Sie formulieren auch dann flüssige und überzeugende Antworten, ohne auf die fehlenden Grundlagen hinzuweisen. Manchmal füllen sie Lücken sogar mit erfundenen Angaben, was als Halluzination bezeichnet wird. Ein Mensch übersieht eine Lücke, ein Sprachmodell schliesst sie im schlimmsten Fall mit plausibel klingenden Fakten.

Die Lücke bleibt, die Zuversicht wächst

Mensch und KI teilen also dieselbe Schwäche. Beide stützen ihre Urteile auf das, was ihnen gerade vorliegt. Arbeiten sie zusammen, reichen sie ihre Lücken aneinander weiter. Was der Mensch nicht mitteilt, weiss der Agent nicht, und was dieser nicht berücksichtigt, erkennt der Mensch wiederum nicht. Dabei bestärken sich Mensch und KI gegenseitig in ihrer Einschätzung.

Schritt	Wer	Was geschieht	Was dabei verloren geht
1	Mensch	Beschreibt die Situation und formuliert die Entscheidungsfrage im Prompt	Was der Mensch nicht weiss oder für selbstverständlich hält, fehlt im Auftrag
2	Agent	Arbeitet mit seinem Kontext und liefert eine schlüssige Antwort	Was der Agent nicht gefunden hat, fliesst nicht ein und bleibt unerwähnt
3	Mensch	Bewertet die Antwort, ohne Lücken zu kennen	Die überzeugende Formulierung verdeckt die verbleibende Unsicherheit. Die ursprüngliche Annahme wirkt überzeugender als zuvor, obwohl keine neue Information hinzugekommen ist.

Helfen mehrere Agenten?

Naheliegend ist es, die Lücken eines einzelnen Agenten mit weiteren Agenten zu schliessen. Genau das geschieht in der Praxis, denn heute arbeitet selten ein Agent allein. In Multiagentensystemen (MAS) übernehmen mehrere spezialisierte Agenten unterschiedliche Aufgaben und arbeiten gemeinsam an einem Ergebnis. Für die Entscheidungsfindung werden unter anderem folgende Frameworks eingesetzt.

Framework	Funktionsweise	Wirkung auf WYSIATI
Orchestrator und Worker	Ein übergeordneter Agent verteilt Teilaufgaben an spezialisierte Agenten und führt deren Ergebnisse zusammen.	Mehr Quellen werden erschlossen. Der Orchestrator sieht aber nur die Berichte der Worker, nicht das, was sie übersehen haben.
Debatte und Gegenprüfung	Agenten vertreten bewusst unterschiedliche Positionen, etwa Pro und Contra einer Investition. Ein weiterer Agent wägt die Argumente ab.	Gegenargumente werden gezielt gesucht. Fehlende Informationen finden die Agenten aber nur, wenn sie dabei auch neue Quellen erschliessen. Sonst debattieren sie auf derselben lückenhaften Grundlage.
Abstimmung und Konsens	Mehrere Agenten bewerten eine Situation unabhängig voneinander und stimmen über die beste Option ab.	Einzelne Fehlurteile werden ausgeglichen. Doch gerade der eine Agent, der eine Lücke bemerkt hat, wird überstimmt. Beruhen alle Bewertungen auf denselben Daten, bleibt die gemeinsame Lücke ohnehin bestehen.

MAS können Urteile und Entscheide verbessern, haben aber eigene Schwächen. In längeren Diskussionen übernehmen Agenten häufig frühere Aussagen, bestätigen sich gegenseitig und bilden vorschnell einen Konsens. Ohne klare Abbruchkriterien können sie sich zudem im Kreis drehen.

Vor allem lösen mehrere Agenten das Grundproblem fehlender Informationen nicht von selbst. Nutzen sie dasselbe Modell, denselben Prompt und dieselben Datenquellen, teilen sie trotz unterschiedlicher Rollen weitgehend dieselben Lücken. Mehr Stimmen bringen dann kaum neue Perspektiven, sie bestätigen vor allem dieselbe Sicht. Und je überzeugender die Debatte geführt wird, desto schwerer fällt es dem Menschen, die Qualität des Ergebnisses einzuschätzen.

Der Mensch in der Schleife und seine Grenzen

Als letzte Sicherung bleibt der Mensch, der die Empfehlung am Ende prüft. Für Entscheide gilt heute in der Praxis in vielen Anwendungen das Prinzip «Human in the Loop». Agenten bereiten Entscheide vor, analysieren mögliche Szenarien und formulieren Empfehlungen. Die abschliessende Freigabe erteilt ein Mensch. Hinter diesem Prinzip stehen nebst Fragen der Verantwortung und Haftung zunehmend auch regulatorische Vorgaben wie sie z.B. der AI Act der EU für Hochrisikosysteme verlangt. Eine solche Freigabe klingt nach wirksamer Kontrolle, hat aber zwei Schwachstellen.

Die erste Schwachstelle ist wirtschaftlicher Natur. Jede menschliche Prüfung verursacht Aufwand, und bei vielen kleinen Entscheiden bremst sie die Skalierung und damit die Wirtschaftlichkeit des Einsatzes von KI. Es ist deshalb selten sinnvoll, jeden einzelnen Schritt manuell freigeben zu lassen.

Die zweite Schwachstelle führt zurück zu WYSIATI. Auch der Mensch in der Schleife sieht nur, was ihm der Agent präsentiert. Dazu kommt ein gut untersuchter Effekt, der Automation Bias. Menschen vertrauen automatisierten Empfehlungen systematisch zu stark und prüfen sie entsprechend weniger kritisch.

Prüft jemand lediglich, ob die Empfehlung plausibel klingt, wird er vom Kontrolleur zum Abnicker. Denn plausibel klingen die Antworten von Sprachmodellen fast immer, auch wenn Informationen fehlen. Seine Freigabe verleiht dem Ergebnis zusätzliche Legitimität, ohne dass die Informationslücken kleiner geworden sind.

Bei MAS wird es für den Menschen noch schwieriger, eine Empfehlung zu durchschauen. Der Mensch sieht meist nur das Endergebnis des Orchestrators, also eine Zusammenfassung von Zusammenfassungen. Welche Quellen die einzelnen Agenten gefunden haben, welche Optionen verworfen wurden und wo sie uneins waren, bleibt verborgen. Technisch lassen sich diese Zwischenschritte zwar protokollieren, doch bei Dutzenden oder Hunderten von Agentenaufrufen liest kaum jemand sämtliche Protokolle.

Eine menschliche Freigabe ist nur dann eine wirksame Kontrolle, wenn die freigebende Person genug weiss, um den Entscheid wirklich beurteilen zu können.

Was gegen WYSIATI im Doppelpack hilft

WYSIATI lässt sich weder beim Menschen noch bei der KI ganz ausschalten, wohl aber deutlich abschwächen. Die beiden heutigen Ansätze, mehr Agenten und ein Mensch in der Schleife, reichen allein nicht aus. Beide Lösungsversuche arbeiten mit der Frage, wie sie gestellt wurde, und legen nicht vorher fest, welche Informationen für den Entscheid nötig sind. Lücken erkennt man aber nur, wenn man sich gezielt und kritisch mit ihnen befasst, und zwar am besten, bevor die Analyse beginnt.

Dabei hilft ein einfacher Grundsatz. Gute Entscheide beginnen mit einer Struktur, die vor der Beurteilung festlegt, worauf es ankommt.

Wie eine solche Struktur aussieht, beschreibt der Entscheidungsforscher Rüdiger von Nitzsch in seinem Lehrbuch «Entscheidungslehre». Er gliedert eine rationale Entscheidung in fünf Schritte. Die ersten drei strukturieren das Problem, erst die letzten beiden bewerten. Genau diese Reihenfolge überspringt unser schnelles Denken, und sie geht auch verloren, wenn man einer KI direkt die vermeintliche Entscheidungsfrage stellt.

Ein fiktives Beispiel zeigt, wie das in der Praxis aussieht. Das Primarschulhaus Bühl der Thurgauer Gemeinde Lindenegg stammt aus dem Jahr 1968. Gebäudehülle und Haustechnik sind am Ende ihrer Lebensdauer, die Erdbebensicherheit ist ungenügend, und ein Neubaugebiet wird ab 2028 zusätzliche Kinder bringen. Gleichzeitig lädt die Nachbargemeinde Hardegg zu Gesprächen über ein gemeinsames Schulhaus ein. Die Schulbehörde braucht eine Entscheidungsgrundlage und will dafür KI einsetzen.

Ohne Struktur würden die Verantwortlichen die KI-Agenten wohl fragen, ob die Gemeinde sanieren oder neu bauen soll. Die Agenten würden Kostenvergleiche finden, beide Varianten abwägen und eine überzeugende Empfehlung liefern. Was in der Frage nicht vorkommt, käme in der Antwort nicht vor. Mit den fünf Schritten sieht es anders aus.

1. Die Entscheidungsfrage. «Sanieren oder neu bauen?» ist zu eng, denn die Zusammenlegung mit Hardegg fällt weg, bevor jemand darüber nachgedacht hat. Offener ist die Frage, wie Lindenegg bis 2032 genügend und zeitgemässen Schulraum bereitstellt, finanziell tragbar und an der Urne mehrheitsfähig.
2. Die Ziele. Bevor Varianten verglichen werden, sammelt die Behörde, was sie letztlich erreichen will, und zwar aus Sicht aller Beteiligten. Neben den Kosten gehören dazu gute Lernbedingungen, Platz für Tagesstrukturen, ein kurzer und sicherer Schulweg und die Verankerung der Schule im Dorf.
3. Die Alternativen. Neben Sanierung, Neubau und Zusammenlegung gibt es weitere Möglichkeiten, etwa eine etappierte Sanierung, eine Erweiterung in rückbaubarer Modulbauweise oder gemeinsame Tagesstrukturen mit Hardegg bei eigener Primarschule. Beim Sammeln solcher Varianten ist eine KI ein guter Sparringspartner.
4. Das Wirkungsmodell. Erst jetzt erhalten die Agenten ihren Rechercheauftrag. Sie tragen für jede Alternative und jedes Ziel zusammen, was sie finden, jeweils mit Quelle, und lassen Felder offen, wo nichts belegt ist.
5. Die Evaluation. Die Behörde legt fest, wie wichtig ihr die einzelnen Ziele sind, und bewertet Ziel für Ziel statt Variante für Variante.

Ein Ausschnitt aus der Tabelle der Agenten könnte so aussehen.

Ziel	Sanierung und Erweiterung	Ersatzneubau	Zusammenlegung mit Hardegg
Investition für Lindenegg	CHF 14 Mio. ±25 %	CHF 21 Mio. ±25 %	CHF 10 Mio. plus CHF 250’000 pro Jahr für den Transport
Schulweg	unverändert	unverändert	Busfahrt über 6 km, Fahrzeit und Sicherheit offen
Lernbedingungen	offen	offen	offen

Auf einen Blick wird sichtbar, was eine frei formulierte Antwort verdecken würde. Die Kosten sind gut belegt, zu den Lernbedingungen wissen die Agenten dagegen kaum etwas. In einem Fliesstext würde dieses Ungleichgewicht untergehen, und die Kosten würden den Entscheid bestimmen, weil sie als Einziges beziffert sind. In der Tabelle zeigen die offenen Felder, wo die Behörde nachfragen muss, etwa bei Lehrpersonen oder bei Gemeinden, die bereits zusammengelegt haben.

Die Agenten teilen sich die Arbeit dabei klar auf. Einer recherchiert die Baukosten vergleichbarer Schulbauten, ein anderer die Entwicklung der Schülerzahlen nach grossen Neubaugebieten. Sie füllen verschiedene Felder mit unterschiedlichen Quellen, statt über dieselbe Antwort zu debattieren. Ganz verschwinden die Lücken trotzdem nicht, denn was weder als Ziel noch als Alternative erfasst ist, sucht auch niemand. Deshalb sind die ersten drei Schritte so wichtig.

Die Struktur trennt zudem Fakten und Werte. Was eine Alternative kostet oder wie lang der Schulweg wird, können die Agenten recherchieren. Ob ein Schulhaus im Dorf mehr zählt als ein tieferer Steuerfuss, können sie nicht beantworten. Das ist eine Wertfrage für die Behörde und am Ende für die Stimmberechtigten. Damit bekommt auch der Mensch in der Schleife eine klare Rolle. Er nickt keine fertige Empfehlung ab, sondern gewichtet die Ziele und prüft, ob die Tabelle vollständig ist.

Nicht jeder Entscheid rechtfertigt diesen Aufwand. Von Nitzsch beschreibt deshalb neben dem rationalen auch einen reflektiert intuitiven Weg. Man strukturiert Frage, Ziele und Alternativen und nutzt danach die Intuition, prüft sie aber auf vier verzerrende Einflüsse, nämlich Emotionen, Vorurteile, Heuristiken und persönliche Motive. Diese Prüfung kann eine KI gut unterstützen, indem sie gezielt nachfragt. Kleine, umkehrbare Entscheide schliesslich können automatisiert laufen und werden stichprobenweise überprüft. So kommt die menschliche Kontrolle dort zum Einsatz, wo sie am meisten bringt.

Fazit

WYSIATI ist ein menschlicher Denkfehler. Agenten zeigen ein ähnliches Muster aus einem technischen Grund, denn sie kennen nur ihr Training und ihren Kontext. Problematisch wird es, wenn der menschliche Denkfehler und die technische Grenze zusammenkommen und eine unvollständige Frage auf eine überzeugend formulierte Antwort trifft.

Mehr Agenten und ein Mensch, der am Ende freigibt, schliessen diese Lücken nicht von selbst. Beide arbeiten mit der Frage, wie sie gestellt wurde. Wirksamer ist es, die Entscheidung zuerst zu strukturieren, mit einer offenen Frage, klaren Zielen und möglichst vielen Alternativen, und erst dann die KI arbeiten zu lassen. Ihre Ergebnisse gehören in eine Tabelle, in der Lücken sichtbar bleiben, bevor sie zu Fehlentscheiden führen.

Wer KI für Entscheide einsetzt, sollte deshalb nicht zuerst fragen, ob eine Antwort stimmig ist, sondern ob sie vollständig ist. Denn frei nach Kahneman ist das, was wir sehen, längst nicht alles, was es gibt.

Quellen

• Kahneman, Daniel (2012). Schnelles Denken, langsames Denken. München, Siedler.
• von Nitzsch, Rüdiger (2021). Entscheidungslehre. Wie Menschen entscheiden und wie sie entscheiden sollten. 11., überarbeitete Auflage. Wiesbaden, Springer Gabler.

Dieser Beitrag ist mit Unterstützung von KI entstanden. Disposition und erster Entwurf stammen von mir. Anschliessend hat eine KI den Text sprachlich überarbeitet. Danach habe ich ihn kritisch geprüft und im Dialog mit der KI weiter angepasst.

Beitragsbild von geralt, pixabay.com (Original in Farbe).