Erst wenn jede Antwort verfügbar ist

“Traue keiner Statistik, die du nicht selbst gefälscht hast.” Der Satz wird oft Churchill zugeschrieben, ist aber wahrscheinlich nicht von ihm. Als Ursprung der falschen Zuschreibung wird teils NS-Propaganda vermutet, gesichert ist aber auch das nicht. Und eine womöglich erfundene Aussage über das Fälschen, deren Herkunft selbst im Dunkeln liegt, das passt zu gut zu dem Artikel, um sie wegzulassen.

Wer diese Vorgeschichte kennt, kann die Zahl einordnen. Wer sie nicht kennt, hat nur die Möglichkeit ihr einfach zu glauben, oder eben nicht. Genau dieser Unterschied beschäftigt mich gerade, weil er bei Künstlicher Intelligenz wiederkehrt, nur noch schlechter greifbar als je zuvor. Und merkwürdigerweise hilft mir bei meinen Überlegungen eine Rede aus dem 19. Jahrhundert.

Was Seattle eigentlich anspricht

Der Redlichkeit halber vorab: Es geht um die berühmte Rede des Häuptlings Seattle, und die hat es so nie gegeben. Die Fassung, die heute zitiert wird, schrieb 1971 ein Drehbuchautor namens Ted Perry für einen Umweltfilm. Von dem, was Seattle 1855 tatsächlich gesagt hat, existiert nur eine Mitschrift aus zweiter Hand, niedergeschrieben dreißig Jahre später. Wir zitieren also nicht den Häuptling, sondern einen weißen Autor, der ihm in den Mund gelegt hat, was wir gerne gehört hätten. Die berühmte Rede ist also zwangsläufig eine Fälschung, schon wieder. Und auch hier steckt im erfundenen Text wieder ein wahrer Kern.

Üblicherweise liest man die Rede als Naturschutzappell. Schont die Wälder, achtet die Flüsse, tötet nicht mehr Büffel als nötig. Diese Lesart ist einfach, sie erlaubt Betroffenheit, ohne dass sich etwas ändern muss. Sie ist einer der üblichen erhobenen Zeigefinger, den alle gerne bestätigen.

Mich interessiert eine Stelle, an der der Text etwas anderes betrachtet. “Wie kann man den Himmel kaufen oder verkaufen?” Seattle wendet sich in seiner Rede nicht gegen den Fortschritt, nicht gegen Eisenbahn oder Gewehre, auch wenn sie als Beispiele vorkommen. Sie sind aber nicht der wesentliche Punkt. Er wendet sich gegen eine Selbstgewissheit. Gegen die Vorstellung, man habe ein Stück Welt begriffen und in der Hand, nur weil man es vermessen, gekauft und auf ein Papier geschrieben hat. Der gekaufte Wald bleibt aber ein lebendiges Gefüge aus Boden, Wasser, Tieren und Jahreszeiten, über das die Urkunde im Grundbuch nichts sagt oder weiß. Das Dokument erfasst, was sich erfassen lässt und lässt aus, was sich nicht erfassen lässt. Und die Käufer verwechseln das, was im Dokument steht, mit dem, was sie tatsächlich besitzen.

Dieser Irrtum ist nicht auf die zitierten Wälder beschränkt. Er taucht überall dort auf, wo wir etwas Lebendiges in eine handliche Form bringen und dann die Form für die Sache halten.

Dieser Irrtum hat uns weit gebracht

Eine Klarstellung, bevor das nach Technikkritik mit Räucherstäbchen klingt. Die Denkweise, die Seattle anspricht, ist kein Fehler, den man abstellen sollte. Wahrscheinlich könnte man das gar nicht, denn sie ist ein Motor unseres Fortschritts. Etwas vermessen, in Zahlen fassen, vergleichbar machen, verbessern, das hat uns Fortschritte wie Antibiotika gebracht, sauberes Trinkwasser, sichere Flugzeuge und eine drastisch gesunkene Kindersterblichkeit gebracht. Wer diese Bewegung pauschal verdammt, müsste auch die Zahnmedizin ablehnen. Dinge messbar zu machen, gehört zu dem Klugen, was die Moderne hervorgebracht hat.

Problematisch wird es nicht beim Messen, sondern eine Ebene darüber, wenn aus “wir können einen Teil beschreiben” klammheimlich “wir haben es verstanden und im Griff” wird. Bei einem Holzbestand fällt diese Verwechslung vielleicht kaum auf, weil ein Wald, den man nur als Festmeter denkt, erst nach Jahrzehnten zurück schlägt. Bei einem lebendigen und reagierenden Gebilde geht es schneller. Und Organisationen sind solche Gebilde.

Alles sichtbar, nichts klar

Diese zweite Ebene habe ich über Jahre aus der Nähe erlebt, und ich war dabei nicht nur Beobachter, sondern als Führungskraft aktiv daran beteiligt.

Bei der Transformation der DB Systel wurde Transparenz aus guten Gründen, die ich selbst vertreten habe, großgeschrieben. Selbstorganisation mit verteilter Führung auf viel mehr Schultern braucht breiten Zugang zu Informationen, die früher den Führungsetagen vorbehalten waren. Also wurde gesendet, was das Zeug hielt. Teams, Einheiten, Cluster und Gilden machten transparent, woran sie arbeiteten und wo sie standen. Man hätte eine Zeit lang jeden Tag von morgens bis abends in Terminen sitzen können, in denen irgendwer berichtete, ohne die eigene Arbeit zu machen. Auch Personal- und Finanzzahlen lagen plötzlich einer viel größeren Gruppe offen. Dahinter steckte ein einfache Hoffnung. Machen wir alles sichtbar, dann haben wir es im Griff.

Es kam anders, und es konnte auch nur so kommen. Denn diese Zahlen bedeuten nichts, solange sie niemand verarbeitet. Eine Finanzkennzahl versteht nur, wer sch mit den Logiken von Finanzzahlen auskennt und ihre Entstehung kennt, wer weiß, was hineingerechnet wurde und was nicht, welche Vorjahreseffekte mitschwingen, welcher Kompromiss hinter einer Position steht und welche Vereinbarung hinter einer anderen. Dieses Wissen kann in einer Organisation mit Tausenden Menschen niemand in der nötigen Breite mitbringen, und das soll auch so sein. Genau diese Arbeitsteilung ist der Sinn von Organisation. Die Information war da. Was schwer möglich war oder ganz fehlte war die Verarbeitung, die aus ihr für jeden Einzelnen erst etwas Brauchbares gemacht hätte.

Für mich ist das der Unterschied zwischen Information und Orientierung. Information sagt mir, was Sache ist. Orientierung sagt mir, was davon zählt und was ich damit anfange. Das erste lässt sich sammeln, großflächig verarbeiten und (automatisiert) in Dashboards gießen. Das zweite entsteht nur, wenn jemand auswählt und dabei fast alles weglässt. Und diese Auswahl ist eine Entscheidung, für die ein Mensch geradesteht, der diese Auswahl getroffen hat. Luhmann hat das nüchtern formuliert. Organisationen müssen Komplexität reduzieren, um handlungsfähig zu sein. Reduzieren heißt aussortieren, und wer aussortiert, haftet für das, was weg gefiltert und was stehen gelassen wird. Deshalb sammeln Organisationen so gern immer weiter und immer mehr, statt zu entscheiden, was im Sinne der notwendigen Orientierung wichtig ist. Noch eine Quelle, noch eine Kennzahl, noch ein Bericht fühlt sich nach Arbeit an und ist doch oft die Flucht vor der eigentlichen Herausforderung, zu entscheiden. Die meisten Organisationen, die ich kenne, leiden nicht mehr an zu wenig Information. Sie leiden daran, dass niemand den Mut zur Auswahl aufbringt.

So weit die vertraute Geschichte vom Datenüberfluss. Und hier kommt KI ins Spiel, denn sie verspricht, woran es in dieser Geschichte vermeintlich fehlte. Sie kann Unmengen von Daten in Rekordzeit verarbeiten. Mehr, als ein Mensch oder eine ganze Abteilung je bewältigen könnte. Auf den ersten Blick ist das die Lösung. Endlich jemand, der die Berge tatsächlich durcharbeitet (und dafür kein Gehalt fordert und vermutlich spoar genauer dabei ist und weniger vergisst oder übersieht.

Auf den zweiten Blick ist es ein häufig unterschätztes Risiko. Bisher gab es eine natürliche Beschränkung. Weil niemand alles aufnehmen und verarbeiten konnte, musste irgendwann jemand auswählen, also entscheiden, was zählt. Und für diese Auswahl musste diese Person geradestehen. Die Begrenztheit zwang zur Orientierung. Fällt diese Schranke weg, entfällt auch der Zwang zur Auswahl. Man kann jetzt alles verarbeiten lassen und die unangenehme Entscheidung, was davon wichtig ist, unendlich weiterschieben. Mehr Verarbeitung ersetzt dann nicht das Sammeln durch Klären, sie potenziert nur das Sammeln. Und das ist der Teil, der mich weiter beschäftigt.

Von Daten zu Erkenntnis

Beim Dashboard war in der Regel sichtbar oder klar, dass da Rohmaterial liegt, das erst gedeutet werden muss. Die Zahl behauptet nicht, sich selbst zu verstehen. Das ist der Unterschied zur KI-Antwort, beziehungsweise dazu, wie die Meisten diese KI-Antworten lesen. Sie kommt nicht als Rohstoff, sondern als fertiges Urteil, formuliert, geschlossen, anschlussfähig. Sie liest sich wie das Ergebnis von Nachdenken, und deshalb glaubt man beim Lesen, selbst verstanden zu haben.

Hier lohnt es sich, ein paar Begriffe auseinanderzuhalten, die wir gern in einen Topf werfen. Eine häufig verwendete Unterscheidung reicht von rohem Material bis zur Einsicht. Sie ist nicht unumstritten und die Übergänge sind fließender, als die häufig zu findende schöne Treppendarstellung suggeriert, aber als Denkhilfe reicht sie und zur Veranschaulichung will sie sie an einem Wert vorstellen.

Ganz unten stehen Daten. Rohe Fakten ohne Kontext, für sich genommen bedeutungslos: “38,5”. Die Zahl sagt nichts. Setzt man sie in einen Kontext, wird daraus Information: “Die Körpertemperatur des Patienten beträgt 38,5 Grad.” Jetzt beantwortet sie Fragen wie, wer, was oder wann. Verknüpft man mehrere Informationen mit Erfahrung, entsteht Wissen: “Ab 38,5 Grad spricht man von leichtem Fieber, der Körper bekämpft eine Infektion, man sollte sich schonen.” Wissen macht handlungsfähig. Über wissen liegt das Verstehen, das nach dem Warum oder Wozu fragt: “Fieber ist eine Abwehrreaktion, wenn ich es vorschnell senke, unterdrücke ich womöglich die Immunantwort.” Verstehen kennt die Zusammenhänge dahinter und weiß, unter welchen Bedingungen die Regel keinen Bestand mehr hat und die Ausnahme die Regel bestätigt. Und ganz oben gibt es dann noch die Erkenntnis, der Aha-Moment: “Das Fieber tritt immer nach bestimmten Mahlzeiten auf, das ist keine Infektion, sondern eine Unverträglichkeit.” Hier wird ein Muster gebildet, das das Problem in neuem Licht zeigt.

Rafael Capurro, der sich sein Leben lang mit dem Informationsbegriff beschäftigt hat, würde gegen die saubere Treppe vermutlich Einspruch erheben, denn er hält wenig von zu glatten Hierarchien. Aber den Kern beschreibt auch er als zutiefst menschlichen Vorgang. Aus bloßen Zeichen wird durch Interpretation Bedeutung, durch Vernetzung mit Erfahrung Wissen, durch Durchdringung schließlich Einsicht. Entscheidend ist weniger die exakte Zahl der Stufen als die Richtung. Nach oben wird es menschlicher.

Jetzt die entscheidende Frage: Wo auf dieser Leiter arbeitet eine KI?

Sie nimmt Daten und bringt sie in einen Kontext, nach Maßgabe dessen, was ein Mensch über Prompt, Assistent oder Agent vorgegeben hat. Aus Daten macht sie Information. Das macht sie hervorragend, wobei dieselbe Datenlage je nach Vorgabe durch Mensch oder Maschine als Information völlig verschieden aussieht. Schon hier wird die Statistik gefälscht, im besten und im schlechtesten Sinn. Die nächste Stufe ist heikler. Ja, eine KI kann Wissen durchaus repräsentieren und neu kombinieren, ähnlich wie ein Buch Wissen speichert, ohne je etwas erlebt zu haben. Was sie nicht kann, ist Wissen so zu erwerben, wie ein Mensch es tut, nämlich mit und aus Erfahrung, am eigenen Leib, mit erlebten Konsequenzen. Und genau das hört man dem KI-Output nicht mehr an. Er liest sich wie das Ergebnis von Erfahrung, klingt nach abgewogenem Urteil, und das ist eine große Falle. Die KI formuliert vermeintliches Wissen, ohne dass jemand dahintersteht, der die Sache je durchlebt hätte und wirklich weiß. Beim Verstehen wird es noch dünner, denn Verstehen braucht oft mehr Hinweise, als im Ergebnis sichtbar sind. Die Vorgeschichte, die ausgeblendeten Alternativen, die Annahmen. Eine KI-Antwort zeigt das Ergebnis, nicht den Weg und der Weg ist die reine Verarbeitung von Daten und die Arbeit mit Wahrscheinlichkeiten. Und damit fehlt grundlegend wichtiges Material, aus dem eigenes Verstehen entstehen könnte. Erst bei der Erkenntnis, dem Erkennen von Mustern in großen Mengen, spielt sie wieder echte Stärke aus. Sie kann Muster erkennen, die kein Mensch überblickt. Aber das alles im richtigen Kontext zu betrachten, das Muster gegen die Situation zu halten, die Konsequenzen zu verantworten und daraus eine Entscheidung abzuleiten, dazu braucht es Menschen. Und manchmal erst Recht den Bruch, die Entscheidung gegen die scheinbar gut aufbereitete Faktenlage.

Kurz gesagt: Stark bei Information und beim Aufspüren von Mustern, dazwischen täuscht sie etwas vor, das sie nicht ist und hat. Und weil ihr Output so souverän klingt, merkt man die Lücke immer weniger. Man bekommt eine Antwort und hält sie für Verständnis oder Verstand.

Ich kann das an der Rede von Häuptling Seattle zeigen, mit der ich angefangen habe. Frag eine KI nach den schönsten Sätzen des Häuptlings Seattle, und je nach System und Frage bekommst du unterschiedliche Antworten. Mal liefert sie “Die Erde gehört nicht dem Menschen, der Mensch gehört zur Erde” glatt und selbstsicher als Aussage von Seattle. Mal schiebt sie inzwischen einen Hinweis hinterher, dass die Zuschreibung umstritten ist und die populäre Fassung von einem Drehbuchautor stammt. Letzteres ist erfreulich, aber man sollte sich nicht darauf verlassen, dass solche Rückmeldungen kommen. Denn die Warnung erscheint nur dass, wenn genug Menschen den Irrtum schon korrigiert haben, sooft, dass der Faktencheck selbst zum Wahrscheinlichsten geworden ist. Bei berühmten Seattle-Zitaten ist das passiert. Bei tausend weniger bekannten Zuschreibungen, halben Wahrheiten und schief überlieferten Zahlen liefert dieselbe Maschine den Fehler genauso selbstbewusst ohne den Hinweis, dass da etwas nicht stimmt. Du bekommst eine perfekte Antwort und merkst nicht, dass du einem Irrtum aufsitzt. Verlassen kannst du dich auf die Korrektur also genau dann, wenn du sie am wenigsten brauchst, weil du die Sache ohnehin wahrscheinlich schon kennst. Genau das ist der Unterschied zwischen eine Antwort bekommen und etwas verstehen.

Daraus folgt eine Unterscheidung, die mir wichtiger erscheint als die übliche Frage, ob ein KI-Output “gut” ist. Es gibt zwei sehr verschiedene Arten, mit diesen Werkzeugen zu arbeiten. In der ersten baue ich selbst meine Prompts, meine Assistenten, vielleicht meine Agenten. Ich bestimme, welche Daten hineingehen, kenne im Zweifel die Quellen, habe an der Verarbeitung mitgeschrieben. Ich traue dem Ergebnis, weil ich die Statistik selbst gefälscht habe und ungefähr weiß, wo sie stimmig ist und wo nicht. Ich habe Grundwissen und arbeite damit, unterstützt durch die KI. In der zweiten arbeite ich mit fertig verarbeiteten Ergebnissen, deren Herkunft ich gar nicht genau kenne und mit zunehmender Verbreitung von KI in allen Tools wird genau das zunehmen. Eine Analyse, eine Einschätzung, eine Empfehlung, irgendwo entstanden, irgendwie zustande gekommen. Ich nehme sie und baue darauf auf.

Die Frage, ob das nicht schon immer so war, ist ein naheliegender Einwand. Auch früher habe ich mit Vorlagen gearbeitet, die andere aufbereitet haben, mit Zahlen von Kollegen, denen ich vertraut habe. Das stimmt. Aber da ist ein Unterschied, der mir entscheidend erscheint.

Was ein Mensch tut, das eine Maschine nicht kann

Menschen, die Daten aufbereiten, verarbeitet sie nicht nur. Sie schätzen sie ein. Sie wägen ab. Sie priorisieren nach Erfahrung, gewichten nach einem Bauchgefühl, das jahrelang trainiert wurde. In komplexen Zusammenhängen, in einer Psyche, in einem Team, bringen sie etwas ein, das in keinem Datensatz der KI steht: Ein Werturteil, eine moralische Linie, manchmal eine Idee, die quer zu allem steht, was die Lage der reinen Daten nahelegen würde.

Während des kalten Kriegs in der Nacht zum 26. September 1983 saß der sowjetische Offizier Stanislaw Petrow in einer Kommandozentrale, als das computergestützte Frühwarnsystem einen amerikanischen Atomangriff meldete. Erst eine Rakete, dann mehrere. Die Anzeige war eindeutig und das Protokoll verlangte, die Meldung nach oben zu geben. Das hätte eine atomare Gegenreaktion ausgelöst. Petrow entschied anders und gab sie nicht weiter. Er entschied nicht einfach aus dem Bauch heraus gegen die Datenlage. Er bezog Kontext ein, den das System ausblendete. Ein echter Erstschlag, das wusste er, käme nicht mit fünf Raketen, sondern mit Hunderten. Und das System war neu und fehleranfällig. Diese Hinweise standen nicht auf dem Schirm, sie kamen aus seiner Erfahrung. Er behielt recht, ein Satellit hatte Sonnenlicht auf Wolken als Raketenstarts fehlgedeutet. Petrow ersetzte die Daten also nicht durch nur durch ein Bauchgefühl, er ergänzte sie um das, was die Anzeige nicht wusste, allen voran ihre eigene Fehlbarkeit. Und das ist, was eine KI von sich aus nicht macht. Sie bestätigt und bezieht die Möglichkeit der eigenen Fehlbarkeit nicht mir ein. Bemerkenswert ist das Nachspiel. Petrow wurde nicht gefeiert. Seine Entscheidung wurde als Protokollverstoß vermerkt. Das System verbuchte den Eingriff, der womöglich die Welt rettete, als Fehler.

So dramatisch ist es bei mir natürlich nie gewesen, aber das Muster kenne ich. Ein Beispiel aus dem Leben der meisten Führungskräfte. Bei manchen Einstellungsentscheidungen hatte ich makellose Unterlagen. Die Fakten, auch im Vergleich zu anderen Kandidatinnen und Kandidaten, sprachen klar für die eine Kandidatin, und trotzdem nahm ich etwas wahr, das in keinem Dokument geschrieben stand. Auch das war mehr als ein Gefühl gegen bestehende Daten, sondern Hinweise, die durch Gespräche deutlich wurden und die Unterlagen nicht erfassen konnten. In einem Fall entschied das Team allein anhand der Zahlen, und die Person erwies sich als so schwierig, dass wir uns in der Probezeit wieder trennen mussten. Die Unterlagen hatten alles richtig dargestellt. Sie hatten nur nicht alles notwendige erfasst.

Genau in solchen Fällen erscheint mir die Verlagerung der Verarbeitung in die Maschine problematisch. Eine KI ist in der Regel so aufgesetzt, dass sie das Wahrscheinliche ausgibt, die plausible Fortsetzung dessen, was sie gelernt hat. Sie liefert zuverlässig den erwartbaren nächsten Schritt. Das ist ihre Stärke und zugleich ihre große Schwäche. Und sie liefert ihn so überzeugend, dass wir kaum noch die Notwendigkeit sehen, nachzufragen oder das Ergebnis gegen den Kontext zu halten, der nicht in den Daten steckt, mit denen die KI gefüttert wurde. Was sie nicht liefert, ist der Einwand von außen. Das Wissen um die eigene Fehlbarkeit, der Hinweis, den niemand erfasst hat, der Eigensinn, der sich nicht beweisen lässt und am Ende doch richtig liegt. Wäre Petrow ein Algorithmus gewesen, hätte er die Raketen gemeldet, denn aus Sicht der Anzeige war das die einzig plausible Antwort. Schwere Entscheidungen und Veränderung entsteht aber selten aus dem wahrscheinlichsten Schritt, sondern aus dem, der etwas einbezieht, das die reguläre Datenlage nicht enthält, manchmal gegen ihren scheinbar klaren Rat. Eine auf Plausibilität optimierte Maschine kann diesen Schritt nicht einmal erkennen, denn aus ihrer Sicht ist er schlicht der unwahrscheinlichere, also schlechtere Vorschlag. Wer ihr die Verarbeitung ganz überlässt, bekommt einen geglätteten Mittelwert der Vergangenheit zurück, überzeugend formuliert aber möglicherweise nicht passfähig für die Situation und sicher oft zu konservativ für die Zukunft und merkt nicht, dass darin genau das fehlt, woraus Neues entsteht.

Die DB Systel hatte, wie jeder Konzern, zu viele Berichte, zu viele Tools, zu viele Excels und trotzdem zu wenig Klarheit. Eine Organisation, die sich ihre Klärung jetzt von der KI vorformulieren lässt, bekommt beliebig viele fertige Einschätzungen, jede plausibel, jede anschlussfähig, jede mit dem Versprechen, man habe verstanden. Sie bekommt mehr Verfügbarkeit denn je. Und sie verliert dabei womöglich genau die menschliche Abweichung, an der sich eine festgefahrene Lage hätte effizient und zukunftsfähig lösen können.

Was dadurch an Wert gewinnt

Ich will hier nicht im Kulturpessimismus enden, schon gar nicht als KI-Gegner, und das fällt mir leicht. Denn die spannende Frage ist eine andere. Nicht, was die KI uns nimmt, sondern was durch sie selten und damit kostbar wird. Es ging beim Verarbeiten von Daten ja nie darum, die Unsicherheit loszuwerden, sondern darum, trotz ihr zu handeln und dann dafür geradezustehen. Und genau diese Fähigkeit, unter Unsicherheit zu urteilen und einzustehen, wird wertvoller, je mehr Material uns die Maschine dafür liefert.

Wenn fertige Antworten im Überfluss herumliegen, wird die gute Frage zum Engpass. Wenn jede Analyse Sekunden kostet, wird das Urteil wertvoll, welche von ihnen valide ist und was sie verschweigt. Wenn jeder Text auf Knopfdruck entsteht, ohne dass ihn jemand wirklich durchdacht hat, wird die Bereitschaft selten, mit dem eigenen Namen dafür einzustehen. Und je verfügbarer die Information, desto größer der Bedarf an Orientierung und desto spürbarer ihr Fehlen.

Ehrlicherweise muss man dazusagen, dass die Grenze nicht so sauber verläuft, wie es hier klingt. Auch Maschinen können inzwischen erste Schritte tun, die nach Orientierung aussehen, priorisieren, Hypothesen bilden, Perspektiven anbieten. Die interessante Frage ist deshalb nicht, ob KI Orientierung erzeugen kann, sondern welche Form davon wir an sie delegieren können und welche nicht. Eine Hypothese vorschlagen lassen, gern. Das wird sie künftig immer besser können. Die Verantwortung dafür übernehmen, die Konsequenzen zu tragen, an der richtigen Stelle vom Vorschlag abzuweichen, das bleibt bei uns. Nicht, weil die Maschine es noch nicht kann, sondern weil Haftung sich nicht an etwas delegieren lässt, das selbst nichts zu verlieren hat.

Konkret heißt das nicht, die Werkzeuge zu meiden, im Gegenteil. Ich habe auch diesen Text unterstützt durch KI geschrieben. Mir ist die Ironie klar, dass ein Text über den geglätteten Mittelwert leicht selbst so ein geglätteter Text wird, wenn man nicht aufpasst. Es heißt also, die “Statistik” möglichst selbst zu fälschen. Drei Dinge helfen. Erstens: das Ergebnis nicht einfach übernehmen, sondern prüfen, gegenlesen, im Zweifel in einem zweiten und dritten System (oder gar einfach nur Google) zu hinterfragen, statt fertige Antworten weiterzureichen, deren Ursprung niemand mehr kennt. Zweitens: bei jeder fertigen Einschätzung nach der Herkunft fragen, woher kommen die Daten, wer hat sie wie aufbereitet, was wurde dabei weggelassen. Und drittens: die Menschen ernst nehmen, die etwas wissen, das nicht in den Zahlen steht, und sagen: Die Lage spricht dagegen, ich entscheide trotzdem anders. Das ist keine Ineffizienz. Man sollte das nicht wegoptimieren. Denn das ist die Stelle, an der Neues in die Welt kommt.

Erst wenn

Es gibt diesen Satz, der fast immer als indianische Weisheit zitiert wird.

Erst wenn
der letzte Baum gerodet,
der letzte Fluss vergiftet,
der letzte Fisch gefangen ist,
werdet ihr merken, dass man Geld nicht essen kann.

Eine Prophezeiung, die so gut zu Seattle passt, dass man sie ihm gern zuschreibt. Offenbar legen wir die moralische Einsichten am liebsten erfundenen Stimmen in den Mund, weil sie aus dem eigenen nicht ernst genug genommen werden.

Versuchen wir es zu übertragen:

Erst wenn
jede Antwort verfügbar ist,
jede Analyse automatisiert
und jeder Text generiert,
werden wir merken, dass eine Antwort zu bekommen
nicht dasselbe ist wie zu verstehen, was dahintersteckt.

Und dass die wertvollste Entscheidung oft die ist, die keine Maschine vorgeschlagen hätte, weil sie zu unwahrscheinlich war.

Nachtrag

Ein Nachtrag, der mir erst beim Recherchieren auffiel und der diesen ganzen Text noch einmal lustig unterstreicht: Der Spruch mit dem letzten Baum stammt gar nicht von Seattle, er kommt nicht einmal in der erfundenen Filmfassung vor. Belegt ist er erst hindert Jahre Später im Jahr 1972, unter anderem bei dem Mohawk-Sprecher Thomas Porter in Harvard. Ich hatte ihn oben trotzdem erst mal unreflektiert “dem Seattle-Umkreis” zugeordnet, weil es plausibel klang und alle es so machen. Weil dieser Teil im oben verlinkten Dokument der vermeintlichen Rede des Häuptlings am Ende ergänzt ist. Also war das erst mal genau das Verhalten, das dieser Text kritisiert. Eine KI hätte mir die Zuschreibung vermutlich bereitwillig bestätigt, und mein Bauch hat sie fast durchgewunken. Also bleibt abschließend zu sagen: Traue keiner KI-Aussage, die du nicht selbst gefälscht hast.

(Das Bild ist mit Google Gemini generiert.)