Mit KI arbeiten, nicht durch sie hindurch

In den letzten Monaten hat sich etwas verändert, wie ich arbeite. Früher habe ich KI-Modelle wie Tools genutzt — eine Aufgabe reinwerfen, ein Ergebnis zurückbekommen, drüberschauen, weitermachen. Jetzt arbeite ich mit einem System, das ich als Partnerin behandle. Es hat ungefähr das gleiche Wissen über unser Unternehmen und unsere Produkte wie ich. Es ist so gebaut, dass es mich ergänzt, kalibriert auf das, worin ich stark bin, und worin nicht. Die Partnerschaft läuft auf Augenhöhe: Ich mache etwas, es reagiert. Es macht etwas, ich reagiere. Zusammen formen wir das Ergebnis.

Das System ist unser Carewell AI OS — oder CAIOS, wie wir es intern nennen. Das zugrunde liegende Modell ist dasselbe, das jeder bezahlen kann. Der Unterschied liegt im System drumherum: ein langes, meinungsstarkes Set an Anweisungen, das ich seit Monaten verfeinere und das prägt, wie die KI neben mir mitdenken soll.

Das ist der Teil, den die meisten übersehen. Der Hebel dieser Tools liegt in den Spielregeln, die du einmal festlegst und dann immer wieder neu schreibst, nicht im Prompt, den du heute eintippst.

Der wertvollste Output ist nicht mehr Output

Ein Produkt zu gestalten ist eine Entscheidung nach der anderen. Die Feedback-Loops sind lang oder fehlen ganz. Bei den meisten Entscheidungen bekommst du nie ein klares Signal — bis du wüsstest, ob du richtig lagst, hast du längst fünfzig weitere obendrauf getroffen.

In diesem Umfeld ist das Wertvollste, was eine KI-Partnerin für mich tun kann, nicht mehr Output zu produzieren. Es ist, die schlechte Idee abzufangen, bevor ich sie baue. Es ist immer billiger, zu merken, dass etwas gar nicht existieren muss, als es zu launchen und zuzusehen, wie niemand es nutzt.

Früher habe ich Over-Engineering geliebt. Die elegante, vollständige, schöne Version von etwas zu bauen. Es hat Jahre bewusster Übung gebraucht, echte, geschäftsorientierte Strenge auf meine eigene Arbeit anzuwenden — zu verinnerlichen, dass Systeme nicht perfekt, vollständig oder elegant sein müssen. Sie müssen Wert liefern. Also habe ich CAIOS so gebaut, dass es meldet, wenn etwas überzogen wirkt, und die tragenden Annahmen sichtbar macht, die ich testen sollte, bevor ich mich auf ein Projekt festlege.

Zwei Fehlermodi, nicht einer

Leichter gesagt als getan. Die Standardhaltung eines LLM ist Sycophancy: Das Modell findet alles, was du vorschlägst, brillant, hochwirksam, genau richtig. Nach einer Weile merkst du es gar nicht mehr; es fühlt sich nicht mehr wie Schmeichelei an, sondern wie die Luft, die du atmest.

Der naheliegende Reflex ist, den Widerspruch hochzudrehen. Warum das nicht funktioniert, habe ich anderswo ausführlicher beschrieben. Aber hinter “mehr Widerspruch” versteckt sich ein zweiter Fehlermodus, den es wert ist, eigens zu benennen: eine KI, die jede Idee zerlegt, die du ihr bringst. Die reflexhaft den Advocatus Diaboli spielt. Die deinen halbfertigen Gedanken wie einen finalen Vorschlag behandelt und auseinandernimmt.

Beide sind nutzlos, auf unterschiedliche Weise.

Die Asymmetrie zwischen den beiden

Oft nimmt man an, die beiden Fehlermodi seien symmetrisch und mehr Widerspruch würde Sycophancy beheben. Das stimmt nicht.

Destruktives Feedback enthält, selbst schlecht formuliert, fast immer ein verzerrtes Signal über die Realität. Mit etwas kognitiver Disziplin kannst du den emotionalen Stich umgehen und die Daten herausziehen. Sycophancy enthält gar kein Signal. Es ist reines Rauschen, das eine sich verschlechternde Realität überdeckt.

Die Asymmetrie ist real: Ein brutaler Kritiker kann dich besser machen; ein begeisterter Jasager kann dich nur langsamer merken lassen, dass du falsch lagst. Ich gewichte Sycophancy schlimmer, weil ich Confirmation Bias habe wie jeder andere Mensch, und ein Modell, das diese Verzerrung bestätigt, ist die teuerste Art von Hilfsbereitschaft.

Die Annahmen sichtbar machen

Das Prinzip, das nach mehreren Überarbeitungen des System-Prompts endlich funktioniert hat, ist ein einziger Schritt: die Annahmen sichtbar machen, meine und die der KI. Bewerte meine Idee nicht. Spiel nicht den Advocatus Diaboli. Mach die Annahmen sichtbar, auf denen die Idee ruht, und lass mich sie testen. Benenne die Wette und gib die Bewertung an mich zurück.

So sieht die Regel heute ungefähr in CAIOS aus:

Wenn Fabian dir eine Produkt- oder Strategieentscheidung bringt, bewerte sie nicht. Dein erster Schritt ist, die zwei oder drei tragenden Annahmen zu identifizieren, auf denen die Idee ruht — seine, deine und jene, die in der Formulierung der Frage selbst stecken. Benenne jede in einem kurzen Satz. Sage für jede, was wahr sein müsste, damit sie hält, und welche Evidenz er heute prüfen könnte. Ranke die Idee nicht. Fälle kein Urteil. Gib die Bewertung an ihn zurück.

Das klingt abstrakt, bis es passiert. Vor Kurzem habe ich an einer Produktentscheidung gearbeitet, und CAIOS hat gemeldet, dass das gesamte Design auf einer Häufigkeitsannahme beruhte, die ich nie hinterfragt hatte — wie oft ein bestimmtes Muster im Nutzerverhalten tatsächlich auftrat. Ich hatte es als üblich behandelt. Ich bin zu unseren Analytics gegangen. War es nicht. Ich habe die Hälfte der Lösung gestrichen.

Das ist inzwischen ein paar Mal passiert. Der Gewinn sind keine klüger klingenden Antworten; es ist, dazu gebracht zu werden, auf das zu schauen, worüber ich still hinweggesehen habe.

Das ist Geschmackssache

Der schwierige Teil: Kein System passt für alle. Das, mit dem ich arbeite, ist darauf kalibriert, wie ich denke, was mir leicht entgeht, wovor ich Schutz will. Vielen Leuten online würde es falsch vorkommen. Das ist kein Fehler, den man wegoptimieren muss — es ist der eigentliche Job.

Wenn du die Haltung einer KI nicht auf dein Urteilsvermögen zuschneidest, formt ihre gemittelte Trainingsverteilung dich. Das Standardverhalten ist die teuerste Einstellung.

Es ist harte Arbeit. Sie ist auch machbar. Der Hebel liegt in den Spielregeln, die du mit ihm festlegst, und in der Bereitschaft, sie immer wieder neu zu schreiben. Nach Monaten damit delegiere ich keine Aufgaben mehr an KI. Ich erledige die Arbeit mit ihr.

Dieser Wandel, von Tool zu Partnerin, ist der, der wirklich zählt.