In Teil 2 ging es um die Form der Kommunikation. Jetzt wird es ernster, denn eine KI antwortet nicht nur, sie handelt: Sie legt Dateien an und schreibt in Systeme. Ob ein solcher Schritt reale Folgen hat, unterscheidet sie von sich aus nicht. Eine KI kann Fehler machen, und genau das ist der Grund, warum man ihr eindeutige Regeln und Grenzen setzen muss, um zu kontrollieren, was sie tut. Die folgenden vier Regeln definieren die Punkte, an denen sie innehält und auf eine Freigabe wartet, damit man zum erwarteten Ergebnis kommt.
Erst zeigen, dann schreiben
Auch mit erteiltem Grundauftrag schrieb die KI anfangs Inhalte für die Tasks und Knowledge-Base-Einträge von mir ungelesen direkt in YouTrack. Was geschrieben wurde, hat die KI immer erst hinterher angezeigt. Das hatte zur Folge, dass ich dann den Text anpassen musste, und dann wurde er erneut korrigiert, was viel Zeit gekostet hat. Heute gilt für alles, was in ein geteiltes System geht: Der vollständige Inhalt wird zuerst im Chat gezeigt, dann kommt die Freigabe, dann erst wird geschrieben. Ohne Ausnahme, auch bei Kleinigkeiten, auch wenn der Auftrag längst erteilt ist.
Ein erteilter Auftrag ist eben keine Blanko-Unterschrift. Zwischen „mach das" und „veröffentliche das" liegt genau ein prüfender Blick, und auf den verzichte ich nicht.
Eine Rückfrage ist noch kein Auftrag
Eng damit verwandt ist eine zweite Regel. Die KI wertete klärende Zwischenantworten regelmässig als Startschuss: Ich beantwortete eine Rückfrage, und schon legte sie los. Heute gilt: Nur eine ausdrückliche Freigabe ist eine Freigabe. Wer auf eine Rückfrage antwortet, hat damit noch nichts beauftragt.
Die Tendenz, sofort loszulegen, steckt bei einer KI im System. Zurückhaltung dagegen muss man ihr beibringen, und zwar als feste Regel, nicht als freundliche Bitte.
Kein ungefragter Alleingang
Am deutlichsten wurde das an einem harmlosen Auftrag. Er lautete sinngemäss „sorg dafür, dass das erledigt wird", und die KI setzte prompt an, eine fehlende Software auf meinem Rechner zu installieren. Ungefragt, einfach als nächsten Schritt zum Ziel. Ich habe den Vorgang gestoppt, installiert wurde nichts, aber die Regel war geboren: Installationen, Verbindungsversuche und Eingriffe ins System nur nach ausdrücklicher Einzelfreigabe. Ein Arbeitsauftrag ist keine Pauschalvollmacht.
Das ist die Einsicht hinter dieser ganzen Gruppe: Die KI unterscheidet nicht zwischen einem Satz Text und einem Eingriff, der etwas verändert. Beides ist für sie derselbe Arbeitsschritt. Der Mensch spürt diese Grenze, die KI hat sie nicht von sich aus, und darum muss sie ihr als Regel gesetzt werden.
Der Mensch bestimmt, wo etwas landet
Die letzte Regel dieser Gruppe klingt banal, bis sie einmal schiefgeht. „Speichere das ab", und die KI wählte den Ort selbst. Einmal landete dabei etwas Vertrauliches an einer Stelle, die auch andere hätten einsehen können. Seitdem gilt: „Speichern" ist keine Ortswahl-Freigabe. Die KI schlägt den Ablageort vor und lässt ihn bestätigen, und Vertrauliches bleibt im Zweifel beim Quelldokument statt in einer geteilten Ablage.
Bei der Ablage zählt nicht nur, was gespeichert wird, sondern wo. Und diese Entscheidung gehört dem Menschen.
Was die Leine leistet
Das ist es, was die Leine leistet: Ich entscheide, was passiert, und nicht die KI. Genau daran hängt die Sicherheit des Ergebnisses. Wo ich nicht entscheide und die Maschine einfach macht, ist das Ergebnis nicht mehr verlässlich. Die vier Regeln bremsen dabei nicht das Tempo der Arbeit, sondern nur den Moment der Wirkung. Im nächsten Teil geht es um das Gegenstück dazu, um Ordnung und Gedächtnis, und darum, wie man verhindert, dass beim Tempo einer KI der Überblick verloren geht.