Vier Meldungen dieser Woche laufen auf dieselbe Frage hinaus: Wo landen Ihre Inhalte, wenn Sie ein KI-Werkzeug benutzen, und wer kommt an sie heran. Für KI in der Technischen Dokumentation ist das keine Randnotiz, weil Redaktionen täglich unveröffentlichte Produktdaten in fremde Systeme geben. Dazu kommen zwei Punkte aus dem Handwerk selbst.
Forscher lesen die verschlüsselten Denkprozesse großer Modelle mit
Ein Team um Sicherheitsforscher Alexander Panfilov hat Schwachstellen in den Schnittstellen (APIs) führender Anbieter gefunden, über die sich die verschlüsselten Zwischenschritte von Reasoning-Modellen auslesen lassen; betroffen sind Modelle von OpenAI, Anthropic und Google. Bei einem Durchlauf durch rund 7.000 öffentlich geteilte Sitzungen fanden die Forscher 62 Zugangsschlüssel, 33 Passwörter und 33 E-Mail-Adressen, das Dekodieren von 10.000 Sitzungen kostete etwa 720 Dollar. Nach der Meldung haben die Anbieter mehrere Lücken geschlossen und arbeiten daran, weitere zu schließen. (Quelle: THE DECODER)
Wer sich die „Gedanken“ der Modelle mal genauer anschaut, findet sehr viel Prosa darin. Die Modelle treffen Annahmen und verwerfen diese wieder, recherchieren in andere Richtungen um dann wieder in die eigentliche Richtung zu arbeiten. Da kann auch schon mal viel „Quatsch“ drin stehen. Sind diese Inhalte zugänglich und nicht als „Zwischenschritte“ erkenntlich, können diese – teils falschen Annahmen – zu Fehlinterpretationen führen. Auch Secrets (also Passwörter, Token, E-Mails, etc.) sind in diesen Denkprozessen zu finden auch wenn sie, aus Sicherheitsgründen, von den meisten Modellen nicht im Output dargestellt werden. Ein Zugang über die API macht sie für Angreifer dann trotzdem zugänglich.
Claude Code entscheidet seit dieser Woche ab Werk selbst, wann es fragt
Anthropics Programmierwerkzeug läuft seit dem 14. August in den Tarifen Pro, Max und Team standardmäßig im Auto-Modus. Ein Klassifikator prüft dabei, ob eine Aktion gefährlich oder unumkehrbar ist, und fragt nur in diesem Fall nach. Aus Tests mit über 1.000 zahlenden Testern berichtet das Unternehmen, dass der Modus gefährliche Befehle zuverlässiger abfing als die manuelle Freigabe und dass Teams damit rund 25 % mehr Änderungsanträge einreichen. Anthropic schreibt selbst, der Klassifikator senke das Risiko, ohne es zu beseitigen. (Quelle: THE DECODER)
Mich interessiert an dieser Meldung vor allem die Zahl von 25 % mehr Änderungen, denn dort entsteht die eigentliche Last: All das muss jemand prüfen, und die Prüfkapazität wächst in den meisten Fällen nicht mit.
Für Redaktionen und Übersetzer, die gerade Textgeneratoren einführen, ist das relevant. Wer die KI autonom arbeiten lässt, gewinnt Geschwindigkeit. Das ist klar. Gleichzeitig steigt das Risiko ungewollter Änderungen und Eingriffe in Text und dem System selbst. Wir können nicht sicher sagen, welche Lösungswege die KI einschlägt. Lautet die Aufforderung: „Stelle sicher, dass es im Text keine Abweichung zur Terminologie-Liste gibt.“, kann es sein, dass die KI genau das tut, was sie soll – nämlich den Text mit der vorhandenen Terminologie abzugleichen und den Text anzupassen – oder sie ändert den Terminologie-Bestand. In beiden Fällen ist die Aufgabe erfüllt. Wer diese Arbeitsweise einfach so zulässt, hat in 2 Jahren einen Datenbestand, den inhaltlich niemand mehr nachvollziehen kann. Die Haftung bleibt selbstverständlich trotzdem bei Ihnen.
Mistral verkauft Rechenzeit in Europa und will 5 Jahre Bindung
Kunden können ab sofort wählen, ob ihre Anfragen in Europa oder in den USA verarbeitet werden; auf Wunsch läuft die Verarbeitung ausschließlich auf Infrastruktur, die Mistral selbst kontrolliert. Finanziert wird der Ausbau über European Compute Units, also mehrjährige Abnahmezusagen großer europäischer Häuser wie Amadeus, ASML, Capgemini und CMA CGM. Technikvorstand Timothée Lacroix nennt dafür rund 5 Jahre ohne geplante vorzeitige Kündigung, bis Ende 2027 soll die europäische Kapazität auf 200 Megawatt wachsen. Zusätzlich bietet Mistral offene Modelle anderer Entwickler über die eigene Plattform an, beginnend mit GLM-5.2 von Z.ai. (Quelle: heise online)
Der wählbare Verarbeitungsort ist für Dokumentationsdienstleister mit Maschinenbaukunden das erste Argument, das in einer Auftragsverarbeitung wirklich trägt. Die Bindung über 5 Jahre würde ich trotzdem nicht unterschreiben: Modellqualität und Kosten je Aufgabe haben sich zuletzt schneller verändert als jeder Rahmenvertrag, und eine Kapazitätszusage ohne Ausstieg ist eine Wette auf ein einzelnes Unternehmen statt auf eine Technologie. Wer weniger als 50 Personen beschäftigt, fährt mit der Freiheit besser, den Anbieter jährlich zu wechseln. Ausführlicher steht das in meinem Beitrag über KI-Projekte im Mittelstand.
Sicherheitsinformationen nach ANSI Z535
Carsten Sieber hat am 11. August zusammengefasst, was die US-Normenreihe ANSI Z535 für sicherheitsbezogene Informationen vorgibt. Für Technische Redaktionen sind zwei der sieben Teile einschlägig: Z535.4 zur Produktkennzeichnung und Z535.6 zu Sicherheitsinformationen in Begleitunterlagen. Festgelegt sind unter anderem die Signalwörter samt Farbe, DANGER in Rot, WARNING in Orange, CAUTION in Gelb und NOTICE in Blau für reine Sachschäden. Gegenüber ISO 3864 fällt die abweichende Farblogik auf, außerdem arbeitet die US-Reihe stärker mit Text, wo die ISO-Welt auf Piktogramme setzt. (Quelle: kothes)
Meine Empfehlung geht weiter als der Beitrag: Wer international liefert, sollte seine Sicherheitsinformationen durchgehend nach ANSI Z535 ausrichten und sollte vermeiden zwei parallele Warnwelten zu pflegen. Die US-Reihe macht die konkreteren Vorgaben, sie ist außerhalb der USA anerkannt, und Teile davon sind über die DIN EN 82079-1 ohnehin im europäischen Raum angekommen. Deutsche Redaktionen haben die Struktur der US-Warnhinweise seit Mitte der 1990er Jahre übernommen, weil Europa lange keine vergleichbar klare Vorgabe für die Gestaltung hatte.
Wer trotzdem zweigleisig fährt, landet in der Regel bei der teuersten Variante: einer zweiten Dokumentversion, gepflegt per Kopieren. Jede Änderung an eines Warnhinweises muss dann zweimal gefunden und aktualisiert werden. Meiner Erfahrung nach führt das nicht nur zu Mehrarbeit, sondern unvermeidlich auch zu Fehlern. Wie der Warnhinweis als sauber geschnittener Baustein aussieht, habe ich im Beitrag über Content Engineering beschrieben.
Die Entwicklung von Warnhinweisen ist immer Sache der Menschen. Oft sind die Hintergründe zu komplex, als dass sie von KI „verstanden“ werden können. Die Zusammenhänge sind extrem wichtig und genau hier schwächelt KI noch immer. Wenn die KI denkt „Gerät wurde ausgeschaltet, Strom ist aus, der Kunde kann anfassen.“, und die Kondensatoren (Energiespeicher) wurden nicht mit bedacht, dann wollen Sie nicht, dass diese Inhalte jemals das Licht der Welt erblicken. Wenn Sie einen Warnhinweis einmal sauber erstellt haben, können Sie diesen im CCMS sehr leicht wiederverwenden. KI bietet hier keinen Mehrwert. Zur Glättung einzelner Sätze und zur zielgruppengerechten Aufbereitung kann KI auch in diesem Bereich helfen.
Manus löscht Nutzerdaten, um sich von Meta zu lösen
Das KI-Start-up Manus wird bis Ende August wieder eigenständig, nachdem China die Übernahme durch Meta im April untersagt hatte. Für die Rückabwicklung löscht das Unternehmen am 23. und 24. August Daten bestimmter Nutzer, die seit dem 29. Dezember 2025 entstanden sind, und benennt dabei nicht, welche Konten betroffen sind; es verweist auf regulatorische Vorgaben in einzelnen Rechtsräumen. Ab dem 25. August lassen sich zuvor gesicherte Daten wieder einspielen, einen Sicherheitsvorfall gab es nach Angaben des Unternehmens nicht. (Quelle: heise online)
Hier zeigt sich der praktische Preis der Werkzeugvielfalt: Eine kartellrechtliche Entscheidung in Peking genügt, damit Arbeitsstände verschwinden, die in einem Anbieterkonto liegen. Die verbreitete Gewohnheit, Rechercheergebnisse und Zwischenstände dauerhaft in Chatverläufen liegen zu lassen, halte ich für das größte stille Risiko der letzten 2 Jahre, weil sie bequem ist, von außen unsichtbar bleibt und genau dann auffällt, wenn ein Anbieter seine Bedingungen ändert. Wie ein Assistent aussieht, dessen Gedächtnis Ihnen selbst gehört, habe ich im Juli beschrieben. Viel wichtiger ist hier die politische Message: China verhindert aktiv, dass KnowHow in den Westen abfließt, während in Europa eine chinesische Übernahme und Beteiligung nach der Anderen „durchgewunken“ wird.
Prompten bleibt redaktionelle Arbeit
In der Ausgabe 4/2026 der Fachzeitschrift technische kommunikation schreibt Markus Nickl, dass durchdachte Prompts weiterhin ein wesentliches Element im redaktionellen Prozess bleiben, auch wenn die Aufmerksamkeit für das Thema nachgelassen hat. Er beschreibt eine Verschiebung vom technischen zum strategischen Formulieren und sieht den größten Nutzen bei spontanen Anfragen und einmaligen Aufgaben. (Quelle: technische kommunikation)
Ich teile den Befund und ziehe die Grenze noch etwas schärfer: Bei wiederkehrenden Aufgaben ist ein loser Prompt nicht ausreichend. Die Ergebnisse müssen unter Umständen in allen Fällen reproduzierbar sein und gleichbleibende Qualität aufweisen. Die KI kann auch beim Prompten helfen, doch auch diese Zusammenhänge muss er Redakteur erst beschreiben.
Hierzu empfehle ich in eine Vorlage, eine Regel im Redaktionssystem oder in ein Skript mit festem Ablauf, den jeder Redakteur wiederverwenden kann. RedakteurInnen, die stattdessen individuelle Prompt-Sammlungen in Textdateien, Onenotes oder sonst wo pflegen, bauen sich eine undokumentierte Wissensbasis neben dem CCMS auf. Damit sind diese Informationen bei einem Personalwechsel verloren und können nicht qualitätsgesichert werden. Meine Sicht auf die Kompetenz dahinter steht im Beitrag über Prompt Engineering für Technische Redakteure.
Was ich diese Woche empfehle
Erstens: erstellen Sie Richtlinien für ihr Team in denen Sie definieren, ob und wie KI in Ihren Prozessen verwendet werden. Aus meiner Sicht gibt es Prozesse, in denen KI nicht zu suchen hat. Nämlich immer dann, wenn die Gesundheit auf dem Spiel steht. Da braucht es menschliches Urteilsvermögen um Informationen sicher zu transportieren.
Zweitens: Entwickeln Sie eine Prompt-Bibliothek. Am besten im Redaktionssystem oder in git / github. So stellen Sie sicher, dass Sie alle Anpassungen im Blick und im Griff haben und schnell auf eine vorige Version zurückspringen können.
Drittens: Unterstützen Sie Mistral. Wir brauchen ein europäisches Gegengewicht und das bekommen wir nur, wenn Mistral kommerziell erfolgreich ist. Ich selbst nutze Mistral und finde es hat viele gute Ansätze. Dazu werde ich auch noch einen Detailpost schreiben.
Kurz-Fazit
Sicherheitsthemen, Freigaben und Reviews sollten in Menschenhand bleiben. Bei allen Aufgaben kann man sich von der KI unterstützen lassen, aber das sollte unbedingt dokumentiert werden.
