Die Kennzeichnungspflicht für maschinell erzeugte Inhalte hat diese Woche ihren ersten Praxistest bekommen, und der ging schief. Dazu kamen eine Urheberrechtsklage gegen OpenAI und eine Lücke, über die ein Assistent verbundene Konten auslas. Für alle, die mit KI in der Technischen Dokumentation arbeiten, hängt das zusammen. Es geht jedes Mal um die Herkunft von Inhalten. 4 Meldungen mit Quelle und Einordnung, dazu ein Termin im November, bei dem ich selbst auf der Bühne stehe.
Anthropic markiert Claude-Texte, ein Werkzeug entfernt die Markierung wieder
Anthropic versieht seit Anfang August alle Ausgaben seiner Claude-Modelle mit einem „unsichtbaren“ Wasserzeichen auf Basis der SynthID-Technik, um der europäischen Kennzeichnungspflicht zu genügen. Das Verfahren erzeugt ein statistisches Muster im Text. Man kann es ich so vorstellen: Die Wahrscheinlichkeit des Modells selbst würde an einer Stelle „Tür“ schreiben, das Wasserzeichen zwingt es aber z.B. dazu, bei jedem zweiten Vorkommen „Eingang“ zu schreiben. Wir aus dem redaktionellen Umfeld kennen das Problem mit Synonymen. Sie treffen meistens eben meistens nicht exakt das, was wir aussagen wollen. Zwar behauptet Anthropic, dass die Qualität der Texte darunter nicht leide, aber das ist natürlich Unsinn. Eine statistische Ersetzung von Worten wird natürlich Auswirkungen auf den Text haben. 4 Stunden nach dem Start veröffentlichte ein Entwickler namens Guillaume Meyer ein Werkzeug, das Wörter schrittweise durch Synonyme ersetzt und das Muster damit stört; das Projekt sammelte über 15.000 Sterne. Dadurch wird der Text sicher nicht besser, aber vielleicht ist damit ein Wasserzeichen weniger gut zu erkennen. Wer weiß. Ein Prüfwerkzeug hat Anthropic bislang nicht veröffentlicht, deshalb lässt sich von außen nicht messen, wie gut beides funktioniert. (Quelle)
Für die Redaktionspraxis halte ich Text-Wasserzeichen für wertlos, und zwar unabhängig davon, ob jemand sie absichtlich entfernt. Ihre eigene Qualitätssicherung sollte das Signal ohnehin zerstören: Terminologieprüfung, Stilkorrektur und der Durchlauf durch den Übersetzungsspeicher tauschen genau die Wörter aus, an denen das Muster hängt. Da der Content in Redaktionen immer geprüft und freigegeben ist, entfällt eine Markierung ohnehin. Trotzdem sollte man ein Protokoll mit dem Vermerk führen, welches Modell einen Baustein wann erzeugt hat. Wie die Pflicht rechtlich gefasst ist, habe ich in diesem Beitrag zu Artikel 50 aufgeschrieben.
LinkedIn stuft eine Million gemeldete Beiträge herab
Nutzerinnen und Nutzer haben auf LinkedIn binnen 3 Wochen rund eine Million Beiträge als „AI-Slop“ markiert. Produktchef Hari Srinivasan behauptet, dass so eingestufte Beiträge 40 % weniger Reichweite „erhalten“ als menschlich erzeugte. Wie viele Beiträge tatsächlich maschinell entstehen, weiß niemand, auch nicht, wie generell mit Falschmeldungen umgegangen wird. (Quelle)
Die Meldungen richten sich gegen Beliebigkeit. Gegen all zu offensichtliche Formulierungen und Muster, die ich bereits in „KI-Muster aus Texten entfernen: 10 Fehler die jeden verraten“ erwähnt hatte. Das ist gar nicht weit weg von dem, was wir in den Redaktionen ohnehin anstreben. Dort heißt es Standardisierung. Wir versuchen also ganz bewusst viele Inhalte möglichst generisch zu formulieren, damit wir die entsprechenden Absätze möglichst oft wiederverwenden können. Es ist also nicht immer schlecht, möglichst konsistent zu formulieren. Wer KI nutzt, braucht sich über das Wasserzeichen keine Gedanken zu machen, wenn so oder so eine eigene Terminologie vorhanden ist und umgesetzt wird. Ich nutze selbstverständlich selbst KI. Und das sehr viel. Es erweitert meine Möglichkeiten und spart sehr viel Zeit. Nostalgiker mögen noch immer handschriftliche Arbeit bevorzugen und sie ist sicher besser für die Motorik, und dennoch hat sich im beruflichen Kontext das effizientere Schreibmittel durchgesetzt. Der PC. Und genau so wird es auch bei der KI sein.
Carlsen klagt gegen OpenAI, und die Klage nennt das Verlagslogo
Am 19. August haben der Carlsen Verlag, der Autor Marc-Uwe Kling und die Illustratorin Astrid Henn vor dem Landgericht München I Klage gegen OpenAI Ireland eingereicht. Laut Pressemitteilung erzeugt ChatGPT auf einfache Eingaben hin Geschichten, die dem geschützten Werk „Das NEINhorn“ in wesentlichen kreativen Elementen gleichen. Angeboten würden komplette Druckvorlagen samt Umschlaggestaltung, Impressum, einer falschen Bestellnummer und dem Verlagslogo. (Quelle)
Der für uns interessante Teil ist das Logo. Wenn ein Modell Umschlag, Impressum und Herausgeberkennzeichen „reproduziert“, dann sind solche Gestaltungsmerkmale vermutlich als zusammenhängendes Muster im Trainingsmaterial gelandet. Für Anleitungen und Handbücher gilt das genauso, nur merkt es niemand, weil kaum jemand ein Modell nach Ihrer Betriebsanleitung fragt. Ich empfehle, das einmal zu prüfen. Fragen Sie ein öffentlich zugängliches Modell nach einem spezifischen Sicherheitshinweis aus Ihrer eigenen Dokumentation und sehen Sie sich an, was zurückkommt. Kommt eine brauchbare Fassung Ihres Hinweises zurück, wissen Sie, dass Ihre Anleitung im Trainingsmaterial steckt. Das ist natürlich sehr wahrscheinlich, weil große Modell so oder so mit nahezu dem gesamten Internet trainiert wurden. Wenn Sie also Dokumente in einem Downloadbereich anbieten, sind diese sicher Teil des Modells. Ist das schlimm? So lange die in ihrem Namen verteilte Information richtig ist, eher nicht. Kunden finden so möglicherweise die Antwort auf eine Frage bevor sie Ihren Service kontaktieren. Was aber, wenn diese Informationen falsch sind? Fehler in der Anleitung? Vom Modell erfunden?
Ein präparierter Link brachte Copilot dazu, verbundene Konten auszulesen
Die Sicherheitsfirma Varonis hat unter dem Namen CoSnitch eine Kette aus 3 Schwachstellen in Copilot Personal beschrieben (CVE-2026-24301). Ein einziger Klick auf einen manipulierten Link genügte, damit der Assistent Anweisungen der Angreifer ausführte, auf verbundene Konten wie Gmail und Google Drive zugriff und Daten kodiert abfließen ließ. Varonis meldete den Fund im Dezember 2025 an Microsoft, geschlossen wurde die Lücke am 18. August 2026. Hinweise auf Angriffe im öffentlichen Umfeld gibt es laut Varonis nicht. (Quelle)
Das „beeindruckende“ sind die 8 Monate zwischen Meldung und Behebung. Wer einen Assistenten an das Firmengedächtnis hängt, muss sich auch bei Sicherheitsproblemen auf Reaktionszeit des Anbieters verlassen. Bei der Einführung von Assistenzsystemen sollte man sich also genau überlegen, welche Daten und Systeme im Zugriff sein müssen. In der Dokumentation stellt sich diese Frage auch, ist aber viel leichter zu beantworten, weil die Informationen sortiert, klassifiziert und steuerbar vorliegen. Bei Postfächern und wilden Dateiablagen sieht die Sache anders aus.
3 Tage tekom-Jahrestagung: Round Table zur Führung und ein Vortrag zu KI am Rechner
Vom 10. bis 12. November läuft die tekom-Jahrestagung im ICS der Messe Stuttgart, mit über 200 Vorträgen, Workshops und Meetups. Ich bin die vollen 3 Tage vor Ort und an 2 Stellen selbst beteiligt. Die Fachgruppe Leadership und Organisationsentwicklung in der Technischen Kommunikation, die ich mitgegründet habe und in deren Kernteam ich arbeite, richtet erneut einen Round Table rund um das Reifegradmodell der Organisation der Technischen Dokumentation aus. Dazu kommt ein Tutorial mit Maurice Daum von der ICMS GmbH unter dem Titel „KI aber richtig. Vom Browser aufs Betriebssystem“. (Quelle)
Wir beschreiben einen Schritt, an dem bei vielen Anwendern gerade Schluss ist. KI läuft dort im Browserfenster: Frage hinein, Antwort heraus, Ergebnis über die Zwischenablage kopieren und dann irgendwo abspeichern. Jede Anwendung bleibt eine Einzelhandlung, die hinterher niemand nachvollziehen kann, und der Nutzen hängt an der Person, die gerade tippt. Auf dem Rechner sieht dieselbe Arbeit anders aus. Das Modell öffnet Dateien, greift auf Terminologie und Prüfwerkzeuge zu, arbeitet in Ihren Beständen und hinterlässt bei jedem Schritt eine Spur. Damit verschieben sich die Fragen weg von der Formulierung der Eingabe hin zu Zugriffsrechten, Freigaben und der Aufteilung zwischen Maschine und Mensch. Im Round Table geht es um die andere Hälfte derselben Sache: Wie führt man eine Redaktion, in der ein wachsender Teil der Schreibarbeit maschinell entsteht und die Prüfung zur eigentlichen Facharbeit wird?
Sehen wir uns auf der tekom?
Ich finde diese Veranstaltung sehr lohnend. Gerade in diesem Jahr dreht sich vieles darum, KI-Prozesse sinnvoll in die Technische Dokumentation zu integrieren und es ist so viel möglich. Ein paar Usecases zeigen wir im Tutorial live. Ich freue mich auf viele tolle Gespräche und Kontakte.
