Von Jahr zu Jahr sprechen sich immer mehr Menschen für eine strengere Kontrolle von KI-Technologien aus, und diese Forderungen finden vor allem in der Europäischen Union Gehör. Die EU ist fast die einzige, die sich öffentlichkeitswirksam darum bemüht, die Innovationen im Bereich der künstlichen Intelligenz in den Griff zu bekommen. Auch Claude wird aufgrund einer europäischen Rechtsvorschrift in Zukunft transparenter sein.
Anthropic hat angekündigt, dass Texte und Bilder, die vom Claude-Chatbot erstellt werden, künftig mit einem Wasserzeichen versehen werden. Dieses Wasserzeichen wird in erster Linie durch „maschinelles Lesen“ erkennbar sein, d. h., geeignete Systeme und Software werden mit hoher Zuverlässigkeit erkennen können, dass der untersuchte Inhalt teilweise oder vollständig von der künstlichen Intelligenz von erstellt wurde.
„In die generierten Texte werden Wasserzeichen eingebettet, und die generierten Dateien werden – sofern dies unterstützt wird – digital signierte Metadaten zur Herkunftsangabe enthalten“, schreibt Anthropic auf der aktualisierten Support-Seite von Claude.
In den letzten Jahren sind zahlreiche Tools entstanden, die darauf abzielen, Spuren künstlicher Intelligenz aufzudecken und Missbräuche durch KI festzustellen. Diese funktionieren jedoch in den allermeisten Fällen unzuverlässig – sie sind lediglich dazu geeignet, das Misstrauen zwischen den Menschen zu schüren. Auch in diesem Bereich werden gut funktionierende Instrumente benötigt, doch laut Experten ist es hierfür unerlässlich, dass Unternehmen die Wasserzeichen ordnungsgemäß bereitstellen.
Die Europäische Union gab Anfang des Monats bekannt, dass sie im Rahmen des AI Act ein Kennzeichnungssystem für Inhalte mit künstlicher Intelligenz einführen wird, um die Transparenz zu erhöhen. Dies schreibt die Kennzeichnung von mit generativer KI erstellten Inhalten verbindlich vor und unterscheidet dabei zwei separate Kategorien: Inhalte, die mit KI generiert wurden, und Inhalte, die mit KI bearbeitet oder modifiziert wurden. Diese wurden auch mit unterschiedlichen Kennzeichnungen versehen, doch ist unklar, ob beispielsweise Claude in der Lage sein wird, vollständig generierte von bearbeiteten Inhalten zu unterscheiden.
Die Vorschriften der Europäischen Union zur Kennzeichnung von KI-Inhalten wurden mit einer viermonatigen Übergangsfrist eingeführt, was bedeutet, dass Unternehmen noch in diesem Jahr dafür sorgen müssen, dass sie die Anforderungen des aktualisierten AI Act erfüllen. Tun sie dies nicht, kann die EU ein Verfahren einleiten, und angesichts der derzeitigen Aktivität der Europäischen Kommission haben wir keinen Zweifel daran, dass sie diesen Schritt auch tatsächlich gehen wird.
Anthropic wird die künftig einzuführenden Claude-Modelle vom ersten Tag an so einsetzen, dass sie die generierten Inhalte kennzeichnen. Die derzeit in Betrieb befindlichen Modelle sorgen hingegen noch nicht dafür, aber grundsätzlich ist ein Update auch für diese Claude-Varianten bereits in Vorbereitung.
Je nach Inhaltsformat wird Anthropic zwei unterschiedliche Lösungen für die Platzierung des Wasserzeichens anwenden. Bei Bildern und Dateien wird das C2PA-System zum Einsatz kommen (das bereits von Google, OpenAI und Adobe genutzt wird), während Textantworten mit einer anderen Methode gekennzeichnet werden, die sich buchstäblich zwischen den Zeilen versteckt.
„Wenn ein unterstütztes Claude-Modell Text generiert, webt es ein nicht wahrnehmbares Wasserzeichen direkt in den Text ein. Dieses ist nicht sichtbar und verändert weder die Bedeutung, noch die Qualität oder die Lesbarkeit der Antwort von Claude“, betonte das Unternehmen.
Wie wir erfahren haben, bleibt das Wasserzeichen sichtbar, egal wohin der Nutzer den Text kopiert. Es lässt sich zwar entfernen, wenn man den Text manuell bearbeitet, doch das Verfahren ist nicht vollkommen sicher. Handelt es sich um einen besonders kurzen Textabschnitt, lässt sich das Wasserzeichen darin nicht gut verbergen, und auch in stark veränderten, stark umformulierten Texten kann der „Fingerabdruck“ der Claude-Modelle verloren gehen.
Anthropic wird eine globale und allgemeine Wasserzeichen-Kennzeichnung einsetzen und beabsichtigt nicht, hierfür gesonderte Vorkehrungen für die EU zu treffen. Das Unternehmen hat bereits zuvor Schritte in Richtung Transparenz unternommen, daher ist es nicht überraschend, dass es auch bei der neuen Regelung keine Ausnahmen anstrebt. Die Claude-API, der Claude-Chatbot, Claude Code, Claude Cowork und Claude Tag werden ebenfalls für die Wasserzeichen sorgen. Dabei spielt es keine Rolle, wer der Anbieter ist – alle Entwicklungen werden sowohl auf den Systemen von AWS, SpaceXAI, Google Cloud als auch Microsoft gleichermaßen funktionieren.
