Anthropic, der Entwickler von Claude, wird in Kürze an die Börse gehen, weshalb das Unternehmen in letzter Zeit mehrere wichtige Ankündigungen gemacht hat. Diesmal können wir berichten, dass das Unternehmen nach mehr als einem Jahr die Nutzungsbedingungen von Claude aktualisiert hat. Dies ist von Bedeutung, da darin die Rahmenbedingungen für den ordnungsgemäßen Betrieb festgelegt sind und auf deren Grundlage Nutzer sogar von der Plattform ausgeschlossen werden können.
Das Unternehmen hat die Richtlinien, die missbräuchliches Verhalten im Umgang mit dem Chatbot, die vorsätzliche Manipulation des Systems sowie belästigende und verletzende Interaktionen verbieten, klarer und strenger gefasst.
Die aktualisierten Richtlinien legen besonderen Wert auf Verhaltensweisen, bei denen künstliche Intelligenz dazu genutzt wird, gewalttätige, erniedrigende oder psychologisch manipulative Situationen zu simulieren. Anthropic verbietet ausdrücklich Prompts, die darauf abzielen, missbräuchliches Verhalten zu modellieren, sexuelle oder verbale Belästigung zu provozieren oder Situationen herbeizuführen, deren Ziel es ist, die Sicherheitsbarrieren des Modells absichtlich zu umgehen.
Die neuen Vorschriften beziehen sich nicht nur auf die böswillige Nutzung gegen andere, sondern legen auch die Grenzen der direkten Kommunikation mit dem Modell genau fest.
Nach den Erfahrungen des Unternehmens gibt es Nutzer, die dem Chatbot regelmäßig gewalttätige, beleidigende Nachrichten schreiben. Das Unternehmen hält dies ebenfalls für inakzeptabel und war der Ansicht, dass es an der Zeit sei, dem ein Ende zu setzen. Wer Claude nutzen möchte, sollte sich gegenüber dem Dienst respektvoll – also menschenwürdig – verhalten. Indem das Unternehmen diesem Aspekt mehr Aufmerksamkeit schenkt, wird es auch in der Lage sein, weitere Szenarien mit Missbrauchsverdacht herauszufiltern. Solche Unterhaltungen konnte Claude bereits seit dem Update im August letzten Jahres unterbrechen, doch von nun an wird diesen „Missbräuchen“ noch mehr Aufmerksamkeit geschenkt.
Die Änderung dient gleichzeitig dem Schutz der Nutzer: Die Richtlinien bekräftigen die Einschränkungen in Bezug auf Selbstverletzung, die Entwicklung extremer psychischer Abhängigkeiten sowie realitätsferne, schädliche Interaktionen. Heutzutage ist es leider eine durchaus realistische Situation, dass jemand seine tiefe Depression mit dem Chatbot bespricht oder ihm seine Selbstmordneigung bzw. -absicht mitteilt. Auf solche Situationen wird Claude besser reagieren können. Zudem gibt es viele, die lediglich testen, wie der Dienst auf solche Eingabeaufforderungen reagiert, doch auch solche Simulationen sollen künftig unterbunden werden.
Anthropic hat nun mehrere bestehende Einschränkungen zusammengefasst und um eine neue Bestimmung ergänzt, die irreführende kommerzielle oder politische Kampagnen verbietet. Damit signalisiert das Unternehmen, dass es das immer größere Problem der durch künstliche Intelligenz generierten Propaganda im Blick hat. Es schränkt Versuche ein, die darauf abzielen, die Identität der Person hinter einer Nachricht zu verschleiern oder Inhalte mithilfe gefälschter Konten und Beiträge zu verstärken.
Die Wahlrichtlinien verbieten zudem die Täuschung der Wähler und die Störung des Wahlverlaufs, einschließlich der Verbreitung irreführender Informationen über Kandidaten oder das Wahlverfahren, den Identitätsdiebstahl von Kandidaten oder Wahlbeamten sowie Versuche, die Wahlbeteiligung zu unterdrücken.
Laut dem jüngsten Bedrohungsanalysebericht des Unternehmens nutzen Menschen Claude-basierte Überwachungssysteme zudem immer häufiger, um ihre politischen Gegner zu identifizieren und zu verfolgen, weshalb das Unternehmen seine Verbote in Bezug auf die Überwachung präzisiert hat.
Anthropic teilte mit, dass zwar die Nutzungsrichtlinien die Verwendung von Claude für die Waffenentwicklung schon immer öffentlich untersagt hätten, das Unternehmen jedoch mehrere Versuche festgestellt habe, bei denen Claude für die Entwicklung von Steuerungs- und Kontrollsoftware für Waffen genutzt werden sollte, weshalb die neuen Nutzungsrichtlinien das Verbot nun ausweiten. Künftig gilt das Verbot auch für Software und Komponenten, die den Betrieb von Waffen gewährleisten, sowie für Aktivitäten wie die Aktivierung von Drohnen und anderen autonomen Fahrzeugen.
Anthropic hat darüber hinaus eine neue Regel eingeführt, wonach in Fällen, in denen die KI-Modelle von Anthropic mit Hardware verbunden sind, die zu eigenständigen physischen Handlungen fähig ist und sogar Verletzungen verursachen können, muss ein qualifizierter Bediener in der Lage sein, die Anlage zu überwachen und bei Bedarf abzuschalten. Dies bezieht sich eindeutig auf den Einsatz in der Robotik, und gemäß der Position von Anthropic muss bei der Verwendung von „Claude“ in Verbindung mit einem Roboter auf jeden Fall ein menschlicher Bediener anwesend sein.
Auch die technologische Seite der Richtlinien wurde erheblich verschärft. Die Richtlinien definieren nun noch eindeutiger, welche Sicherheitstests nicht zulässig sind und welche Versuche darauf abzielen, die Schutzmaßnahmen zu umgehen. Darüber hinaus sind alle Aktivitäten kategorisch verboten, die darauf abzielen, die internen Denkprozesse von Claude zu knacken, die Antworten des Modells im industriellen Maßstab zu kopieren oder den Code des Systems unbefugt zu entschlüsseln.
Dieser Schritt steht in direktem Zusammenhang mit den jüngsten Modellaktualisierungen von Anthropic – darunter die Einführung von Claude Sonnet 5.5 und Haiku 5.5 –, mit denen das Unternehmen begonnen hat, seine Systeme sowohl auf Hardware- als auch auf Softwareebene durch integrierte Filter vor Netzwerken zu schützen, die automatisierte „Destillation“ betreiben.
Die jüngste Änderung der Nutzungsbedingungen schafft eine rechtliche und administrative Grundlage für die sogar sofortige Ahndung von Missbrauch. Zur Durchsetzung der Regeln wendet Anthropic einen mehrstufigen Überwachungsmechanismus an.
