Claude Enterprise Inference Hooks: Was passiert, wenn die Prüfung fehlschlägt
AI News & Trends

Claude Enterprise Inference Hooks: Was passiert, wenn die Prüfung fehlschlägt

5 Min. Lesezeit
Teilen:

Stellen Sie sich vor, ein Mitarbeiter lädt einen Vertrag in Claude hoch und bittet um eine Zusammenfassung für einen Kollegen. Das Dokument enthält vertrauliche Bedingungen. Wenn die Unternehmensrichtlinie diese Verarbeitung untersagt, kommt eine Warnung nach der generierten Antwort zu spät.

Anthropic bietet nun eine Möglichkeit, die Anfrage zu stoppen, bevor das Modell sie verarbeitet. In seinem Claude Enterprise security update hat das Unternehmen die allgemeine Verfügbarkeit von Inference Hooks angekündigt: Prüfungen, über die das Sicherheitssystem eines Unternehmens eine Anfrage zulässt oder ablehnt. Eine separate Prüfung kann vor der Ausführung von Tool-Aufrufen erfolgen.

Die nützliche Neuerung besteht darin, dass eine Organisation ihre eigenen Richtlinien anwenden kann, während Menschen mit KI arbeiten. Wie zuverlässig dieser Schutz ist, hängt auch von einer leicht zu übersehenden Einstellung ab: was passiert, wenn der Prüfserver nicht antwortet.

Was tatsächlich gestoppt werden kann

Laut der technischen Dokumentation sendet Anthropic das Gesprächsprotokoll an einen HTTPS-Server, der von der Organisation oder ihrem Sicherheitsanbieter betrieben wird. Der Server gibt ein Urteil mit allow oder deny zurück. Eine abgelehnte Anfrage erreicht das Modell nicht. Ein bestehendes Data-Loss-Prevention-System (DLP) kann daher auch Claude-Gespräche prüfen.

Dies ist keine Prüfung, bevor Informationen den Computer des Mitarbeiters verlassen. Sie läuft auf Anthropic-Seite, nachdem die Anfrage den Client bereits verlassen hat. Inhalte werden außerdem an den ausgewählten Prüfserver gesendet. Die Auswahl dieses Servers und die Prüfung seiner Aufbewahrungspraktiken verdienen dieselbe Aufmerksamkeit wie die Auswahl des KI-Tools selbst.

Wenn Validate tool calls aktiviert ist, bewertet eine zusätzliche Prüfung Tool-Aufrufe, bevor sie ausgeführt werden. Sie kann diese gemäß den im Prüfsystem implementierten Richtlinien ablehnen. Die Dokumentation beschreibt außerdem Ausnahmen in der Abdeckung, darunter einige interne Tools von claude.ai. Unternehmen sollten nicht davon ausgehen, dass jede mögliche Agentenaktion diese Prüfung durchläuft.

Die Funktion ist für Claude Enterprise vorgesehen. Sie deckt Anwendungen, die ein Unternehmen mit der Claude Platform API erstellt hat, nicht automatisch ab und ist weder auf Amazon Bedrock noch auf Google Cloud verfügbar. Claude irgendwo in der Infrastruktur zu nutzen bedeutet nicht, dass diese Kontrolle diese Bereitstellung bereits schützt.

Wenn die Prüfung fehlschlägt, kann die Anfrage weiterlaufen

Der Konfigurationsleitfaden bietet zwei Ausfallrichtlinien, wenn der Server nicht erreichbar ist oder ein Urteil in einen Timeout läuft. Fail open lässt die Anfrage ohne Prüfung weiterlaufen. Fail closed blockiert sie.

Die Dokumentation gibt an, dass die Standardwerte beim ersten Speichern Allow the request und ein Timeout von fünf Sekunden sind. Diese Produkteinstellungen sollten bei der Bereitstellung überprüft werden, da sich Standardwerte ändern können.

Im Vertragsbeispiel bedeutet Fail open, dass ein Problem mit dem Prüfserver dazu führen kann, dass das Dokument ohne die erwartete Prüfung das Modell erreicht. Fail closed stoppt die Verarbeitung, kann bei einem länger anhaltenden Ausfall aber auch legitime Arbeit unterbrechen. Das Team muss entscheiden, welches Ergebnis für die jeweiligen Daten und den jeweiligen Workflow akzeptabel ist.

Das sollte vor dem Rollout getestet werden: Machen Sie den Prüfserver in einer kontrollierten Testumgebung absichtlich nicht verfügbar. Prüfen Sie anschließend, was der Nutzer sieht und ob die Anfrage entsprechend der ausgewählten Richtlinie blockiert oder zugelassen wurde. Ein erfolgreicher Test mit einem zulässigen Dokument zeigt nicht, wie sich der Schutz während eines Ausfalls verhält.

Ein Foto des Dokuments ist ein separater Fall

Eine wichtige Einschränkung betrifft Anhänge. Der Prüfserver erhält Metadaten und extrahierten Text, nicht die ursprüngliche Datei oder Bilddaten. Die Dokumentation stellt ausdrücklich fest, dass reine Bildinhalte, etwa ein Screenshot eines Dokuments, nicht geprüft werden.

Ein Test mit einem Textvertrag reicht daher nicht aus. Derselbe vertrauliche Inhalt sollte auch als Bild getestet werden, ohne echte Kundendaten. Ziel ist es festzustellen, wo eine weitere Kontrolle erforderlich ist, etwa die Einschränkung, welche Dateien überhaupt hochgeladen werden dürfen.

Die Prüfung bearbeitet das Dokument für den Mitarbeiter auch nicht. Ihr Urteil lautet zulassen oder ablehnen; das Umschreiben oder automatische Schwärzen sensibler Passagen wird nicht unterstützt. Wenn der Inhalt verboten ist, muss die Person ihn entfernen oder einem anderen genehmigten Prozess folgen.

Wie wir bewerten würden, ob es für ein Unternehmen nützlich ist

Wir würden mit einem tatsächlichen Workflow und Testdokumenten beginnen, die keine echten vertraulichen Daten enthalten. Die Zusammenfassung von Verträgen ist ein Beispiel, mit klar gekennzeichneten Bedingungen, die das System blockieren sollte. Zunächst muss das Unternehmen definieren, welche Inhalte erlaubt sind und wer eine Ausnahme genehmigen kann, wenn sie gerechtfertigt ist.

Shadow mode ist für den ersten Test verfügbar. Der Server erhält Anfragen und gibt Urteile zurück, aber nichts wird blockiert. Dadurch wird sichtbar, ob die Regeln legitime Arbeit stören würden. Inhalte erreichen weiterhin das Modell, daher ist der Shadow mode kein durchgesetztes Verbot vertraulicher Dokumente.

Nach dem Test muss die Abdeckung geprüft werden: Welche Personen und Anwendungen laufen tatsächlich durch diese Kontrolle? Ein teilweiser Rollout und ausgenommene Rollen lassen Anfragen außerhalb der Prüfung. Für ein Team, das Kundenverträge bearbeitet, ist das eine nützlichere Prüfung als die allgemeine Zusicherung, das Unternehmen habe „DLP für KI“.

Unsere Einschätzung bei Encorp.ai ist, dass Inference Hooks eine nützliche Option für Organisationen bieten, die Claude Enterprise bereits mit klaren Datenrichtlinien nutzen. Bevor man sich darauf verlässt, muss ihr Verhalten getestet werden, wenn etwas fehlschlägt. Eine Einstellung in der Admin-Konsole auszuwählen ist ein Anfang; der Test einer unterbrochenen Verbindung zeigt, ob diese Einstellung den gewählten Workflow tatsächlich schützt.

Frequently asked questions

Was sind Claude Enterprise Inference Hooks?

Sie ermöglichen es dem Sicherheitsserver einer Organisation, ein Urteil zum Zulassen oder Ablehnen abzugeben, bevor eine regulierte Anfrage das Modell erreicht. Wenn Validate tool calls aktiviert ist, werden auch Tool-Aufrufe vor der Ausführung geprüft, vorbehaltlich der dokumentierten Einschränkungen in der Abdeckung.

Was passiert, wenn der Prüfserver nicht verfügbar ist?

Die konfigurierte Ausfallrichtlinie greift. Fail open lässt die Anfrage ohne Prüfung weiterlaufen; Fail closed blockiert sie. Der Konfigurationsleitfaden nennt Allow the request und einen Timeout von fünf Sekunden als Standardwerte beim ersten Speichern. Diese sollten bei der Bereitstellung überprüft werden.

Prüfen Inference Hooks Screenshots und schwärzen Dokumente automatisch?

Der Server erhält Anhangsmetadaten und extrahierten Text, nicht die Rohdaten von Dateien oder Bildern. Reine Bildinhalte werden nicht geprüft. Urteile lauten zulassen oder ablehnen; Umschreiben oder Schwärzen wird nicht unterstützt.

Decken diese Hooks Claude API-Anwendungen und Bereitstellungen bei Cloud-Anbietern ab?

Die dokumentierte Funktion ist für Claude Enterprise-Organisationen vorgesehen. Organisationen mit Claude Platform API liegen außerhalb des Geltungsbereichs, und Inference Hooks sind weder auf Amazon Bedrock noch auf Google Cloud verfügbar.

Ähnliche Artikel

Ein KI-Tool traf die HR-Systeme der Kommission. Ihre niedrig priorisierten Fixes sind jetzt dringend

Die Europäische Kommission hat bestätigt, dass bei einem Angriff auf ihre HR-Systeme ein öffentlich verfügbares KI-Tool eingesetzt wurde. CERT-EU und FBI beschreiben dieses Tool als eines, das kleine Fehlkonfigurationen mit maschineller Geschwindigkeit verkettet. Das verändert, wie ein mittelständisches Unternehmen seine Sicherheitsliste mit niedriger Priorität behandeln sollte.

20. Nov. 2026

Die FRIA-Vorlage zum AI Act ist da: Wer sie ausfüllt und was sie abfragt

Am 16. November veröffentlichte die Kommission einen Entwurf der Vorlage für die Grundrechte-Folgenabschätzung nach Artikel 27 des AI Act. Wer sie nutzen muss, was die einzelnen Abschnitte abfragen, wobei die DSFA hilft, warum ein Modell-Update eine neue Version auslösen kann und welche Termine am 4. Dezember und 15. Januar wichtig sind.

17. Nov. 2026

ChatGPT Ads in Bulgarien: Die Anzeige steht unter einer Antwort, die man nicht kaufen kann

Seit dem 12. November können bulgarische Unternehmen ChatGPT Ads über einen lokalen Reseller, Aleph, kaufen. Die Anzeigen selbst sind hier bereits seit August verfügbar. Für Marketer ist vor allem wichtig, wo die Anzeige erscheint: unter einer Antwort, die Werbung laut OpenAI nicht beeinflussen kann.

16. Nov. 2026