Claude Enterprise: какво става, когато проверката за данни спре
Представете си служител, който качва договор в Claude и иска резюме за колега. В документа има поверителни условия. Ако фирменото правило забранява такава обработка, предупреждението след готовия отговор идва твърде късно.
Anthropic вече предлага начин заявката да бъде спряна преди моделът да я обработи. В обновлението на Claude Enterprise компанията обявява обща достъпност на inference hooks: проверки, чрез които фирмената система за сигурност разрешава или отказва заявката. Има и проверка преди изпълнение на извиквания към инструменти.
Полезната промяна е, че фирмата може да приложи собствените си правила в момента на работа с AI. Колко надеждна ще бъде защитата зависи и от една лесна за пропускане настройка: какво става, когато проверяващият сървър не отговори.
Какво точно може да се спре
Според техническата документация Anthropic изпраща текста на разговора към HTTPS сървър, управляван от организацията или от нейния доставчик на сигурност. Той връща решение allow или deny. При отказ заявката не стига до модела. Така съществуваща система за предотвратяване на изтичане на данни (DLP) може да проверява и разговорите с Claude.
Това не е проверка преди информацията да напусне компютъра на служителя. Тя се случва от страната на Anthropic, след като заявката вече е напуснала приложението. Съдържанието се изпраща и към избрания сървър за проверка. Затова изборът на този сървър и правилата му за съхранение заслужават същото внимание като самия AI инструмент.
Когато е включено Validate tool calls, има допълнителна проверка на извикванията към инструменти, преди те да се изпълнят. Тя позволява отказ според правилата, които организацията е задала в проверяващата система. Документацията описва и изключения от обхвата, включително някои вътрешни инструменти на claude.ai. Не бива да се приема, че всеки възможен ход на агента минава през тази проверка.
Функцията е за Claude Enterprise. Тя не обхваща автоматично приложенията, които фирмата е изградила с Claude Platform API, и не е налична през Amazon Bedrock или Google Cloud. Наличието на Claude някъде в инфраструктурата не означава, че този контрол вече го защитава.
Ако проверката не работи, заявката може да продължи
Настройките за въвеждане дават избор между два режима при недостъпен сървър или изтекло време за отговор. При fail open заявката продължава без проверка. При fail closed се блокира.
Според документацията при първото записване подразбиращият се избор е Allow the request, с време за изчакване пет секунди. Това е конкретна настройка на продукта, която трябва да се провери при внедряването, защото може да се променя.
В примера с договора режимът fail open означава, че при проблем с проверяващия сървър документът може да стигне до модела без очакваната проверка. Fail closed спира обработката, но при по-дълъг срив може да прекъсне и нормалната работа на хората. При избор на режим екипът трябва да реши кое е приемливо за конкретните данни и процес.
Точно този случай заслужава тест преди пускане: проверяващият сървър умишлено се прави недостъпен в контролирана тестова среда. След това се проверява какво вижда потребителят и дали заявката наистина е спряна или пропусната според избрания режим. Успешният тест с разрешен документ не показва как ще се държи защитата при срив.
Снимката на документа е отделен случай
Има важно ограничение: към проверяващия сървър се изпращат метаданни и извлечен текст от прикачените файлове. Оригиналните файлове и байтовете на изображенията не се изпращат. Документацията изрично посочва, че съдържание само в изображение, например снимка на документ, не се инспектира.
Това означава, че тест с текстов договор не е достатъчен. Същото поверително съдържание трябва да се провери и като изображение, без реални клиентски данни. Целта е да се установи къде е нужна друга защита, например ограничение върху файловете, които изобщо могат да се качват.
Проверката също не редактира документа вместо служителя. Върнатото решение е разрешение или отказ; автоматично заличаване на чувствителните части не се поддържа. Ако съдържанието е забранено, човекът трябва да го премахне или да използва друг разрешен процес.
Как бихме проверили дали има смисъл за една фирма
Бихме започнали с един реален работен процес и тестови документи без истински поверителни данни. Например обобщаване на договори с предварително обозначени условия, които системата трябва да спира. Първо трябва да е ясно кое съдържание е допустимо и кой разрешава изключение при основателна нужда.
За началния тест има shadow mode. В него сървърът получава заявките и връща решения, но нищо не се блокира. Това позволява да се види дали правилата спират и нормална работа. Съдържанието продължава да стига до модела, затова този режим не е действаща забрана за поверителни документи.
След теста трябва да се провери и покритието: кои хора и приложения действително минават през контрола. Частичното внедряване и изключените роли оставят заявки извън проверката. За екип с клиентски договори това е по-полезна проверка от общото уверение, че фирмата „има DLP за AI“.
Нашата оценка в Encorp.ai е, че inference hooks дават полезна възможност за фирми, които вече използват Claude Enterprise и имат ясни правила за данните. Преди да разчитат на нея, трябва да проверят поведението ѝ при проблем. Настройката в административния панел е началото; тестът с прекъсната връзка показва дали тя наистина пази избрания процес.
