
AI агентът ви чете и за хора, които не са го избирали. Ирландия тегли граница
В понеделник ирландският надзорен орган по защита на данните (DPC) поиска от X да спре да обучава AI моделите си с данни, които AI агентът на платформата е събирал за други хора. X потвърди, че е спряла. Комисарят Дейл Съндърланд каза пред POLITICO, че органът е изразил „сериозни опасения“ през последните седмици: „Поискахме да спрат обработването и днес ни потвърдиха, че са го направили.“ Агентът Grok Bot е започнал да събира тези данни в края на октомври.
Не е съобщено за глоба, а DPC не е публикувал официално решение. Затова е лесно случаят да се приеме за проблем на големите платформи. Според мен това би било грешка за всяка компания, която в момента свързва AI агенти с пощи, споделени папки и CRM системи. Казусът е за вид данни, до които почти всеки такъв агент се докосва.
Данните са на някой друг
POLITICO описва промяната директно: регулаторите вече гледат не само как AI се обучава с данни, които хората споделят за себе си, но и данните за трети лица, до които личните AI агенти достигат и които събират. Примерът, който дава POLITICO, е съвсем битов: снимки от почивка, изпратени на приятел, който ползва AI агент. В същата категория попадат и лични данни, които агентът сам извлича от интернет.
Съндърланд подчертава, че органът няма проблем с AI агентите като такива. Въпросът е какво става после, когато доставчикът започне да взема тези данни и да обучава с тях моделите си. Той казва още, че DPC води разговори с друга технологична компания, чието име не съобщава, за подобни планове, преди изобщо да е започнала обработка.
Ирландският орган е важен, защото, както пише POLITICO, прилага GDPR спрямо компаниите с европейска централа в Ирландия, сред които Apple, Google, Meta, X и OpenAI. На практика онова, което той не допуска, обикновено определя какво тези доставчици предлагат в целия ЕС, включително в България.
Защо обичайният въпрос към доставчика не стига
Когато компания в България избира AI инструмент, разговорът за личните данни често се свежда до един въпрос: обучавате ли моделите си с нашите данни? За бизнес плановете отговорът обикновено е успокояващ. На страницата си за корпоративна поверителност OpenAI посочва, че по подразбиране не обучава моделите си с данни от ChatGPT Business, Enterprise и API, нито с данни, достъпени през свързани приложения.
Погледнете обаче какво чете един агент. Агент, който подрежда пощата на търговски мениджър, чете основно за клиенти. Агент, който преглежда CV-та, чете за кандидати. Агент, който обобщава разговори с доставчик, чете за хората при доставчика. Личните данни във всички тези случаи са на хора, които не са избирали инструмента и най-често не знаят, че съществува. За тях изразът „нашите данни“ просто не е точен. Данните са техни, а вашата компания е решила да ги покаже на AI система.
Така гледа и GDPR. Когато личните данни не са получени от човека, за когото се отнасят, администраторът пак му дължи информация за обработването по член 14 от GDPR. Дали доставчик на модел може да преизползва такива данни за обучение, е точно въпросът, който Европейският комитет по защита на данните разглежда в Становище 28/2024: кога законният интерес може да е основание за разработване на AI модел и какви са последиците, ако моделът е създаден с незаконно обработени данни.
Къде обикновено е истинският риск
Моят прочит е, че бизнес плановете с подписано споразумение за обработване на данни рядко са слабото място. Слабото място е агентът, който служител свързва сам, с личен акаунт, защото му спестява по час на ден.
Настройките на потребителските акаунти са мислени за самия притежател и се променят често. Тази седмица дава добър пример. На 16 ноември Google обяви, че потребителите на приложението Gemini ще могат да пазят историята на разговорите си и същевременно да откажат обучението на модели. Досега това ставаше само чрез изключване на историята. Ars Technica уточнява, че обучението остава включено, докато потребителят сам не го изключи, че промяната важи само за бъдещи разговори и че по думите на Google данните, ползвани за подобряване на моделите, може да се пазят до три години. За отделния човек това е разумна стъпка. Същевременно показва, че при личен акаунт съдбата на имейла на ваш клиент зависи от превключвател, който служителят може никога да не е отварял.
Един хипотетичен пример
Да си представим счетоводна кантора във Варна с 40 души. Старши счетоводителка свързва служебната си поща с личен AI асистент, за да подрежда входящите документи и да подготвя чернови на отговори. В пощата ѝ има ведомости от фирми клиенти: имена, заплати и болнични на хора, които работят при тези клиенти.
Никой в кантората не е взимал решение по въпроса. Договорът с клиентите не споменава AI. Асистентът работи на потребителски план, при който обучението е включено по подразбиране. Ако доставчикът някой ден направи същото като X, данни за служителите на клиентите, хора на две крачки от кантората, ще станат материал за обучение. Кантората няма да има запис за това, няма да има споразумение, което да го покрива, и няма да може да покаже нито на клиента, нито на Комисията за защита на личните данни какво се е случило.
В този пример няма лоши намерения. Достатъчни са агент с достъп и липсата на човек, който да попита къде отиват данните, които той чете.
Какво бих проверил този месец
Очаквам ирландският случай няма да остане ограничен до платформите, които сами правят агенти. Щом регулаторите отделят събраните от агенти данни в своя категория, следващият логичен въпрос ще е към компаниите, които пускат агенти в системите си. Кратка вътрешна проверка сега струва по-малко, отколкото отговор на този въпрос по-късно.
Започнете с прост списък: кои AI асистенти и агенти имат достъп до служебни пощи, календари, папки или CRM и през какви акаунти. Личните акаунти, свързани със служебни данни, заслужават отделен ред в регистъра на AI системите, с конкретен отговорник.
За всеки от тях прочетете условията на доставчика за данните, до които агентът има достъп, а не само за това, което се въвежда ръчно. Някои доставчици поемат отделни ангажименти за свързаните приложения и действията на агентите, други мълчат. Ако отговорът е неясен, приемете, че данните може да се ползват за обучение.
После решете къде минава границата. За много компании практичното правило ще бъде, че агенти, които работят с данни на клиенти, кандидати или служители, се пускат само на бизнес планове със споразумение за обработване на данни и с изключено обучение върху данните на клиента.
Нищо от това не е ново право. Това е GDPR, приложен към нов вид инструмент, и пасва естествено в работата по управление на AI, която много компании започват и заради AI Act. Разликата след тази седмица е, че европейски регулатор каза открито: данните, които агентът събира за други хора, са отделен въпрос. По-добре е отговорът да е готов, преди някой да го зададе.
