AI агентът ви чете и за хора, които не са го избирали. Ирландия тегли граница
Мнения на лидери

AI агентът ви чете и за хора, които не са го избирали. Ирландия тегли граница

6 мин. четене
Споделете:

В понеделник ирландският надзорен орган по защита на данните (DPC) поиска от X да спре да обучава AI моделите си с данни, които AI агентът на платформата е събирал за други хора. X потвърди, че е спряла. Комисарят Дейл Съндърланд каза пред POLITICO, че органът е изразил „сериозни опасения“ през последните седмици: „Поискахме да спрат обработването и днес ни потвърдиха, че са го направили.“ Агентът Grok Bot е започнал да събира тези данни в края на октомври.

Не е съобщено за глоба, а DPC не е публикувал официално решение. Затова е лесно случаят да се приеме за проблем на големите платформи. Според мен това би било грешка за всяка компания, която в момента свързва AI агенти с пощи, споделени папки и CRM системи. Казусът е за вид данни, до които почти всеки такъв агент се докосва.

Данните са на някой друг

POLITICO описва промяната директно: регулаторите вече гледат не само как AI се обучава с данни, които хората споделят за себе си, но и данните за трети лица, до които личните AI агенти достигат и които събират. Примерът, който дава POLITICO, е съвсем битов: снимки от почивка, изпратени на приятел, който ползва AI агент. В същата категория попадат и лични данни, които агентът сам извлича от интернет.

Съндърланд подчертава, че органът няма проблем с AI агентите като такива. Въпросът е какво става после, когато доставчикът започне да взема тези данни и да обучава с тях моделите си. Той казва още, че DPC води разговори с друга технологична компания, чието име не съобщава, за подобни планове, преди изобщо да е започнала обработка.

Ирландският орган е важен, защото, както пише POLITICO, прилага GDPR спрямо компаниите с европейска централа в Ирландия, сред които Apple, Google, Meta, X и OpenAI. На практика онова, което той не допуска, обикновено определя какво тези доставчици предлагат в целия ЕС, включително в България.

Защо обичайният въпрос към доставчика не стига

Когато компания в България избира AI инструмент, разговорът за личните данни често се свежда до един въпрос: обучавате ли моделите си с нашите данни? За бизнес плановете отговорът обикновено е успокояващ. На страницата си за корпоративна поверителност OpenAI посочва, че по подразбиране не обучава моделите си с данни от ChatGPT Business, Enterprise и API, нито с данни, достъпени през свързани приложения.

Погледнете обаче какво чете един агент. Агент, който подрежда пощата на търговски мениджър, чете основно за клиенти. Агент, който преглежда CV-та, чете за кандидати. Агент, който обобщава разговори с доставчик, чете за хората при доставчика. Личните данни във всички тези случаи са на хора, които не са избирали инструмента и най-често не знаят, че съществува. За тях изразът „нашите данни“ просто не е точен. Данните са техни, а вашата компания е решила да ги покаже на AI система.

Така гледа и GDPR. Когато личните данни не са получени от човека, за когото се отнасят, администраторът пак му дължи информация за обработването по член 14 от GDPR. Дали доставчик на модел може да преизползва такива данни за обучение, е точно въпросът, който Европейският комитет по защита на данните разглежда в Становище 28/2024: кога законният интерес може да е основание за разработване на AI модел и какви са последиците, ако моделът е създаден с незаконно обработени данни.

Къде обикновено е истинският риск

Моят прочит е, че бизнес плановете с подписано споразумение за обработване на данни рядко са слабото място. Слабото място е агентът, който служител свързва сам, с личен акаунт, защото му спестява по час на ден.

Настройките на потребителските акаунти са мислени за самия притежател и се променят често. Тази седмица дава добър пример. На 16 ноември Google обяви, че потребителите на приложението Gemini ще могат да пазят историята на разговорите си и същевременно да откажат обучението на модели. Досега това ставаше само чрез изключване на историята. Ars Technica уточнява, че обучението остава включено, докато потребителят сам не го изключи, че промяната важи само за бъдещи разговори и че по думите на Google данните, ползвани за подобряване на моделите, може да се пазят до три години. За отделния човек това е разумна стъпка. Същевременно показва, че при личен акаунт съдбата на имейла на ваш клиент зависи от превключвател, който служителят може никога да не е отварял.

Един хипотетичен пример

Да си представим счетоводна кантора във Варна с 40 души. Старши счетоводителка свързва служебната си поща с личен AI асистент, за да подрежда входящите документи и да подготвя чернови на отговори. В пощата ѝ има ведомости от фирми клиенти: имена, заплати и болнични на хора, които работят при тези клиенти.

Никой в кантората не е взимал решение по въпроса. Договорът с клиентите не споменава AI. Асистентът работи на потребителски план, при който обучението е включено по подразбиране. Ако доставчикът някой ден направи същото като X, данни за служителите на клиентите, хора на две крачки от кантората, ще станат материал за обучение. Кантората няма да има запис за това, няма да има споразумение, което да го покрива, и няма да може да покаже нито на клиента, нито на Комисията за защита на личните данни какво се е случило.

В този пример няма лоши намерения. Достатъчни са агент с достъп и липсата на човек, който да попита къде отиват данните, които той чете.

Какво бих проверил този месец

Очаквам ирландският случай няма да остане ограничен до платформите, които сами правят агенти. Щом регулаторите отделят събраните от агенти данни в своя категория, следващият логичен въпрос ще е към компаниите, които пускат агенти в системите си. Кратка вътрешна проверка сега струва по-малко, отколкото отговор на този въпрос по-късно.

Започнете с прост списък: кои AI асистенти и агенти имат достъп до служебни пощи, календари, папки или CRM и през какви акаунти. Личните акаунти, свързани със служебни данни, заслужават отделен ред в регистъра на AI системите, с конкретен отговорник.

За всеки от тях прочетете условията на доставчика за данните, до които агентът има достъп, а не само за това, което се въвежда ръчно. Някои доставчици поемат отделни ангажименти за свързаните приложения и действията на агентите, други мълчат. Ако отговорът е неясен, приемете, че данните може да се ползват за обучение.

После решете къде минава границата. За много компании практичното правило ще бъде, че агенти, които работят с данни на клиенти, кандидати или служители, се пускат само на бизнес планове със споразумение за обработване на данни и с изключено обучение върху данните на клиента.

Нищо от това не е ново право. Това е GDPR, приложен към нов вид инструмент, и пасва естествено в работата по управление на AI, която много компании започват и заради AI Act. Разликата след тази седмица е, че европейски регулатор каза открито: данните, които агентът събира за други хора, са отделен въпрос. По-добре е отговорът да е готов, преди някой да го зададе.

Съосновател и изпълнителен директор (CEO)

LinkedIn

Често задавани въпроси

Какво направи ирландският орган по защита на данните спрямо AI агента на X?

DPC изрази сериозни опасения, че X обучава AI модели с данни, които агентът ѝ Grok Bot е събирал за други хора, и поиска обработването да спре. На 17 ноември 2026 г. комисарят Дейл Съндърланд каза пред POLITICO, че X е потвърдила спирането. Не е съобщено за глоба или официално решение.

Какво означава „данни за трети лица“ при AI агентите?

Това са лични данни за човек, различен от потребителя на агента. Например снимки от почивка, изпратени на приятел, който ползва AI агент, или лични данни, които агентът извлича от интернет. Във фирма това обикновено са данни за клиенти, кандидати, доставчици или техни служители, които агентът чете в пощи, документи или CRM.

Обучават ли се моделите с фирмени данни при бизнес плановете на ChatGPT и подобни инструменти?

OpenAI посочва, че по подразбиране не обучава моделите си с данни от ChatGPT Business, ChatGPT Enterprise и API, включително с данни, достъпени през свързани приложения. Условията се различават между доставчиците и между бизнес и потребителските планове, затова всеки инструмент, свързан с фирмени данни, трябва да се провери поотделно.

Защо личните AI акаунти са риск за компанията?

Когато служител свърже служебна поща или папка с AI асистент на личен акаунт, компанията обикновено няма споразумение за обработване на данни, няма запис за обработването и не контролира настройките за обучение. Тези настройки са мислени за притежателя на акаунта и се променят, както показва обновяването на контролите за история и обучение в Gemini от 16 ноември.

Какво да провери компанията първо?

Първо направете списък на AI асистентите и агентите с достъп до служебни пощи, календари, папки или CRM и през какви акаунти работят. За всеки от тях проверете условията на доставчика за данните, до които агентът има достъп, определете отговорник и решете дали агентите, които работят с данни на клиенти, кандидати или служители, могат да ползват само бизнес планове със споразумение за обработване на данни и изключено обучение.

Свързани Статии

Forward-deployed инженери: AI изоставането в Европа е в уменията, не в моделите

Hg и Anthropic подкрепят нова европейска компания, изградена около forward-deployed инженери. Данните на Евростат показват защо: липсата на експертиза, а не на модели, спира повечето компании да ползват AI.

4.11.2026 г.

Иновации с ИИ: Призивът на Рийд Хофман към Силициевата долина

Вижте как Рийд Хофман вижда иновациите с изкуствен интелект като сила за добро и какво означава това на практика за технологични лидери и компании.

13.01.2026 г.

Персонализирани AI агенти: Не копирайте отговори на чатботове

Разгледайте ролята на персонализираните AI агенти в комуникацията и научете правилния етикет за споделяне на AI резултати. Разберете как да добавите стойност с човешкия контекст и открийте решенията на Encorp.ai.

3.11.2025 г.