Ihr KI-Agent liest über Menschen, die ihn nie gewählt haben. Irland zieht eine Grenze
Opinion & Thought Leadership

Ihr KI-Agent liest über Menschen, die ihn nie gewählt haben. Irland zieht eine Grenze

6 Min. Lesezeit
Teilen:

Am Montag forderte Irlands Data Protection Commission X auf, das Training seiner KI-Modelle mit Daten einzustellen, die der KI-Agent von X über andere Menschen gesammelt hatte, und X bestätigte, dies getan zu haben. Commissioner Dale Sunderland sagte gegenüber POLITICO, die Behörde habe in den vergangenen Wochen „erhebliche Bedenken“ geäußert: „Wir haben sie aufgefordert, die Verarbeitung auszusetzen, und sie haben uns heute bestätigt, dass sie das getan haben.“ Der Agent, Grok Bot, hatte Ende Oktober begonnen, diese Daten zu sammeln.

Es wurde keine Geldbuße gemeldet, und die DPC hat keine formelle Entscheidung veröffentlicht. Dadurch ließe sich der Fall leicht unter „Big-Tech-Problem“ ablegen. Ich glaube, das wäre ein Fehler für jedes Unternehmen, das jetzt KI-Agenten mit Postfächern, gemeinsamen Laufwerken und CRMs verbindet, denn der Fall betrifft eine Art von Daten, mit der fast jeder solche Agent in Berührung kommt.

Die fraglichen Daten gehören jemand anderem

POLITICO beschreibt die Verschiebung klar: Regulierungsbehörden verlagern ihre Aufmerksamkeit vom KI-Training mit Daten, die Menschen über sich selbst teilen, hin zu „Drittdaten, auf die persönliche KI-Agenten zugreifen und die sie über andere Menschen sammeln“. Das Beispiel von POLITICO ist alltäglich: Urlaubsfotos, die mit einem Freund geteilt werden, der einen KI-Agenten nutzt. Die Kategorie umfasst auch personenbezogene Daten, die ein Agent aus dem Web scraped.

Sunderland betonte, dass die DPC kein Problem mit KI-Agenten „per se“ habe. Die Sorge gilt dem, was danach passiert, wenn ein Anbieter dazu übergeht, „diese Daten weiter zu übernehmen und sie zu nutzen, um die Modelle weiter zu trainieren“. Er sagte außerdem, die DPC spreche mit einem weiteren, nicht genannten Technologieunternehmen über ähnliche Pläne, noch bevor irgendeine Verarbeitung begonnen habe.

Die DPC ist hier wichtig, weil sie, wie POLITICO anmerkt, die DSGVO gegenüber Unternehmen mit europäischem Hauptsitz in Irland durchsetzt, darunter Apple, Google, Meta, X und OpenAI. In der Praxis prägt das, was sie beanstandet, häufig das Angebot dieser Anbieter in der gesamten EU, Bulgarien eingeschlossen.

Warum die übliche Anbieterfrage daran vorbeigeht

Wenn ein Unternehmen in Bulgarien ein KI-Tool bewertet, endet das Datenschutzgespräch meist mit einer Frage: Trainieren Sie mit unseren Daten? Bei Business-Tarifen ist die Antwort im Allgemeinen beruhigend. Auf der Enterprise-Privacy-Seite von OpenAI heißt es, dass standardmäßig nicht mit Daten aus ChatGPT Business, Enterprise oder der API trainiert wird und dass standardmäßig auch nicht mit Daten trainiert wird, auf die über verbundene Apps zugegriffen wird.

Schauen Sie aber darauf, was ein Agent tatsächlich liest. Ein Agent, der den Posteingang eines Vertriebsleiters sortiert, liest überwiegend über Kunden. Ein Agent, der Lebensläufe prüft, liest über Bewerber. Ein Agent, der Lieferantengespräche zusammenfasst, liest über Personen beim Lieferanten. In jedem Fall gehören die personenbezogenen Daten Menschen, die das Tool nie gewählt haben und in der Regel nicht wissen, dass es existiert. Für sie ist „unsere Daten“ der falsche Rahmen. Die Daten sind ihre, und Ihr Unternehmen ist dasjenige, das entschieden hat, sie einem KI-System vorzulegen.

So sieht es auch die DSGVO. Werden personenbezogene Daten nicht bei der Person erhoben, die sie beschreiben, schuldet der Verantwortliche ihr dennoch Informationen über die Verarbeitung gemäß Artikel 14 der DSGVO. Ob ein Modellanbieter solche Daten für das Training wiederverwenden darf, ist genau die Art von Frage, mit der sich der Europäische Datenschutzausschuss in seiner Stellungnahme 28/2024 befasst hat. Sie behandelt das berechtigte Interesse als Rechtsgrundlage für die Entwicklung von KI-Modellen sowie die Folgen, wenn ein Modell auf unrechtmäßig verarbeiteten Daten aufgebaut wurde.

Wo das eigentliche Risiko meist liegt

Nach meiner Einschätzung sind Business-Tarife mit unterzeichnetem Auftragsverarbeitungsvertrag selten die Schwachstelle. Die Schwachstelle ist der Agent, den ein Mitarbeiter eigenständig mit einem persönlichen Konto verbindet, weil er ihm täglich eine Stunde spart.

Consumer-Einstellungen sind auf den Kontoinhaber ausgerichtet, und sie ändern sich häufig. Diese Woche ist ein gutes Beispiel. Google kündigte am 16. November an, dass Nutzer der Gemini-App ihren Chatverlauf künftig behalten können, während sie dem Modelltraining widersprechen; bisher musste dafür der Verlauf deaktiviert werden. Ars Technica weist darauf hin, dass das Training weiterhin per Opt-out geregelt ist, dass die Änderung nur für künftige Chats gilt und dass Google nach eigenen Angaben Daten, die zur Verbesserung seiner Modelle genutzt werden, bis zu drei Jahre aufbewahren kann. Für den einzelnen Nutzer ist das eine sinnvolle Verbesserung. Es zeigt aber auch: Bei einem Consumer-Konto hängt es von einem Schalter ab, den ein Mitarbeiter vielleicht nie geöffnet hat, ob die E-Mail eines Kunden in einem Trainingsdatensatz landet.

Ein hypothetisches Beispiel

Nehmen wir eine fiktive Steuerkanzlei in Warna mit 40 Mitarbeitenden. Eine erfahrene Buchhalterin verbindet ihr geschäftliches Postfach mit einem persönlichen KI-Assistenten, damit dieser eingehende Dokumente sortiert und Antworten entwirft. In ihrem Posteingang liegen Gehaltsabrechnungsdateien von Mandantenunternehmen: Namen, Gehälter und Krankmeldungen von Menschen, die bei diesen Mandanten beschäftigt sind.

Niemand in der Kanzlei hat irgendetwas entschieden. Der Vertrag der Kanzlei mit ihren Mandanten sagt nichts über KI. Der Assistent läuft in einem Consumer-Tarif, dessen Trainingseinstellung standardmäßig aktiviert ist. Wenn dieser Anbieter jemals das tut, was X getan hat, werden Daten über Beschäftigte der Mandanten der Kanzlei, also Menschen, die zwei Schritte von der Kanzlei entfernt sind, zu Trainingsmaterial. Die Kanzlei hat darüber keinen Nachweis, keine Vereinbarung, die das abdeckt, und keine Möglichkeit, einem Mandanten oder der Kommission für den Schutz personenbezogener Daten zu zeigen, was passiert ist.

Nichts in diesem Beispiel setzt böse Absicht voraus. Es braucht nur einen Agenten mit Zugriff und niemanden, der fragt, wohin seine Eingaben gehen.

Was ich in diesem Monat prüfen würde

Ich erwarte nicht, dass der irische Fall auf Plattformen beschränkt bleibt, die ihre eigenen Agenten bauen. Sobald Regulierungsbehörden von Agenten gesammelte Daten als eigene Kategorie betrachten, richtet sich die naheliegende nächste Frage an die Unternehmen, die Agenten in ihre Systeme lassen. Eine kurze interne Prüfung jetzt ist günstiger, als diese Frage später beantworten zu müssen.

Beginnen Sie mit einer einfachen Bestandsaufnahme: Welche KI-Assistenten und Agenten haben Zugriff auf Unternehmenspostfächer, Kalender, Laufwerke oder das CRM, und über welche Konten. Persönliche Konten, die mit Arbeitsdaten verbunden sind, verdienen eine eigene Zeile in Ihrer Liste der KI-Systeme, mit einem namentlich benannten Verantwortlichen.

Prüfen Sie bei jedem einzelnen die Bedingungen des Anbieters für Daten, auf die der Agent zugreift, nicht nur für Daten, die Sie eintippen. Manche Anbieter geben separate Zusagen für verbundene Apps und Agentenaktionen; manche sagen gar nichts. Wenn die Antwort unklar ist, behandeln Sie sie als Ja.

Legen Sie dann fest, wo die Grenze verläuft. Für viele Unternehmen wird die praktische Regel lauten, dass Agenten, die mit Kunden-, Bewerber- oder Mitarbeiterdaten in Berührung kommen, nur in Business-Tarifen eingesetzt werden, die durch einen Auftragsverarbeitungsvertrag abgedeckt sind und bei denen das Training mit Kundendaten deaktiviert ist.

Nichts davon ist neues Recht. Es ist die DSGVO, angewandt auf eine neue Art von Tool, und es fügt sich natürlich in die KI-Governance-Arbeit ein, mit der viele Unternehmen wegen des AI Act ohnehin beginnen. Der Unterschied nach dieser Woche ist, dass eine europäische Aufsichtsbehörde laut ausgesprochen hat: Die Daten, die ein Agent über andere Menschen sammelt, sind eine eigene Frage. Es ist besser, eine Antwort parat zu haben, bevor jemand fragt.

Frequently asked questions

Was hat die irische Data Protection Commission wegen des KI-Agenten von X unternommen?

Die DPC äußerte erhebliche Bedenken dagegen, dass X Daten, die sein Agent Grok Bot über andere Menschen gesammelt hatte, zum Training von KI-Modellen nutzte, und forderte X auf, diese Verarbeitung auszusetzen. Commissioner Dale Sunderland sagte POLITICO am 17. November 2026, X habe bestätigt, dass es damit aufgehört habe. Es wurde keine Geldbuße und keine formelle Entscheidung gemeldet.

Was sind Drittdaten im Kontext von KI-Agenten?

Das sind personenbezogene Daten über eine andere Person als den Nutzer des Agenten, zum Beispiel Urlaubsfotos, die ein Freund an jemanden sendet, der einen KI-Agenten nutzt, oder personenbezogene Daten, die ein Agent aus dem Web scraped. In einem Unternehmen sind das typischerweise Daten über Kunden, Bewerber, Lieferanten oder deren Beschäftigte, die ein Agent in Postfächern, Dokumenten oder dem CRM liest.

Trainieren Business-Tarife von ChatGPT oder ähnlichen Tools mit Unternehmensdaten?

OpenAI erklärt, dass standardmäßig nicht mit Daten aus ChatGPT Business, ChatGPT Enterprise oder der API trainiert wird, einschließlich Daten, auf die über verbundene Apps zugegriffen wird. Die Bedingungen unterscheiden sich je nach Anbieter sowie zwischen Business- und Consumer-Tarifen, daher sollte jedes mit Unternehmensdaten verbundene Tool separat geprüft werden.

Warum sind persönliche KI-Konten ein Risiko für Unternehmen?

Wenn ein Mitarbeiter ein geschäftliches Postfach oder Laufwerk über ein persönliches Konto mit einem KI-Assistenten verbindet, hat das Unternehmen in der Regel keinen Auftragsverarbeitungsvertrag, keinen Nachweis über die Verarbeitung und keine Kontrolle über Trainingseinstellungen. Consumer-Einstellungen wie Opt-outs vom Training sind für den Kontoinhaber konzipiert und können sich ändern, wie Googles Update vom 16. November zu Verlaufs- und Trainingseinstellungen von Gemini zeigt.

Was sollte ein Unternehmen zuerst prüfen?

Beginnen Sie mit einer Liste der KI-Assistenten und Agenten, die auf Unternehmenspostfächer, Kalender, Laufwerke oder das CRM zugreifen können, und darüber, über welche Konten dies geschieht. Prüfen Sie für jeden Eintrag die Bedingungen des Anbieters für Daten, auf die der Agent zugreift, weisen Sie einen Verantwortlichen zu und entscheiden Sie, ob Agenten, die Kunden-, Bewerber- oder Mitarbeiterdaten verarbeiten, nur in Business-Tarifen mit Auftragsverarbeitungsvertrag und deaktiviertem Training laufen dürfen.

Ähnliche Artikel

Beim Kunden eingebettete Entwickler: Europas KI-Lücke liegt bei Kompetenzen, nicht bei Modellen

Hg und Anthropic unterstützen ein neues europäisches Unternehmen, das auf beim Kunden eingebettete Entwickler setzt. Eurostat-Daten zeigen warum: Fehlende Expertise, nicht fehlende Modelle, hält die meisten Unternehmen von KI ab.

4. Nov. 2026

Die Evolution von KI-Modellen: Was wir von OpenAIs GPT-5 lernen können

Erfahren Sie, wie die Veröffentlichung von GPT-5 die KI-Integration beeinflusst und welche Lehren Unternehmen wie Encorp.ai daraus ziehen.

11. Aug. 2025

Sichere KI-Bereitstellungen: Branchentrends und Lösungen

Erfahren Sie, wie KI-Versicherungsmodelle wie die von AIUC Risiken bei KI-Bereitstellungen mindern und das Geschäftspotenzial durch sichere Integrationsstrategien erschließen.

23. Juli 2025