Die FRIA-Vorlage zum AI Act ist da: Wer sie ausfüllt und was sie abfragt
AI News & Trends

Die FRIA-Vorlage zum AI Act ist da: Wer sie ausfüllt und was sie abfragt

8 Min. Lesezeit
Teilen:

Am 16. November veröffentlichte die Europäische Kommission den Entwurf der Vorlage für die nach Artikel 27 des AI Act erforderliche Grundrechte-Folgenabschätzung (FRIA) sowie einen Entwurf einer erläuternden Mitteilung. Die Ankündigung der Kommission nennt zwei Termine: Feedback ist bis zum 15. Januar 2027 möglich, und Betreiber, die eine FRIA durchführen müssen, können sich bis zum 4. Dezember 2026 freiwillig melden, um den Entwurf an einem ihrer eigenen Systeme zu testen. Die Pflicht selbst gilt ab dem 2. Dezember 2027.

Bislang war Artikel 27 ein Absatz, der sechs Punkte aufzählte, die eine Bewertung enthalten muss. Das Entwurfsdokument macht daraus einen Fragebogen von rund einem Dutzend Seiten, mit Ankreuzfeldern, Risikoskalen und einer Unterschriftszeile. Sobald die Vorlage final ist, müssen erfasste Betreiber sie verwenden und beifügen, wenn sie ihrer Marktüberwachungsbehörde die Ergebnisse mitteilen. Die Kommission plant außerdem, sie als automatisiertes Tool auf der einheitlichen Informationsplattform zum AI Act bereitzustellen.

Der Entwurf enthält gleich auf der ersten Seite einen klaren Hinweis: Er wurde von der Kommission weder angenommen noch gebilligt, und die Fragen können sich noch ändern. Dennoch ist er das erste offizielle Bild davon, was das AI Office erwarten wird, und für eine Bank, einen Kreditgeber oder einen Versicherer ist er konkret genug, um einen Probelauf zu starten.

Wer tatsächlich eine FRIA durchführen muss

Die meisten Unternehmen, die Hochrisiko-KI einsetzen, werden keine FRIA benötigen. Der Entwurf der Mitteilung wiederholt die enge Liste aus Artikel 27 Absatz 1 des AI Act:

  • Einrichtungen des öffentlichen Rechts sowie private Einrichtungen, die öffentliche Dienstleistungen erbringen, wenn sie ein Hochrisikosystem in einem der in Anhang III genannten Bereiche einsetzen (kritische Infrastruktur ist ausgenommen);
  • Betreiber von KI-Systemen, die die Kreditwürdigkeit bewerten oder einen Kredit-Score festlegen, ausgenommen Systeme zur Erkennung von Finanzbetrug;
  • Betreiber von KI-Systemen, die für Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung eingesetzt werden.

"Private Einrichtungen, die öffentliche Dienstleistungen erbringen" ist die Formulierung, die Diskussionen auslösen wird. Die Mitteilung verweist auf Erwägungsgrund 96 des Gesetzes, der Bildung, Gesundheitsversorgung, soziale Dienste, Wohnraum und die Rechtspflege als Beispiele nennt, und stellt klar, dass die Liste nicht abschließend ist. Ein privates Krankenhaus oder eine private Schule, die ein Hochrisikosystem einsetzt, sollte davon ausgehen, in den Anwendungsbereich zu fallen, bis eine rechtlich zuständige Stelle etwas anderes sagt.

Für Bulgarien ist die offensichtlichste Gruppe der Kreditsektor. Jede Bank und jeder Nichtbanken-Kreditgeber, der ein KI-Modell einsetzt, um zu entscheiden, wer einen Verbraucherkredit erhält oder zu welchen Bedingungen, ist Betreiber eines Hochrisikosystems nach Anhang III, und Artikel 27 gilt unmittelbar für ihn, unabhängig davon, ob er das Modell selbst entwickelt oder von einem Anbieter gekauft hat.

Was das Formular abfragt

Die Vorlage folgt Artikel 27 Absatz 1 eng. Sie beginnt mit allgemeinen Informationen über die Organisation, das System und die verantwortliche Person. Anschließend fragt sie, wie das System in Ihre Prozesse passt, wie lange und wie häufig es eingesetzt wird und welche Personengruppen es betrifft, mit ausdrücklichen Feldern für Kinder, ältere Menschen, Menschen mit Behinderungen und Menschen in einer vulnerablen sozialen oder wirtschaftlichen Lage.

Kernstück ist Abschnitt 4. Für jedes konkrete Schadensrisiko beschreibt der Betreiber das Risiko, kreuzt die betroffenen Rechte der Charta an, benennt die betroffenen Gruppen und bewertet Wahrscheinlichkeit und Schweregrad als niedrig, mittel oder hoch. Präventivmaßnahmen sind nur dann nicht erforderlich, wenn sowohl Wahrscheinlichkeit als auch Schweregrad niedrig sind. Danach folgt eine zweite Bewertung: das Risikoniveau nach diesen Maßnahmen.

Abschnitt 5 behandelt die menschliche Aufsicht, Abschnitt 6, was geschieht, wenn ein Risiko eintritt, und Abschnitt 7 fragt nach einer kurzen Gesamtschlussfolgerung. Behörden, die das System in der EU-Datenbank registrieren müssen, füllen außerdem eine Zusammenfassung aus, die dort veröffentlicht wird.

Die DSFA erledigt einen Teil der Arbeit

Ein Kreditgeber, der Kreditantragsteller bewertet, hat mit hoher Wahrscheinlichkeit bereits eine Datenschutz-Folgenabschätzung (DSFA) nach DSGVO durchgeführt. Der Entwurf erkennt das an. Die FRIA "ergänzt" die DSFA, und Betreiber dürfen auf die relevanten Abschnitte verweisen oder sie übernehmen, insbesondere beim Recht auf Schutz personenbezogener Daten. Die Vorlage fordert sogar dazu auf, die Wahrscheinlichkeits- und Schweregradbewertungen der DSFA auf ihrer eigenen Niedrig-Mittel-Hoch-Skala erneut anzugeben.

Betreiber können sich außerdem auf eine frühere FRIA oder auf eine vom Anbieter durchgeführte Folgenabschätzung stützen, sofern System und Risiken ähnlich sind. Der Haken, den die Mitteilung offen benennt: Der Anbieter ist nicht verpflichtet, seine Bewertung zu teilen. Den Anbieter jetzt darum zu bitten, während Verträge für 2027 verhandelt werden, kostet nichts.

Wo die schwierigen Fragen liegen

Die Analyse der Rechte ist der Teil, bei dem viele Schwierigkeiten erwarten. Beim Lesen des Entwurfs glaube ich jedoch, dass die Fragen, die länger dauern werden, operativer Natur sind.

Frage 5.1 fragt, wer die menschliche Aufsicht ausübt, nach Rolle und Position, welche Befugnis diese Personen haben, die Ausgabe des Systems zu überstimmen, zu ignorieren oder rückgängig zu machen, und welche Tools sie dabei unterstützen. Wenn Sie von den Gebrauchsanweisungen des Anbieters abgewichen sind, müssen Sie erklären, warum. Frage 5.2 fragt, wie diesen Personen Kompetenz, Schulung und Befugnis vermittelt wurden, und nennt die KI-Kompetenz nach Artikel 4 ausdrücklich. Ein Satz wie "ein Kreditsachbearbeiter prüft die Ergebnisse" beantwortet keine der beiden Fragen.

Frage 6.2 fragt, wie Beschwerden betroffener Personen entgegengenommen und bearbeitet werden und wie Beschwerdeführer erfahren, was unternommen wurde. Für einen Kreditgeber, der bereits ein Beschwerdeverfahren für seine Kredite hat, geht es vor allem darum, diesen Prozess mit dem KI-System zu verbinden. Für eine öffentliche Stelle, die ihr Scoring-Tool nie als etwas betrachtet hat, worüber sich Menschen beschweren könnten, kann dies neue Arbeit bedeuten.

Dann gibt es die Aktualisierungsregel. Die Mitteilung sagt, dass die FRIA aktualisiert werden muss, wenn sich relevante Faktoren ändern, und nennt als Beispiele die betroffenen Prozesse, die betroffenen Personen und "die Version des Systems oder seines zugrunde liegenden Modells". Für alle, die KI im Produktivbetrieb einsetzen, ist diese Zeile wichtig. Modellversionen ändern sich mehrmals im Jahr, manchmal auf Initiative des Anbieters. Das ist eine Auslegung eines Beispiels in einem Entwurf, kein gefestigtes Recht, aber eine FRIA, die nach dem Go-live niemand mehr überprüft, wird dem wohl kaum genügen.

Ein Beispiel: ein Verbraucherkreditgeber in Sofia

Nehmen wir einen hypothetischen Online-Kreditgeber in Sofia, der das Scoring-Modell eines Anbieters nutzt, um kleine Verbraucherkredite zu genehmigen oder abzulehnen. Er hat eine DSFA von vor zwei Jahren und ein Beschwerdeverfahren für seine Kreditprodukte.

Beim Durchgehen der Entwurfsvorlage könnte er die Abschnitte 1 bis 3 an einem Nachmittag ausfüllen. Abschnitt 4 würde sich auf die DSFA stützen, müsste aber auch Schäden berücksichtigen, die die DSFA möglicherweise nicht abgedeckt hat, etwa ein Modell, das Rentner oder Menschen mit unregelmäßigem Einkommen systematisch schlechter bewertet. Abschnitt 5 würde ihn zwingen, schriftlich festzuhalten, ob der Kreditsachbearbeiter eine Ablehnung tatsächlich überstimmen kann, wie oft das geschieht und welche Schulung der Sachbearbeiter erhalten hat. Und wenn der Anbieter im nächsten Frühjahr auf eine neue Modellversion umstellt, müsste der Kreditgeber rechtzeitig davon erfahren, um die Bewertung zu aktualisieren.

Nichts davon erfordert, bis 2027 zu warten. Ein Probelauf an einem System zeigt, wo die Lücken liegen, solange noch Zeit bleibt, sie zu schließen.

Wer sie in Bulgarien erhält

Artikel 27 Absatz 3 sagt, dass die Ergebnisse an die Marktüberwachungsbehörde des Mitgliedstaats gehen. Der Entwurf lässt den Einreichungslink als "später hinzuzufügen" offen. In Bulgarien gibt es eine weitere Lücke: Der Parlamentsausschuss für Innovation lehnte den KI-Gesetzentwurf in erster Lesung ab am 4. November ab, sodass das Gesetz, das die nationalen Behörden benennen würde, noch nicht in Kraft ist. Das ändert weder die Pflicht noch ihr Datum. Es bedeutet aber, dass bulgarische Betreiber noch keine lokale Behörde um Orientierung bitten können, was den Testaufruf auf EU-Ebene nützlicher macht.

Private Arbeitgeber und CV-Screening

Eine Gruppe ist oft überrascht, dass sie außerhalb von Artikel 27 steht: private Arbeitgeber, die KI zur Vorauswahl von Bewerbungen einsetzen. Rekrutierungssysteme sind nach Anhang III Hochrisikosysteme, aber ein privates Unternehmen, das keine öffentliche Dienstleistung erbringt, hat keine FRIA-Pflicht. Die DSGVO gilt dennoch. Am 11. November wählte der Europäische Datenschutzausschuss automatisierte Entscheidungsfindung im Recruiting, einschließlich KI-gestütztem Kandidaten-Screening, zum Thema seiner koordinierten Durchsetzungsmaßnahme für 2027, mit Fokus auf dem Recht, nicht ausschließlich automatisierten Entscheidungen unterworfen zu werden, und dem damit verbundenen Auskunftsrecht.

Vor dem 4. Dezember und dem 15. Januar

Wenn Ihre Organisation in den Anwendungsbereich fällt, lohnen sich dieses Jahr zwei Schritte. Lesen Sie den Entwurf anhand eines echten Systems und notieren Sie, welche Fragen Sie heute nicht beantworten können. Und entscheiden Sie, ob Sie dieses System bis zum 4. Dezember über das Interessenbekundungsformular für den Test vorschlagen; das AI Office kündigt an, Teilnehmende mit einer Einführungsveranstaltung, Antworten unterwegs und einer Abschlusssitzung zu unterstützen. Kommentare zum Wortlaut selbst können bis zum 15. Januar 2027 eingereicht werden.

Wenn Sie eine strukturierte Einschätzung wünschen, wo Ihre Systeme unter dem AI Act stehen, ist unser AI Act Readiness-Test ein Ausgangspunkt, und unsere Arbeit zu AI Governance deckt Bewertungen wie diese ab.

Frequently asked questions

Was ist die FRIA-Vorlage nach dem AI Act?

Sie ist ein Entwurf eines Fragebogens, den die Europäische Kommission am 16. November 2026 veröffentlicht hat. Er führt bestimmte Betreiber von Hochrisiko-KI-Systemen durch die nach Artikel 27 des AI Act erforderliche Grundrechte-Folgenabschätzung. Sobald die Vorlage final ist, müssen erfasste Betreiber sie verwenden und beifügen, wenn sie ihre Marktüberwachungsbehörde benachrichtigen. Der Entwurf wurde noch nicht angenommen.

Wer muss eine Grundrechte-Folgenabschätzung durchführen?

Einrichtungen des öffentlichen Rechts und private Einrichtungen, die öffentliche Dienstleistungen erbringen und Hochrisikosysteme in Bereichen des Anhangs III einsetzen (außer kritischer Infrastruktur), Betreiber von KI-Systemen, die Kreditwürdigkeit bewerten oder Kredit-Scores festlegen (außer Betrugserkennung), sowie Betreiber von KI, die für Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung eingesetzt wird. Die meisten anderen Betreiber von Hochrisiko-KI benötigen keine FRIA.

Ab wann gilt die Pflicht aus Artikel 27?

Nach Angaben der Kommission ab dem 2. Dezember 2027. Feedback zum Vorlagenentwurf ist bis zum 15. Januar 2027 möglich, und Betreiber können sich bis zum 4. Dezember 2026 freiwillig melden, um ihn zu testen.

Kann eine bestehende DSFA für die FRIA wiederverwendet werden?

Teilweise. Der Entwurf sagt, dass die FRIA die Datenschutz-Folgenabschätzung nach DSGVO ergänzt, und Betreiber dürfen auf relevante Teile der DSFA verweisen oder sie einbeziehen, insbesondere beim Recht auf Schutz personenbezogener Daten. Risiken für andere Grundrechte müssen weiterhin eigenständig bewertet werden.

Wann muss eine FRIA aktualisiert werden?

Wenn sich relevante Faktoren ändern oder die Bewertung nicht mehr aktuell ist. Der Entwurf der erläuternden Mitteilung nennt als Beispiele Änderungen der betroffenen Prozesse, der betroffenen Personen oder der Version des Systems oder seines zugrunde liegenden Modells.

Brauchen private Unternehmen, die KI zum CV-Screening einsetzen, eine FRIA?

Nicht nach Artikel 27, es sei denn, sie sind öffentliche Stellen oder private Einrichtungen, die öffentliche Dienstleistungen erbringen. Recruiting-KI bleibt nach dem AI Act dennoch Hochrisiko-KI, und die DSGVO gilt. Der Europäische Datenschutzausschuss hat automatisierte Entscheidungsfindung im Recruiting zu seinem koordinierten Durchsetzungsthema für 2027 gewählt.

Ähnliche Artikel

Ein KI-Tool traf die HR-Systeme der Kommission. Ihre niedrig priorisierten Fixes sind jetzt dringend

Die Europäische Kommission hat bestätigt, dass bei einem Angriff auf ihre HR-Systeme ein öffentlich verfügbares KI-Tool eingesetzt wurde. CERT-EU und FBI beschreiben dieses Tool als eines, das kleine Fehlkonfigurationen mit maschineller Geschwindigkeit verkettet. Das verändert, wie ein mittelständisches Unternehmen seine Sicherheitsliste mit niedriger Priorität behandeln sollte.

20. Nov. 2026

ChatGPT Ads in Bulgarien: Die Anzeige steht unter einer Antwort, die man nicht kaufen kann

Seit dem 12. November können bulgarische Unternehmen ChatGPT Ads über einen lokalen Reseller, Aleph, kaufen. Die Anzeigen selbst sind hier bereits seit August verfügbar. Für Marketer ist vor allem wichtig, wo die Anzeige erscheint: unter einer Antwort, die Werbung laut OpenAI nicht beeinflussen kann.

16. Nov. 2026

Bulgarien ist bei generativer KI Schlusslicht in der EU – und die meisten Unternehmen sagen, sie brauchen sie nicht

Die EIB Investment Survey 2026 sieht Bulgarien bei der Nutzung generativer KI auf Platz 27 von 27: 40 % der Unternehmen gegenüber einem EU-Durchschnitt von 67 %. Unter den Nichtnutzern sehen 35 % keinen Bedarf, 32 % sind unsicher, welchen Nutzen sie bringt. Nur 16 % der bulgarischen Nutzer sehen bereits Ergebnisse.

16. Nov. 2026