EU-Verordnung, die KI-Systeme nach Risikostufen klassifiziert und entsprechende Pflichten festlegt. In Kraft seit August 2024, Pflichten greifen schrittweise bis 2027. Ergänzt die DSGVO, ersetzt sie nicht.
Definition: EU-Verordnung, die KI-Systeme nach Risikostufen klassifiziert und entsprechende Pflichten festlegt. In Kraft seit August 2024, Pflichten greifen schrittweise bis 2027. Ergänzt die DSGVO, ersetzt sie nicht.
Der EU AI Act verfolgt einen risikobasierten Ansatz: Systeme werden klassifiziert als verboten, hochriskant, mit begrenztem Risiko oder mit minimalem Risiko. Pflichten skalieren entsprechend. Die meiste UX-Research nutzt KI im begrenzten oder minimalen Risiko, aber Research die in hochriskante Entscheidungen einfließt (Personalauswahl, Kredit, Biometrie, Bildungszugang) kann ein Projekt in die Hochrisiko-Kategorie ziehen.
Drei Dinge sind für die Tool-Bewertung relevant. Erstens Transparenz: KI-generierte Inhalte, die mit menschen-erzeugten verwechselt werden könnten, müssen gekennzeichnet werden. Zweitens Dokumentation: hochriskante Nutzungen erfordern Protokollierung von Modellversionen, Inputs und Outputs. Drittens Pflichten des Betreibers: die Organisation, die die KI einsetzt, trägt Verantwortung, nicht nur der Anbieter.
Der AI Act ersetzt die DSGVO nicht. Beide stapeln sich. Ein Research-Workflow kann DSGVO-konform und AI-Act-nicht-konform sein, oder umgekehrt. Anbieter, die über das eine sprechen aber nicht über das andere, haben ihre Hausaufgaben halb gemacht.
Dieser Begriff wird in den folgenden Artikeln referenziert: