Begründet mit dem gestiegenen Interesse an KI-Anwendungen soll das sogenannte
„KI-Gesetz“ der Europäischen Union klären, was KI-Software darf oder nicht darf, welche Pflichten Unternehmen und welche Anforderungen Produkte erfüllen müssen.
Das KI-Gesetz (engl. AI Act, kurz AIA) ist Teil des KI-Pakets, das im April 2021 von der EU-Kommission vorgestellt wurde. Im vergangenen Dezember erzielten das EU-Parlament und der EU-Rat eine politische Einigung zum vorgeschlagenen Gesetz.
Das Gesetz über künstliche Intelligenz sieht einen risikobasierten Ansatz vor. KI-Systeme mit unannehmbaren Risiken werden verboten, während hochriskante Systeme in bestimmte Kategorien eingeteilt werden. KI-Systeme mit begrenztem Risiko müssen laut AI-Act nur minimale Transparenzanforderungen erfüllen.
Medical Device Software wird dabei in die Kategorie der hochriskanten Systeme eingeteilt. Dies hat unter anderem zur Folge, dass auf jeden Fall eine notifizierte Stelle in das Konformitätsbewertungsverfahren mit einbezogen werden muss.
Am 9. Dezember 2023 erzielte das Parlament mit dem Rat eine vorläufige Einigung über das KI-Gesetz, das nun formell von beiden Parteien angenommen werden muss, um EU-Recht zu werden. Die finalen Schritte sollen in den kommenden Sitzungen des Ausschusses für Binnenmarkt und des Ausschusses für bürgerliche Freiheiten des Parlaments erfolgen.
Der Gesetzesentwurf kann hier eingesehen werden: https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:52021PC0206