In der EU heißt es oft, der AI Act überreguliere künstliche Intelligenz. Auch die U.S. Food and Drug Administration (FDA) hat KI in Medizinprodukten genau im Blick. Sie setzt dabei nicht auf ein eigenes KI-Gesetz, sondern auf bestehendes Medizinprodukterecht und Leitlinien. Wie streng die FDA diese bei KI in Medizinprodukten auslegt, zeigt ein aktueller Warning Letter. Mit solchen öffentlichen Schreiben weist die FDA Hersteller auf erhebliche Verstöße hin und verlangt innerhalb von 15 Werktagen eine Stellungnahme.
Ein Hersteller hatte seine von der FDA freigegebene Software in drei Punkten geändert: Er ergänzte einen neuen Machine-Learning-Algorithmus, stellte von einer Desktop-Anwendung auf eine webbasierte Architektur um und migrierte die Technologieplattform. Laut FDA hätte bereits der neue Algorithmus eine neue Premarket Notification (510(k)) erfordert. Die Begründung: Ein neues Modell kann bei bestimmten Patientengruppen, Geräten oder klinischen Umgebungen anders funktionieren und anders versagen als die freigegebene Version. Das gilt auch, wenn das Update eine Verbesserung sein soll. Die FDA sieht darin das Risiko verpasster oder unzureichender Diagnosen und fordert, den Vertrieb der neuen Version einzustellen.