KI in Medizinprodukten: Potenziale und Risiken

KI-basierte Medizinprodukte eröffnen grosse Poten­ziale, indem sie das Fachpersonal unterstützen, die ­Effizienz erhöhen und zu einer schnelleren Behandlung sowie zu rascheren und präziseren Diagnosen führen. Sie können die Entwicklung hin zu einer personalisierten Medizin fördern und die Patientensicherheit erhöhen, indem beispielsweise kritische Abweichungen bei den Vitalwerten früh erkannt und automatisch Massnahmen eingeleitet werden.

Potenzial aus Sicht der Medizinproduktehersteller

Künstliche Intelligenz ist ein bedeutender Innovationstreiber im Bereich der Medizinprodukte. Folgendes erhoffen sich die Hersteller:

• Kürzere Entwicklungszyklen: Algorithmen und automatisierte Auswertungen verkürzen die Zeit bis zur Markteinführung neuer Produkte.
• Marktdifferenzierung: KI-basierte Produkte ermöglichen Alleinstellungsmerkmale, etwa durch personalisierte Empfehlungen.
• Kosteneffizienz und Fehlerreduktion: Durch Automatisierung werden Fehlerquellen minimiert und Abläufe effizienter gestaltet.
• Erfüllung regulatorischer Anforderungen: Moderne KI-Systeme erleichtern die Anpassung an sich verschärfende Zulassungskriterien.
• Neue Geschäftsmodelle: Datenbasierte Analysen und Serviceangebote eröffnen neue Umsatzpotenziale, etwa als Software-as-a-Service.

Neben diesen Potenzialen bringen KI-basierte Medizinprodukte jedoch auch spezifische Risiken mit sich. Die wichtigsten medizinischen Risiken können folgendermassen zusammengefasst werden:

• Fehldiagnosen: beispielsweise falsch-negative oder falsch-positive Befunde. Die Hochschule Furtwangen hat in einer aktuellen Studie ferner darauf hingewiesen, dass viele KI-Modelle bislang nicht hinreichend risikoorientiert bewertet werden, sondern nur nach klassischen Metriken wie der Genauigkeit (Link zur Studie).
• Bias und systematische Fehler: KI-Systeme können systematische Fehlaussagen treffen, etwa wenn bestimmte Patientengruppen – z.B. Personen mit niedrigem sozioökonomischem Status – je nach Trainingsdaten weniger repräsentiert sind.

Hinzu kommen Risiken infolge mangelnder Transparenz und schwer nachvollziehbarer Entscheidungsfindung sowie unzureichender Qualität von Trainingsdaten moderner KI-Systeme. Unklar ist häufig, wer bei Fehlern haftet. KI in Medizinprodukten ist also mit erheblichen Risiken verbunden. Expert:innen fordern eine kontinuierliche Risikoabwägung, transparente Entscheidungsprozesse, hochwertige Trainingsdaten und ein klar definiertes Haftungsregime, um das Potenzial dieser Technologie verantwortungsvoll zu nutzen.

Dieser Artikel ist auf Basis einer Perplexity-Recherche entstanden.

Beitragsbild: Canva