KI und Big Data: Wo stehen wir in der Diskussion?

26/02/2020
KI, Machine Learning und Big Data werden gerade als große Themen in der Medizintechnik gehandelt. Zurecht, ist doch das weltweite Datenvolumen derart angeschwollen, dass damit bis dato nicht gekannte Möglichkeiten eröffnet werden. Wäre es nicht fantastisch, wenn man Effizienz und Transparenz in der Behandlung erhöhen, Behandlungsfehler reduzieren könnte? Wenn man Massen an Patientendaten nutzen könnte, um Empfehlungen bei der Behandlungsentscheidung und bei der Auswertung von Bild- und Datenmaterial zu erhalten?
Die Erwartungen an KI und Big Data sind groß: Neuartige Softwareprodukte, Robotik bis hin zur Automatisierung sind die großen Zukunftsvisionen. Man ist sich einig, dass KI Befunde in Bildern zuverlässiger detektiert, dass sie bei der Diagnose unterstützt und diese, weil sie sich ständig selbst optimiert, irgendwann ganz übernimmt. Aber ist das in den nächsten Jahren tatsächlich zu erwarten?

Momentan gelten Datenschutz und Persönlichkeitsrecht als größtes Hemmnis für die Realisierung. Es braucht das Einverständnis der Betroffenen für die Verwendung ihrer Daten. Die riskante Folge der Datensammelei: Werden an sich unproblematische Informationen verknüpft, kann es zu problematischen Erkenntnissen führen; die Betroffenen können künftig identifiziert, kontrolliert und bevormundet werden. Es braucht also noch jede Menge Regulierungsarbeit, für Akteure der Informations- und der Wirtschaftsethik gibt es viel zu tun.
Unserer Meinung nach ist aber der offensichtlichste Grund, weshalb KI noch nicht umsetzbar ist, viel profaner als Datenschutz und Persönlichkeitsrecht: Es gibt bislang noch gar kein Big Data in der Medizintechnik, Krankenhäuser sammeln bisher keine dafür relevanten Patientendaten. Woher soll also die Menge an Daten kommen, mit denen die KI arbeitet und die sie für ihre Arbeit auch dringend braucht?
Weitere wichtige Fragen, auf die wir noch Antworten finden müssen: Wie trifft der gefundene Algorithmus Entscheidungen? Und wie stellen wir sicher, dass KI dabei valide Ergebnisse liefert und diese Validität aufrechterhält? Wie reduzieren wir die Risiken der Diskriminierung durch den Algorithmus, die Gefahr lückenhafter Daten und die von Fehlern in den Datenbeständen? Und wie gewährleisten wir die Nachvollziehbarkeit der Entscheidung des Algorithmus? Schließlich ist der Arzt die höchste Entscheidungsinstanz und muss ein Urteil fällen, ob er die Entscheidung des Algorithmus mitträgt oder ob er zu einer anderen Meinung gelangt. Dazu muss er alle Informationen kennen, nach denen auch die KI abgewägt hat. Und schnell wird klar: Je höher das Risiko, desto höher ist auch der regulatorische Aufwand für das Produkt. Wenn es um KI geht, wird der regulatorische Aufwand wahrscheinlich sehr groß.

Der Medizinproduktemarkt ist – zum Glück! – ein regulierter Markt. Der Markteintritt erfordert eine saubere Planung und Durchführung, weil er sonst schnell an den Markteintrittsschranken scheitert. Sicher wird KI irgendwann Wirklichkeit; schon allein der demographische Wandel verbunden mit dem Wunsch nach einer flächendeckenden Versorgung macht ihren Einsatz erforderlich. Aber bis dahin ist noch viel zu tun – und vieles von dem, das über das Tempo der Realisierung entscheiden wird, ist noch nicht Gegenstand der aktuellen Diskussion.

Ein spannendes Thema? Erfahren Sie aus erster Hand, welche Bedingungen KI braucht, um in der Medizintechnik ihren Platz einzunehmen: Unser Software-Experte Thorsten Stumpf hält einen Vortrag zum Thema „KI und Big Data in der Medizintechnik: Was sind die Herausforderungen bei Medizinprodukten?“ auf der 5. Spring Update Medizinproduktekonferenz 2020 am 26.03. in Köln.