KI in der Medizin: Wenn dein Knie deine Biervorliebe verrät

Stell dir vor, ein Computerprogramm könnte anhand eines Röntgenbildes deines Knies vorhersagen, ob du gerne Bier trinkst oder nicht. Klingt absurd? Genau das haben Forschende in einer aktuellen Studie erreicht. Die Freude über den vermeintlichen Erfolg blieb jedoch aus – vielmehr soll die Veröffentlichung auf ein ernstes Problem in der Entwicklung von künstlicher Intelligenz für die medizinische Bildgebung aufmerksam machen.

Abkürzungen führen nicht immer ans richtige Ziel: Shortcutting als Risiko

In ihrer in Scientific Reports veröffentlichten Arbeit zeigen die Autoren, wie anfällig Deep-Learning-Algorithmen für sogenanntes Shortcutting sind. Dabei handelt es sich um ein Phänomen, bei dem KI-Modelle praktisch Abkürzungen nehmen. Sie stützen sich auf oberflächliche Muster in den Trainingsdaten, anstatt die eigentlich relevanten medizinischen Merkmale zu lernen.

Shortcutting tritt dann auf, wenn ein Modell eine einfache Lösung findet, um eine Aufgabe zu bewältigen, ohne das zugrunde liegende Problem wirklich zu verstehen. Im medizinischen Kontext kann dies besonders problematisch sein.

Wie die KI Vorlieben für Bier und Bohnen aus Knie-Röntgenbildern liest

Um die Problematik zu verdeutlichen, trainierten die Forschenden einfache neuronale Netzwerke darauf, anhand von Knie-Röntgenbildern vorherzusagen, ob Patienten oder Patientinnen Bier oder frittierte Bohnen meiden. Da sich diese Vorlieben logischerweise nicht auf einem Knie-Röntgenbild erkennen lassen, sollte die KI auch keine entsprechenden Aussagen treffen können. Das Ergebnis aber dürfte überraschen: Die KI-Modelle konnten die Vorlieben mit einer Genauigkeit von 63 Prozent für Bohnen und sogar mit 73 Prozent für Bier vorhersagen. Bedeutend mehr, als hätte sie einfach nur geraten. Und das, obwohl es keinen plausiblen medizinischen Zusammenhang zwischen diesen Ernährungsgewohnheiten und dem Aussehen eines Knies gibt.

Versteckte Zusammenhänge in den Daten

Wie konnten die Modelle zu solchen Ergebnissen kommen? Die Antwort liegt in verborgenen Zusammenhängen innerhalb der Datensätze. Die KI-Systeme lernten, subtile Muster zu erkennen, die mit demografischen Faktoren oder technischen Details der Bildaufnahme zusammenhängen. Sie hielten sich bei ihrer Vorhersage also nicht an das Aussehen der Röntgenbilder, sondern vielmehr an Alter und Geschlecht der Patientinnen und Patienten, deren Ethnie oder Wohnorte. So konnten sie beispielsweise das klinische Zentrum identifizieren, in dem die Aufnahme gemacht wurde, oder sogar das Herstellungsjahr des Röntgengeräts bestimmen.

Warum das gefährlich ist

«Diese Ergebnisse zeigen, wie leicht es ist, Modelle mit überraschend genauen Vorhersagen zu erstellen, denen jedoch jegliche Plausibilität fehlt», warnen die Autoren der Studie. In der medizinischen Forschung könnte dies zu falschen Schlussfolgerungen führen. Wenn du denkst, dass ein KI-Modell eine bahnbrechende neue Entdeckung gemacht hat, könnte es in Wirklichkeit nur eine zufällige Korrelation in den Daten gefunden haben.

Das Problem Shortcutting geht weit über einfache Verzerrungen hinaus. Die Studie zeigt, dass die Modelle nicht nur einzelne Störfaktoren wie Geschlecht oder Alter nutzen, sondern komplexe Kombinationen verschiedener Variablen. Selbst wenn man offensichtliche Einflussfaktoren ausschließt, finden die Algorithmen oft andere Wege, um ihre Vorhersagen zu treffen.