Hintergrund

KI in der Medizin: Wenn dein Knie deine Biervorliebe verrät

2.1.2025

Künstliche Intelligenz verspricht, in medizinischen Bildern Details zu erkennen, die dem menschlichen Auge verborgen bleiben. Doch eine neue Studie zeigt, wie leicht KI-Modelle irreführende Muster in den Daten finden und zu falschen Schlussfolgerungen kommen können.

Stell dir vor, ein Computerprogramm könnte anhand eines Röntgenbildes deines Knies vorhersagen, ob du gerne Bier trinkst oder nicht. Klingt absurd? Genau das haben Forschende in einer aktuellen Studie erreicht. Die Freude über den vermeintlichen Erfolg blieb jedoch aus – vielmehr soll die Veröffentlichung auf ein ernstes Problem in der Entwicklung von künstlicher Intelligenz für die medizinische Bildgebung aufmerksam machen.

Abkürzungen führen nicht immer ans richtige Ziel: Shortcutting als Risiko

In ihrer in Scientific Reports veröffentlichten Arbeit zeigen die Autoren, wie anfällig Deep-Learning-Algorithmen für sogenanntes Shortcutting sind. Dabei handelt es sich um ein Phänomen, bei dem KI-Modelle praktisch Abkürzungen nehmen. Sie stützen sich auf oberflächliche Muster in den Trainingsdaten, anstatt die eigentlich relevanten medizinischen Merkmale zu lernen.

Shortcutting tritt dann auf, wenn ein Modell eine einfache Lösung findet, um eine Aufgabe zu bewältigen, ohne das zugrunde liegende Problem wirklich zu verstehen. Im medizinischen Kontext kann dies besonders problematisch sein.

Wie die KI Vorlieben für Bier und Bohnen aus Knie-Röntgenbildern liest

Um die Problematik zu verdeutlichen, trainierten die Forschenden einfache neuronale Netzwerke darauf, anhand von Knie-Röntgenbildern vorherzusagen, ob Patienten oder Patientinnen Bier oder frittierte Bohnen meiden. Da sich diese Vorlieben logischerweise nicht auf einem Knie-Röntgenbild erkennen lassen, sollte die KI auch keine entsprechenden Aussagen treffen können. Das Ergebnis aber dürfte überraschen: Die KI-Modelle konnten die Vorlieben mit einer Genauigkeit von 63 Prozent für Bohnen und sogar mit 73 Prozent für Bier vorhersagen. Bedeutend mehr, als hätte sie einfach nur geraten. Und das, obwohl es keinen plausiblen medizinischen Zusammenhang zwischen diesen Ernährungsgewohnheiten und dem Aussehen eines Knies gibt.

Versteckte Zusammenhänge in den Daten

Wie konnten die Modelle zu solchen Ergebnissen kommen? Die Antwort liegt in verborgenen Zusammenhängen innerhalb der Datensätze. Die KI-Systeme lernten, subtile Muster zu erkennen, die mit demografischen Faktoren oder technischen Details der Bildaufnahme zusammenhängen. Sie hielten sich bei ihrer Vorhersage also nicht an das Aussehen der Röntgenbilder, sondern vielmehr an Alter und Geschlecht der Patientinnen und Patienten, deren Ethnie oder Wohnorte. So konnten sie beispielsweise das klinische Zentrum identifizieren, in dem die Aufnahme gemacht wurde, oder sogar das Herstellungsjahr des Röntgengeräts bestimmen.

Die KI will anhand dieser Röntgenaufnahmen den Bierkonsum der Personen erkennen, tatsächlich leitet sie ihre Ergebnisse aber aus anderen Faktoren ab.
Quelle: Hill et al./ Scientific Reports, CC-by-nc-nd 4.0

Warum das gefährlich ist

«Diese Ergebnisse zeigen, wie leicht es ist, Modelle mit überraschend genauen Vorhersagen zu erstellen, denen jedoch jegliche Plausibilität fehlt», warnen die Autoren der Studie. In der medizinischen Forschung könnte dies zu falschen Schlussfolgerungen führen. Wenn du denkst, dass ein KI-Modell eine bahnbrechende neue Entdeckung gemacht hat, könnte es in Wirklichkeit nur eine zufällige Korrelation in den Daten gefunden haben.

Das Problem Shortcutting geht weit über einfache Verzerrungen hinaus. Die Studie zeigt, dass die Modelle nicht nur einzelne Störfaktoren wie Geschlecht oder Alter nutzen, sondern komplexe Kombinationen verschiedener Variablen. Selbst wenn man offensichtliche Einflussfaktoren ausschließt, finden die Algorithmen oft andere Wege, um ihre Vorhersagen zu treffen.

Titelbild: Cagkan Sayin/Shutterstock

94 Personen gefällt dieser Artikel

Anna Sandner

Senior Editor

Anna.Sandner@galaxus.de

Wissenschaftsredakteurin und Biologin. Ich liebe Tiere und bin fasziniert von Pflanzen, ihren Fähigkeiten und allem, was man daraus und damit machen kann. Deswegen ist mein liebster Ort immer draußen – irgendwo in der Natur, gerne in meinem wilden Garten.

Hintergrund

Interessantes aus der Welt der Produkte, Blicke hinter die Kulissen von Herstellern und Portraits von interessanten Menschen.

Alle anzeigen

Diese Beiträge könnten dich auch interessieren

Hintergrund
ChatGPT antwortet empathischer als Ärztinnen und Ärzte
von Anna Sandner
Hintergrund
Wie kritisch darf KI sein? – Eine Künstliche Intelligenz im Interview
von Martin Jud
Hintergrund
Flut von KI-Musik: mehr ist definitiv nicht besser
von David Lee

35 Kommentare

later

Deine Daten. Deine Wahl.

Suche

KI in der Medizin: Wenn dein Knie deine Biervorliebe verrät

Abkürzungen führen nicht immer ans richtige Ziel: Shortcutting als Risiko

Wie die KI Vorlieben für Bier und Bohnen aus Knie-Röntgenbildern liest

Versteckte Zusammenhänge in den Daten

Warum das gefährlich ist

Diese Beiträge könnten dich auch interessieren

ChatGPT antwortet empathischer als Ärztinnen und Ärzte

Wie kritisch darf KI sein? – Eine Künstliche Intelligenz im Interview

Flut von KI-Musik: mehr ist definitiv nicht besser

35 Kommentare

Top 10 Kategorien

Direkt zu

Abkürzungen führen nicht immer ans richtige Ziel: Shortcutting als Risiko

Wie die KI Vorlieben für Bier und Bohnen aus Knie-Röntgenbildern liest

Versteckte Zusammenhänge in den Daten

Warum das gefährlich ist

35 Kommentare

Galaxus Tagesangebot