Microsoft stellte im Sommer 2025 ein System vor, das mehrere Sprachmodelle wie ein Konsil zusammenschaltet, und meldete dazu eine Zahl. MAI-DxO löste 85,5 % einer Sammlung besonders schwerer Fälle aus dem New England Journal of Medicine, Ärzte ohne Hilfsmittel rund 20 %.¹ Aus solchen Zahlen wird der Schluss gezogen, künstliche Intelligenz diagnostiziere inzwischen besser als der Arzt. Der Schluss überspringt drei Fragen, die getrennt zu beantworten sind.

Ein System, das die ärztliche Diagnostik verbessern soll, müsste dreierlei leisten. Es müsste auf einem festen Satz von Fällen die richtige Diagnose treffen. Es müsste den Arzt, der es nutzt, besser machen als den Arzt ohne es. Und es müsste sicher bleiben, wenn es selbst falsch liegt, weil am Ende der Arzt für den Befund einsteht. In der öffentlichen Darstellung fließen die drei Leistungen zu einem Versprechen zusammen. In den Studien bleiben sie getrennt. Eine hohe Trefferquote auf einem Benchmark sagt nichts darüber, ob ein Arzt mit dem System besser wird, und noch weniger darüber, was geschieht, wenn das System irrt. Vermengt man die drei Ebenen, erscheint ein System als erwiesen, das auf der Ebene, die für den Patienten zählt, nie geprüft wurde.

Erste Ebene (KI allein): Stellt die KI die richtige Diagnose?

Auf dieser Ebene ist die Evidenz am stärksten. Das Microsoft-System arbeitete 304 klinisch-pathologische Konferenzfälle des New England Journal of Medicine aus den Jahren 2017 bis 2025 ab, ausgewählte Lehrfälle mit gesicherter Diagnose. In der besten Konfiguration löste es 85,5 % davon, bei Kosten von rund 7.184 US-Dollar Rechenaufwand je Fall und etwa 11 Prozentpunkten über gängigen Einzelmodellen.¹ Die Trefferquote beschreibt, wie oft das System aus der Falldarstellung die gesicherte Diagnose ableitet.

Der Wert trägt eine Einschränkung, die in der Berichterstattung selten mitgenannt wird. Die Sammlung enthielt keine Gesunden und keine leichten Verläufe. Sie besteht aus schweren Rätseln, deren Auflösung feststeht. Der Wert misst die diagnostische Obergrenze an gelösten Aufgaben, nicht die Leistung in einer Praxis, in der Häufigkeit und Triage über den Verlauf entscheiden. Die Arbeit ist ein Preprint und nicht klinisch validiert. Über einen Arzt, der das System nutzt, sagt sie nichts, denn geprüft wurde das System allein. Das Fehlen leichter Fälle vergrößert zudem den scheinbaren Abstand zu den Ärzten, die im selben Test ohne Vorauswahl arbeiteten.

Zweite Ebene (Arzt mit KI): Wird der Arzt mit der KI besser?

Hier wird die Evidenz uneinheitlich, und sie hängt an einer Bedingung. Eine randomisierte Studie aus Stanford gab 50 Ärzten GPT-4 an die Hand, ohne vorherige Schulung. Sie bearbeiteten sechs komplexe Diagnosefälle nach Art einer Facharztprüfung, bewertet auf einem Raster für diagnostisches Denken bis 100 Punkte. Die Ärzte mit GPT-4 und die ohne kamen auf praktisch denselben Wert, 76 gegenüber 74 Punkten, ein Abstand ohne statistische Bedeutung. GPT-4 allein erreichte 92 %.² Der bloße Zugang zur KI verbesserte die Diagnose der Ärzte nicht.

Eine randomisierte Studie aus Pakistan verschob die Bedingung. 60 Ärzte durchliefen zuerst eine zwanzigstündige Schulung im Umgang mit Sprachmodellen, in deren Fähigkeiten, Grenzen und in der Prüfung ihrer Ausgaben. Danach wurden sie einem KI-Zugang oder der herkömmlichen Recherche zugelost und bearbeiteten bis zu sechs Fallvignetten. Die Ärzte mit Zugang erreichten im Mittel 71,4 % gegenüber 42,6 % ohne Zugang, ein bereinigter Abstand von 27,5 Prozentpunkten.³ In knapp einem Drittel der Fälle übertraf das Team aus Arzt und System das System allein. Die Arbeit prüfte Vignetten, keine realen Patienten, und die ausgewertete Gruppe umfasste 58 Ärzte. Was die Studie zeigt, ist eng umrissen. Erst die Schulung verwandelt den Zugang in einen Gewinn. Was mit einem fehlerhaften Vorschlag geschieht, prüfte sie nicht.

Dritte Ebene : Merkt der Arzt wenn die KI einen Fehler macht

Auf der Ebene, die über den Schaden am Patienten entscheidet, ist die Evidenz am dünnsten und am beunruhigendsten. Dieselbe Forschungsgruppe prüfte denselben geschulten Ärztetyp unter einer anderen Bedingung. 44 Ärzte, alle mit der zwanzigstündigen Schulung, wurden auf zwei Gruppen verteilt und erhielten sechs Vignetten. Die eine Gruppe erhielt fehlerfreie Vorschläge von ChatGPT-4o, die andere in drei der sechs Fälle absichtlich fehlerhafte. Die Ärzte durften die KI frei konsultieren und behielten die Entscheidung über jede Diagnose. Die Gruppe mit den fehlerhaften Vorschlägen fiel auf 73,3 % gegenüber 84,9 % in der Gruppe mit fehlerfreien Vorschlägen, ein bereinigter Abstand von 14,0 Prozentpunkten.⁴

Die Schulung hatte ausdrücklich die Prüfung der Ausgaben und das Erkennen von Halluzinationen zum Gegenstand. Sie verhinderte die Übernahme des Fehlers nicht. Der Effekt trägt in der Literatur den Namen Automation Bias, die Neigung, einer maschinellen Ausgabe stärker zu vertrauen, als ihre Zuverlässigkeit es rechtfertigt. Der Befund benennt die Grenze der Schulung genau. Sie hebt die Leistung im Regelfall und senkt die Anfälligkeit im Fehlerfall nicht. Die Arbeit prüfte absichtlich eingebaute Fehler an Vignetten und misst damit nicht, wie häufig ein System im Alltag irrt. Sie zeigt, was geschieht, wenn es irrt.

Wie schmal die Basis dieser Systeme bleibt, zeigt eine Untersuchung an Kinderfällen. Eine ältere Version von ChatGPT bearbeitete hundert pädiatrische Fallrätsel und lag bei einer Fehlerquote von 83 %.⁵ Die Version des Systems und das Fachgebiet verschieben das Bild erheblich, und die hohe Trefferquote der ersten Ebene ist an ein bestimmtes System und einen bestimmten Fallkorpus gebunden.

3 Herangehensweisen, unterschiedliche Gewichtungen

Für eine Werbeaussage nimmt man am liebsten die Zahl, die gut aussieht — hier die 85,5 % aus Ebene eins. Für die Frage, ob man ein System gefahrlos in der Praxis einsetzen kann, braucht man aber eine ganz andere Auskunft: was passiert, wenn es irrt. Und ausgerechnet dafür gibt es die dünnste Studienlage. Beweislage und klinische Bedeutung laufen also auseinander: Wo am meisten geprüft wurde, ist am wenigsten in Gefahr; wo am wenigsten geprüft wurde, steht der Patient.Die Schwelle zum Medizinprodukt

MAI-DxO und vergleichbare Systeme sind Forschungsarbeiten, keine zugelassenen Medizinprodukte. Eine Software, die eine Diagnose vorschlägt oder einen Befund erstellt, fällt nach ihrer Zweckbestimmung unter die Verordnung (EU) 2017/745 und braucht eine Konformitätsbewertung mit CE-Kennzeichnung und den Nachweis des klinischen Nutzens.⁶ Ein Preprint erfüllt das nicht. Die ärztliche Verantwortung entfällt durch den Einsatz eines Algorithmus nicht. Nach dem Behandlungsvertragsrecht schuldet der Arzt die Behandlung nach dem fachlichen Standard, und die Letztentscheidung bleibt bei ihm.⁷ Die Verantwortungsbereiche von Hersteller, Betreiber und Arzt bestehen bereits. Neu und schwierig ist ihre Anwendung auf Systeme, deren Vorschläge sich schwer nachvollziehen lassen. Die Studie zur dritten Ebene gibt dieser Frage einen konkreten Anlass. Sie zeigt, dass auch geschulte Prüfung die Übernahme des falschen Vorschlags nicht auffängt.

David Reger, der Gründer von NEURA Robotics, beschreibt in einem Interview ein System, bei dem ein Roboterarm die Brust mit Ultraschallsensoren abfährt, aus den Aufnahmen ein Bild zusammensetzt und dieses unmittelbar durch künstliche Intelligenz auswerten lässt. In China, so die Darstellung, entstünden bereits mobile Einheiten für ein Screening von mehr als 420 Millionen Frauen im Jahr.¹ Die Schilderung wirkt konkret. Als Nachweis klinischer Wirksamkeit trägt sie nicht, denn sie nennt weder Studienpopulation noch diagnostische Genauigkeit, Vergleichsverfahren oder Zulassungsstatus. Auch die im Juni 2026 gemeldete Finanzierungsrunde von bis zu 1,4 Milliarden US-Dollar betrifft den Ausbau einer Plattform für „Physical AI“ und benennt das Gesundheitswesen als eines von mehreren Anwendungsfeldern, nicht als validiertes Produkt.²

Die Einzelbausteine eines solchen Systems werden seit Jahren klinisch untersucht. Automatisierter Brustultraschall ist im Einsatz. KI-Modelle bewerten vorhandene Aufnahmen mit hoher diagnostischer Trennschärfe. Offen ist, ob aus diesen Teilen ein System wird, das die Brust vollständig, autonom und klinisch verlässlich untersucht. Wer die Einzelbelege addiert, beantwortet die Frage nicht. Jeder Baustein prüft eine andere Aufgabe.

Drei Leistungen, die getrennt zu prüfen sind

Ein System zur robotischen Brustkrebsvorsorge müsste die Brust vollständig und in ausreichender Qualität erfassen. Es müsste die Aufnahmen korrekt auswerten. Und es müsste aus dem Befund eine tragfähige medizinische Konsequenz ableiten. In der öffentlichen Darstellung fließen die drei Schritte zu einem einzigen Versprechen zusammen. In den Studien bleiben die drei Schritte getrennt. Ein Algorithmus kann Bilder zuverlässig klassifizieren, ohne zu wissen, ob zuvor die gesamte Brust erfasst wurde. Ein automatisiertes Aufnahmegerät erzeugt reproduzierbare Datensätze, ohne selbst eine Diagnose zu stellen.

Von der Trennung hängt ab, welche Studie welche Aussage stützt. Eine hohe Kennzahl aus einer Bildauswertungsstudie sagt nichts über die Zuverlässigkeit der Aufnahme. Vermengt man die Belege der drei Ebenen, erscheint am Ende ein System als erwiesen, das nie als Ganzes untersucht wurde.

Was automatisierter Brustultraschall bereits leistet

Automatisierter Brustultraschall, meist als ABUS bezeichnet, wurde vor allem als Ergänzung zur Mammografie bei Frauen mit dichtem Brustgewebe geprüft. Hohe Brustdichte vermindert die Erkennbarkeit von Tumoren in der Mammografie und ist zugleich ein eigenständiger Risikofaktor.³ Das Verfahren erzeugt nach standardisiertem Protokoll dreidimensionale Datensätze und trennt die Bildaufnahme von der ärztlichen Befundung. Der Radiologe muss während der Untersuchung nicht anwesend sein.³

Autonom ist die Untersuchung damit nicht. Das System muss korrekt an der Brust positioniert werden. Anpressdruck, Lagerung und die Auswahl der erforderlichen Ansichten kontrolliert geschultes Personal. Auffällige Befunde werden häufig mit handgeführtem Ultraschall nachgeprüft.^3,4 Eine prospektive Untersuchung an asymptomatischen Frauen mit dichtem Gewebe fand durch die Ergänzung von ABUS zusätzliche Karzinome und meldete zugleich eine höhere Rückrufrate.⁴ Beide Werte entstehen aus derselben erhöhten Empfindlichkeit.

Hussein und Kollegen fassen die ergänzenden bildgebenden Verfahren bei dichter Brust und unauffälliger Mammografie in einer Metaanalyse zusammen. Sie beziffern den zusätzlichen Ertrag von ABUS auf 4,3 Karzinome je 1.000 Untersuchungen, in derselben Größenordnung wie den des handgeführten Ultraschalls, während die MRT 25,7 je 1.000 erreicht.⁵ Der hohe MRT-Wert stammt aus heterogenen Einzelstudien ohne direkten randomisierten Vergleich. Unterschiede bei Kosten, Verfügbarkeit und Patientenauswahl gehen in die Zahl ein. Als Ergänzung in ausgewählten Konstellationen ist ABUS damit gut belegt. Für ein eigenständiges Screeningverfahren reichen die Daten nicht.

Wie gut die KI vorhandene Bilder bewertet

Shen und Kollegen entwickelten das bisher am besten dokumentierte Auswertungssystem an 288.767 Brustultraschalluntersuchungen mit mehr als fünf Millionen Einzelbildern und veröffentlichten es 2021 in Nature Communications. Im internen Testdatensatz aus 44.755 Untersuchungen erreichte es eine AUROC von 0,976.⁶ Die Kennzahl beschreibt, wie sicher ein Verfahren zwischen erkrankten und nicht erkrankten Fällen trennt. Ein Wert von 1,0 entspräche vollständiger Trennung, 0,5 dem Zufall. Der interne Spitzenwert stammt aus demselben Datenbestand, an dem das Modell entwickelt wurde. Eine Aussage über den klinischen Einsatz erlaubt erst der kontrollierte Vergleich mit erfahrenen Befundern.

In einer retrospektiven Reader-Studie an 663 Untersuchungen trat das System gegen zehn zertifizierte Brustradiologen an. Es erreichte eine AUROC von 0,962 gegenüber 0,924 im Mittel der Radiologen.⁶ Bei der durchschnittlichen Sensitivität der Befunder lag seine Spezifität bei 85,6 Prozent gegenüber 80,7 Prozent. Es stufte damit einen größeren Anteil der gesunden Frauen korrekt als unauffällig ein, ohne erkannte Karzinome zu verlieren.⁶ Anschließend kombinierten die Autoren die Einschätzungen der einzelnen Radiologen rechnerisch mit den Wahrscheinlichkeitswerten der Software. In dieser Simulation sanken falsch positive Einstufungen um 37,3 Prozent und Biopsieempfehlungen um 27,8 Prozent, ohne dass die Sensitivität abnahm.⁶

Die Werte stammen aus nachträglich berechneten Hybridmodellen. Eine im Behandlungsalltag beobachtete Zusammenarbeit beschreiben sie nicht. Die Autoren benennen die Grenzen ihrer Arbeit selbst. Das Kollektiv war gezielt mit Karzinomen und biopsierten gutartigen Befunden angereichert, den Radiologen stand im Versuch nicht die volle klinische Information des Behandlungsalltags zur Verfügung, und extern geprüft haben sie nur an einem viel kleineren Datensatz. Vor einem breiten Einsatz fordern sie weitere prospektive Untersuchungen.⁶ Für die eng umrissene Aufgabe der Bildbewertung ist die Leistung damit belegt. Über autonome Bildaufnahme oder vollständiges Screening sagt die Arbeit nichts, denn die Bilder lagen bereits vor. Das System führte keinen Schallkopf, kontrollierte keinen Anpressdruck und musste nicht erkennen, ob ein Teil der Brust ausgelassen worden war.⁶

Wo die Evidenz inzwischen steht

Nach dem Erscheinen der Reader-Studie haben andere Arbeitsgruppen begonnen, die geforderten prospektiven Daten zu erheben. Ein systematisches Review zur KI-gestützten handgeführten Brustsonografie kommt 2025 zu dem Schluss, dass keine der eingeschlossenen Arbeiten eine prospektive externe Validierung an einer neuen, ethnisch vielfältigen Population vornimmt.⁷ So müsste man ein solches Modell eigentlich prüfen. Shen und Kollegen stehen mit dieser Lücke nicht allein. Die diagnostische Trennschärfe der Modelle ist valide, aber eine prospektive Bestätigung fehlt.

Einen Schritt in diese Richtung geht eine prospektive, klusterkontrollierte Screeningstudie aus Shanghai, deren Datenbank Anfang 2024 geschlossen und die 2025 publiziert wurde. Sie prüft KI-assistierten Ultraschall im bevölkerungsbezogenen Screening, also in dem Setting, das den retrospektiven Reader-Studien fehlt.⁸ Gefragt wird dort, wie viele Karzinome ein KI-assistiertes Programm bei vertretbarer Rückrufrate findet. Untersucht wird auch hier die assistierte Befundung. Die autonome robotische Aufnahme liegt außerhalb des Studiendesigns. Der Schritt von der Bildbewertung zur eigenständigen Bilderfassung bleibt unbelegt.

Warum die Bildaufnahme der kritische Schritt bleibt

Über die Qualität eines robotischen Brustultraschalls entscheidet die Aufnahme. Brustgewebe ist weich, verformbar und unter Druck verschieblich. Größe, Lagerung, Voroperationen, Narben und Implantate verändern die Untersuchungsbedingungen. Ein autonomes System müsste während der Untersuchung erkennen, welche Abschnitte bereits ausreichend erfasst sind, wo die Bildqualität nicht genügt und wann zusätzliche Ansichten nötig sind. Bestehende ABUS-Systeme verringern die Abhängigkeit von der freien Schallkopfführung. Sie arbeiten weiterhin mit definierten Ansichten, festen Protokollen und geschultem Personal.^3,4

Für ein robotisches System, das diese menschliche Kontrolle ersetzen soll, wären produktbezogene klinische Daten erforderlich. Sie müssten zeigen, ob das Gerät das Gewebe vollständig erfasst, ob die Bildqualität reproduzierbar bleibt, wie häufig die Aufnahme technisch scheitert und wiederholt werden muss, ob die Untersuchung für die Patientin sicher ist und wie genau das Gesamtsystem bei unterschiedlichen anatomischen Voraussetzungen diagnostiziert. Weder ABUS-Studien noch unabhängige KI-Modelle beantworten diese Fragen, weil keine das vollständige autonome System zum Gegenstand hat.

Warum ärztliche Kontrolle inhaltlich bleiben muss

Auch eine leistungsfähige Bildauswertung entbindet nicht von der ärztlichen Prüfung. Dratsch und Kollegen legten 27 Radiologen die Vorschläge eines vermeintlichen KI-Systems zur Mammografiebefundung vor, von denen ein Teil bewusst falsch war. Weniger erfahrene und sehr erfahrene Befunder verschoben ihre Einschätzung in Richtung der fehlerhaften Vorgabe.⁹ Die Arbeit betrifft die Mammografie. Ein pauschales Urteil gegen KI in der Radiologie erlaubt sie nicht. Sie zeigt, dass eine formale Freigabe keine echte Kontrolle ersetzt. Bei einem robotischen System müsste der Arzt nachvollziehen können, ob die Bildaufnahme vollständig war, auf welchen Aufnahmen die Bewertung beruht und wie sicher die errechnete Einschätzung ist. Erst dann kann er einem Vorschlag zustimmen oder ihn begründet verwerfen.

Was regulatorisch nachzuweisen wäre

Ein System, das Ultraschallbilder erzeugt und daraus diagnostische Informationen ableitet, wäre nach seiner konkreten Zweckbestimmung als Medizinprodukt zu bewerten. Die europäische Medizinprodukteverordnung verlangt eine zu Zweckbestimmung und Risiko passende klinische Bewertung sowie den Nachweis von Sicherheit und Leistung.¹⁰ Diagnostisch genutzte Software wird nach Regel 11 des Anhangs VIII risikobasiert in Klasse IIa, IIb oder III klassifiziert.¹⁰ Am Ende dieses Wegs stehen Konformitätsbewertung und CE-Kennzeichnung. Zu bewerten wäre das vollständige System. Die Leistung einer Bildauswertungssoftware lässt sich nicht auf einen Roboterarm übertragen, und die Präzision eines Roboters belegt keine diagnostische Zuverlässigkeit.

Die ärztliche Verantwortung entfällt durch den Einsatz eines Algorithmus nicht. Nach dem Behandlungsvertragsrecht muss die Behandlung dem zum Behandlungszeitpunkt anerkannten fachlichen Standard entsprechen.¹¹ Bei einem übersehenen Karzinom kämen je nach Ursache unterschiedliche Verantwortungsbereiche in Betracht: ein Produktfehler, ein Betriebsfehler, eine unvollständige Untersuchung oder eine fehlerhafte ärztliche Bewertung. Diese Bereiche bestehen bereits. Neu und schwierig ist ihre Zuordnung im Einzelfall, die ohne Kenntnis des konkreten Produkts und des tatsächlichen Ablaufs nicht möglich ist. Hinzu tritt die Pflicht aus Artikel 4 der KI-Verordnung, bei den mit Betrieb und Nutzung befassten Personen ein ausreichendes Maß an KI-Kompetenz sicherzustellen.¹² Für Ärzte heißt das nicht, Algorithmen entwickeln zu können. Es heißt, Zweckbestimmung, nachgewiesene Leistung, Grenzen und Kontrollschritte des eingesetzten Systems zu kennen.