Im vorigen Beitrag habe ich den Trainingsprozess eines KI-Modells für Whole Slide Images (WSIs) in der Pathologie erklärt. In diesem darauf aufbauenden Beitrag werde ich nun beschreiben, wie eine KI technisch in den Laborprozess eingebunden werden kann.
Inferenz statt Training
Wenn man ein KI-Modell nicht weiter trainiert, sondern nur mehr verwendet spricht man von "Inferenz". Eine KI erzeugt bei der Inferenz eine Ausgabe, indem sie ihr Wissen aus den Trainingsdaten auf neue, ihr bisher unbekannte Daten anwendet. Bei einer KI für Whole Slide Images läuft Inferenz typischerweise in diesen Schritten ab:
- Ein WSI wird geladen und in Patches zerschnitten, die dem Modell übergeben werden ("Tiling", siehe meinen vorigen Beitrag für Details).
- Die Patches werden durch das erste neuronale Netz geschickt, das aus jedem Bild relevante Features extrahiert.
- Vereinfacht gesagt werden die extrahierten Features nun durch das zweite neuronale Netz geschickt. Die Gewichtungen des Netzes, die im Training kalibriert wurden, bestimmen dabei, welche Features stärkeren und schwächeren Einfluss auf die Diagnose nehmen.
- Die einzelnen Patch-Ergebnisse werden dann mit einer Aggregationsfunktion zu einer Vorhersage auf Objektträger-Ebene kombiniert.
- Die errechnete Diagnose wird am Ende des Inferenz-Prozesses mit der Diagnosewahrscheinlichkeit zurückgegeben.
Integration in den Laborprozess
Um die künstliche Intelligenz in den alltäglichen Laborprozess einbinden zu können benötigt man einen Slide Scanner. Der Slide Scanner wird mit den aufbereiteten Objekträgern beladen und erstellt die Whole Slide Images. Ein KI-Server (dazu mehr im letzten Absatz) kann die erstellten WSIs im Anschluss abrufen.
Am KI-Server wird dann die Inferenz abgearbeitet. Nach kurzer Rechenzeit können die Ergebnisse abgerufen und an eine Slide Viewer Software übergeben werden. Die Ergebnisse der einzelnen Patches können im Slide Viewer als Heatmaps visualisiert werden. Die vorgeschlagene Diagnose wird ebenfalls über die UI des Slide Viewers zur Verfügung gestellt.
Mensch trifft Entscheidung
Die KI-Vorbefundung ist damit abgeschlossen. Nun liegt die Verantwortung bei der Pathologin/dem Pathologen.
Eine solche KI-Lösung unterstützt die Patholog:innen in zweierlei Hinsicht: Einerseits werden die Ärztinnen durch die zweite, maschinell errechnete Meinung gechallenged. Andererseits ermöglicht die KI eine Beschleunigung der Befundung. Wenn der KI-Vorbefund aus Sicht der Ärztin/des Arztes korrekt ist, kann die Diagnose auf Knopfdruck akzeptiert werden. In Hochdurchsatz-Laboren, in denen täglich hunderte Fälle abgearbeitet werden, führt selbst eine geringe Beschleunigung pro Fall in Summe zu einer erheblichen Erleichterung.
Extra: Wo läuft die KI denn eigentlich?
Der Trainingsprozesses einer KI benötigt enorme Rechenleistung, insbesondere in Form von Grafikkarten (GPUs). Die Nachfrage und der Preis von GPUs ist seit dem KI-Hype enorm gestiegen. Für das Training einer KI werden also Server-Ressourcen benötigt, die von einzelnen Laboren für gewöhnlich nicht zur Verfügung gestellt werden können.
Die Inferenz verlangt eine vergleichsweise deutlich geringere Rechenkapazität als das Training einer KI. Ein trainiertes Modell ist eine aufrufbare Datei, vorstellbar als ein "Programm", meist in der Größe weniger Gigabytes. Die Inferenz eines KI-Modells kann also theoretisch auf lokalen Laborservern laufen.
Bei Laboren mit schwacher Internet-Anbindung ist lokale Inferenz sogar die einzige sinnvoll umsetzbare Option, da die Datenübertragung von täglich hunderten WSIs mit 1-2GB Größe schlicht nicht möglich ist. Aus Gründen der Kostenreduktion, der einfacheren Wartbarkeit und IP-Sicherheit für die KI-Anbieter kommen aber auch Cloud Services oder eigene Server des KI-Anbieters in Frage.
Bei Cloud-Anbietern wie Amazon Web Services oder Microsoft Azure gewährt der KI-Anbieter dem Labor Zugriff aufs Modell über eine gesicherte Schnittstelle. Die Rechenleistung, die für die Inferenz benötigt wird, skaliert bei Cloud-Anbietern automatisch mit dem Bedarf hoch und runter.
Da das Verwenden von Cloud-Services in der Medizin hoher regulatorischer Anforderungen bedarf und die Rechenkosten oft hoch sind, können KI-Modelle alternativ auch auf eigenen Servern des KI-Anbieters gehostet werden. Diese Server stehen zumeist in Rechenzentren und müssen vom KI-Anbieter administriert und gewartet werden. Die verfügbare Rechenleistung ist in dieser Variante natürlich mit den Kapazitäten der eigenen Server limitiert.