Künstliche Intelligenz auf Embedded Devices

Insight Brief

Künstliche Intelligenz | KI – vor allem der Teilbereich Machine Learning (ML) – erobert immer mehr Bereiche unseres Alltags. Die Fähigkeit dieser Algorithmen, aus Datensätzen selbständig zu lernen, eröffnet neue Horizonte. Gerade im Auswerten von Big Data und bei der Suche nach ‚versteckten‘ Muster sind KI-Algorithmen den Menschen voraus.

Einleitung

In der Medizintechnik existiert ein riesiges Potenzial für KI-Algorithmen. Anonymisierte Behandlungsdaten können zu Therapie-Empfehlungen verdichtet werden. Die Gerätediagnostik kann verbessert und die Lebensdauer erhöht werden. Und auch Steuer- und Regelungsaufgaben werden teilweise schon jetzt von Neuronalen Netzen, Entscheidungsbäumen oder ähnlichem übernommen.

Die Medizintechnik stellt jedoch auch hohe Anforderungen an KI- und ML-Systeme. Fehlentscheidungen können drastische Auswirkungen haben. Das Verhalten eines Neuronalen Netzes ist unter Umständen schwerer vorauszusagen als das eines von Menschen entwickelten Algorithmus. Es bedarf dringend regulatorischer Vorgaben zur Gewährleistung der Sicherheit von KI-Systemen in der Medizintechnik. Unsere Mitarbeitenden der IMT AG arbeiten deshalb seit Anfang des Jahres im Normen-Gremium IEC PT63450 – „Artificial Intelligence-enabled Medical Devices – Methods for the Technical Verification and Validation“ mit.

Durchflussmessgerät PF-300 Pro für die Kalibrierung von medizinischen Beatmungs- und Anästhesiegeräten mit innovativen KI-Algorithmen

KI-Algorithmen für rechenintensive Anwendungen

Die Prozessorleistung der Embedded Devices in Medizingeräten ist oft um Grössenordnungen geringer als auf einem PC für Multimedia-Anwendungen oder in einer Produktionsanlage. Typische Prozessoren in Eingebetteten Systemen sind daher oft nicht leistungsstark genug, um komplexe Lernaufgaben sinnvoll darauf abzuwickeln. Trotzdem lässt sich ein grosser Teil populärer KI-Algorithmen auf ihnen problemlos integrieren, wenn das Training von einem PC oder Server übernommen wird. Denn in den meisten Fällen ist das Training weitaus rechenintensiver als die nachfolgende Anwendung (Inferenz).

Dies gilt für künstliche Neuronale Netze (KNN) ebenso wie für Support Vector Machines, Decision Trees und viele mehr. Bayes-Netzwerke sind ein Gegenbeispiel: Hier ist auch die Inferenz sehr rechenintensiv. Das liegt daran, dass zur Interferenz bedingte Wahrscheinlichkeiten durch numerische Integration über mehrere Variablen berechnet werden müssen.

Die IMT Analytics AG, ein Kunde der IMT AG und ebenfalls in Buchs ansässig, stellt Durchflussmessgeräte für die Kalibrierung von medizinischen Beatmungs- und Anästhesiegeräten her. In neueren Modellen wie dem PF-300Pro werden innovative KI-Algorithmen eingesetzt, etwa um Umwelteinflüsse auf Flussmessungen zu kompensieren oder die Grösse grosser Look-Up-Tabellen zu reduzieren.

Aufteilung von Training und Anwendung beim Einsatz von KI-Algorithmen. Die Anwendung kann oft problemlos auf Eingebetteten Systemen stattfinden, während das Training häufig mehr Rechenleistung erfordert

Eine Look-Up-Tabelle mit über 200’000 Stützpunkten konnte beispielsweise mit einem künstlichen Neuronalen Netz auf 31 Koeffizienten komprimiert werden. Damit wird eine Speicherreduktion von 99,98 % bei einer maximalen Fehlerquote von 1 % erreicht. Das senkt sowohl Kosten als auch Rechenzeit. Nicht zuletzt durch solch eine Algorithmik kann sich IMT Analytics als Marktführer in der Flussmesstechnik in Zukunft behaupten.

Das Potenzial der Künstlichen Intelligenz in der Medizintechnik ist enorm, doch es gibt noch viele offene Fragen: Wie können KI-Algorithmen interpretiert, erklärt und verifiziert werden? Wie definieren wir in diesem Zusammenhang eine Testabdeckung und wie realisieren wir diese? Wie stellen wir eine repräsentative Datengrundlage sicher, damit demographische, kulturelle oder auch geschlechtsspezifische Unterschiede möglichst gut abgedeckt werden?

Solche Fragen müssen für den Bereich der Medizintechnik dringend geklärt werden. Mehrere normative Gremien haben bereits angefangen, sich damit zu beschäftigen. Erste Empfehlungen werden in Kürze erwartet.

Zusammenfassung

Künstliche neuronale Netze auf Embedded Systems

Wie lassen sich künstliche neuronale Netze auf Embeddes Systems einsetzen? Diese drei Wege sind möglich, um Künstliche Intelligenz, Machine Learning und Eingebettete Systeme auf einen Nenner zu bringen:

Manuelle Implementation:
Künstliche Neuronale Netze (KNN) des Perzeptron-Typs sind aus mathematischer Sicht einfacher als man vielleicht denkt. Einfache Netze können mit wenigen Schleifen und mathematischen Standardoperationen implementiert werden. Allerdings: Codiert man das KNN selbst, zieht jede Änderung der Netz-Architektur auch eine Anpassung des Codes nach sich. Das ist aufwendig und fehleranfällig.
Tensorflow Lite:
Tensorflow ist eines der am weitesten verbreiteten Frameworks für maschinelles Lernen. Wurde ein KNN mit Tensorflow trainiert, kann dieses mit Tensorflow Lite auf einem Eingebetteten System eingesetzt werden.
X-Cube-AI:
ST Microelectronics bietet mit X-Cube-AI seinen Kunden ein leicht bedienbares Produkt an, welches dasselbe wie Tensorflow Lite verspricht: ein mit Tensorflow/Keras trainiertes ML-System auf einem Embedded System mit STM32-Prozessor anzuwenden. Bei IMT wurde das X-Cube-AI mit dem Beispiel-Netz getestet. Es ist sehr einfach zu bedienen – einfacher als Tensor Flow Lite – und überzeugt mit der Funktionalität. Nachteil: Es werden nur Prozessoren der STM32-Reihe unterstützt.

Zurück