Absicherung von KI-Systemen zur schnellen Erkennung medizinischer Notfälle
Medizinische Geräte und Anwendungen, die Methoden der Künstlichen Intelligenz (KI) einsetzen, haben das Potential, die Lebensqualität von Patientinnen und Patienten zu verbessern. Mit der Integration von KI in die Patientenversorgung steigt jedoch das Risiko von Cyberangriffen, die nicht nur die Patientensicherheit gefährden, sondern auch die Arbeit von Rettungskräften und die Funktionstüchtigkeit von Medizingeräten beeinträchtigen können.
Das Vorhaben „SecureNeuroAI“ strebt die Entwicklung sicherer, KI-gestützter Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle an. Die Erkennung basiert auf einer umfassenden Analyse und Erfassung multimodaler Sensordaten. Hierfür werden beispielsweise tragbare elektronische Geräte („Wearables“), die Vitalparameter wie Herz- und Atemfrequenz erfassen, sowie klinische Daten von Patienten genutzt. Die gewonnenen Daten werden durch cybersichere KI-Modelle analysiert, welche Anfälle erkennen und zuverlässig von potenziellen Datenmanipulationen unterscheiden sollen. Parallel dazu definiert das Projektteam technische, organisatorische und rechtliche Maßnahmen, um die Einbindung dieser KI-Methoden in klinische und häusliche Anwendungsfälle zu unterstützen.
Die Projektergebnisse leisten einen wichtigen Beitrag zur Stärkung der Cybersicherheit von kritischen medizinischen Geräten, die KI-Methoden zur Erkennung von lebensbedrohlichen Zuständen in Echtzeit verwenden. Die angestrebten, neuen technischen Lösungen ermöglichen es, sowohl KI-Modelle als auch deren zugrunde liegende Daten vor Manipulationen zu schützen. Die Projektergebnisse sollen weit über die Epilepsieanfallserkennung hinaus Anwendung finden. Damit schafft das Vorhaben eine technologische Basis für die Steigerung der Integrität, Verfügbarkeit und Verlässlichkeit von KI-basierten Medizingeräten.