Schutzschild für die sichere Nutzung Künstlicher Intelligenz
Die zunehmende Integration von Künstlicher Intelligenz (KI) in verschiedene Arbeitsprozesse von Unternehmen bringt neue Sicherheitsrisiken mit sich. KI-Modelle sind anfällig für Manipulationen und Angriffe, die deren Datenintegrität und Systemzuverlässigkeit gefährden. Bisherige Schutzlösungen sind oft sehr aufwendig und erfordern viele Ressourcen in Form von Kosten, Zeit und Rechenkapazitäten. Hier setzt KI-Guardian an.
Im Projekt „KI-Guardian“ erforscht das Team, wie eine modulare Sicherheitslösung umgesetzt werden kann, die KI-Systeme in Echtzeit schützt, ohne Zugriff auf Modell- oder Trainingsdaten zu benötigen. Konkret soll eine Lösung erforscht und entwickelt werden, die sich als zusätzliche Sicherheitsschicht (Security Layer) in bestehende Systeme integriert. Sicherheitsmechanismen basierend auf so genannten Latent-Space-Technologien sollen dann tiefgehende Analysen der Datenstrukturen der KI-Systeme durchführen. Dabei können sie verdächtige Muster frühzeitig erkennen, die auf Angriffe hinweisen. Die Schutzmechanismen sollen zudem kontinuierlich mit aktuellsten Forschungsergebnissen aktualisiert werden, um neuen Sicherheitsbedrohungen effektiv begegnen zu können. Durch den Security-Layer-Ansatz können bisher notwendige energieintensive Re-Trainings der Modelle vermieden werden. Dieses Vorgehen ermöglicht außerdem Sicherheitsanpassungen in Echtzeit.
Bei einer erfolgreichen Umsetzung wird die modulare Sicherheitslösung in der Lage sein, die Widerstandsfähigkeit von KI-Systemen gegen Angriffe deutlich zu erhöhen und dabei gleichzeitig eine präzisere Sicherheitsüberwachung in Echtzeit zu gewährleisten. Im Gegensatz zu bestehenden Lösungen können so Kosten und Ressourcen gespart werden. Damit wird ein wichtiger Beitrag zum sicheren und vertrauenswürdigen Einsatz von KI in Unternehmen geleistet, der den Standort Deutschland als Ganzes nachhaltig stärkt.