KIWI

Künstliche Intelligenz in sicheren Web-Infrastrukturen mit digitalem Identitätsmanagement

kiwi.png
Föderiert trainierte KI-Modelle werden zur Erkennung von Sicherheitsproblemen in Web-Infrastrukturen eingesetzt.© Adobe Stock/sdecoret

Motivation

Moderne Web-Dienstleistungen sind Grundlage und Treiber der fortschreitenden Digitalisierung unserer Gesellschaft. Sie dienen auch als vertrauenswürdige Quelle und Verwalter digitaler Identitäten für Millionen Nutzerinnen und Nutzer. Der Missbrauch dieser Identitäten muss sicher ausgeschlossen werden, um Schäden gegenüber privaten Nutzern und wirtschaftlichen Akteuren abzuwenden. Es gibt bereits auf Künstlicher Intelligenz (KI) basierende Erkennungsverfahren für Angriffe gegen IT-Systeme. Heute eingesetzte KI-gestützte Angriffsdetektoren fokussieren in der Regel auf klar abgegrenzte Merkmale. Angriffe gegen Web-Dienste zielen jedoch oft nicht auf eine isolierte technische Ebene. Vielmehr entwickeln sie sich über die Zeit hinweg und hinterlassen währenddessen Spuren an diversen Stellen im System, die gesamtheitlich auszuwerten sind.

Ziele und Vorgehen

Die Projektpartner im Vorhaben KIWI leisten Beiträge zur Entwicklung und praktischen Erprobung eines KI-gestützten Sicherheitsmanagements in komplexen Web-Infrastrukturen. Im Projekt wird untersucht, wie Daten verteilter Detektoren zusammengeführt werden können, um aus dem Gesamtbild auf das Vorliegen von Angriffen zu schließen. Es wird ebenfalls erforscht, wie KI-Modelle ausgehend von in verschiedenen Systemen gesammelten Daten trainiert werden können. Durch die Verteilung der Trainingsprozesse könnte die Leistungsfähigkeit des Gesamtsystems erhöht werden. Dabei sollten stets nur so viele Informationen zwischen Systemen verschiedener Betreiber oder Organisationseinheiten ausgetauscht werden, wie unbedingt nötig bzw. gesetzlich erlaubt ist. Die Einsetzbarkeit von KI hängt maßgeblich von der Qualität der verwendeten Trainingsdaten ab. KI-Modelle dürfen keinesfalls auf ungeeigneten oder gar von Angreifern absichtlich manipulierten oder gefälschten Daten trainiert werden. Beim Auftreten eines solchen Falles müssen betroffene Modelle sicher erkannt, zurückgesetzt, neu trainiert und schließlich im System verteilt werden. Die Projektpartner in KIWI werden dementsprechend auch ein Rahmenwerk für „Data Governance“ entwickeln und erproben.

Innovationen und Perspektiven

Die Projektpartner setzen auf den offenen, europäischen Login-Standard netID der für Deutschland aufgrund der direkten Konkurrenzsituation zu ähnlichen Angeboten von US-Konzernen von hoher Relevanz ist. Dieser Standard ermöglicht Nutzerinnen und Nutzern durch Transparenz Datensouveränität. Projekterkenntnisse, etwa aus dem beispielhaften Anwendungsfall E-Mail-Dienste, können in die Weiterentwicklung von Web-Identitätsmanagement auf Basis von netID eingehen und damit die Position europäischer Unternehmen im internationalen Wettbewerb stärken. Außerdem wird durch die im Projekt verfolgte Herangehensweise eine Übertragbarkeit der Ergebnisse auf andere Anwendungsfälle gewährleistet.