Künstliche Intelligenz für IT-Sicherheit

Deutschland besitzt sowohl bei der Forschung zu KI als auch zu IT-Sicherheit große Kompetenzen. Es gilt die Zusammenarbeit dieser beiden Bereiche enger zu verzahnen um Innovationen zu befördern und Synergien zu nutzen. Das BMBF beabsichtigt daher die anwendungsorientierte Erforschung und Entwicklung von IT-Sicherheitstechnologien und -verfahren auf Basis Künstlicher Intelligenz zu fördern.

 

© iStock/AlexLMX

Förderziel und Zuwendungszweck

Mit der fortschreitenden Digitalisierung bieten die immer komplexeren IT-Systeme eine Vielzahl von Angriffsflächen. Die Zahl der auf die Systeme durchgeführten Attacken ist riesig und die Angriffsmethoden verändern sich fortwährend. Erkennung und Abwehr dieser Angriffe stellen die Betreiber der Systeme vor immer größere Herausforderungen: Abwehrstrategien für komplexe Systemlandschafen sind oft sehr speziell und müssen auf sich schnell verändernde Angriffe angepasst werden. Außerdem besteht die Notwendigkeit, Angriffe in Echtzeit zu erkennen, um rechtzeitig auf sie zu reagieren. Der Einsatz maschineller Lernverfahren und Künstlicher Intelligenz (KI) kann dazu dienen, dass vernetzte IT-Systeme sich in Zukunft eigenständig auf neue Bedrohungen einstellen. Der Einsatz von Verfahren, die auf KI basieren, ist jedoch sehr anspruchsvoll. So ist mit der Inbetriebnahme solcher Systeme oftmals ein hoher zeitlicher Aufwand verbunden. Auch ist stets zu klären, ob und inwieweit der Mensch in den Erkennungs- und Abwehrprozess eingreifen kann bzw. soll.

Die fortschreitende Entwicklung im Bereich der KI birgt ein großes Potenzial zur Verbesserung der IT-Sicherheit. Deutschland besitzt sowohl bei der Forschung zu KI als auch zu IT-Sicherheit große Kompetenzen. Es gilt nun, die Zusammenarbeit dieser beiden Bereiche enger zu verzahnen um Innovationen zu befördern und gegenseitige Synergien zu nutzen.

Das Bundesministerium für Bildung und Forschung (BMBF) beabsichtigt daher die anwendungsorientierte Erforschung und Entwicklung (FuE) von IT-Sicherheitstechnologien und -verfahren auf Basis KI zu fördern. Ziel ist es, die Forschung im Bereich der KI und der IT-Sicherheit stärker miteinander zu verbinden, um Deutschland als Standort innovativer IT-Sicherheitslösungen zu stärken. Zudem wird mit der Förderung beabsichtigt, die Zusammenarbeit von Unternehmen und Forschungseinrichtungen im universitären und außeruniversitären Bereich zu intensivieren und besonders die Partizipation kleiner und mittlerer Unternehmen (KMU) an wissenschaftlichen Ergebnissen zu unterstützen. Endanwendern, wie Sicherheitsbehörden oder Unternehmen der betrieblichen Wirtschaft, kommt eine wichtige Rolle beim Transfer und der anwendungsorientierten Ausgestaltung der Forschungsergebnisse und ihrer zukünftigen Nutzung zu. Auf diese Weise soll die Förderung auch einen wichtigen Beitrag zur technologischen Souveränität Deutschlands im Bereich der IT-Sicherheit leisten.

Die Fördermaßnahme ist Teil der Umsetzung des Forschungsrahmenprogramms der Bundesregierung zur IT-Sicherheit „Selbstbestimmt und sicher in der digitalen Welt“ und der Hightech-Strategie 2025. Im dortigen Handlungsfeld II ist sowohl eine Stärkung der IT-Sicherheitsforschung als auch die Mission, KI in die Anwendung zu bringen, festgeschrieben.

Die Ergebnisse des geförderten Vorhabens sollen vorrangig in der Bundesrepublik Deutschland oder dem EWR und der Schweiz genutzt werden.

Gegenstand der Förderung

Gegenstand der Förderung ist die Erforschung und Entwicklung neuer IT-Sicherheitslösungen basierend auf Verfahren der KI. Die Lösungen und Verfahren sollen so gestaltet werden, dass sie möglichst intuitiv benutzbar sind und in verschiedenen Anwendungskontexten Einsatz finden können.

2.1 KI-gestützte IT-Sicherheitslösungen bei begrenzten Ressourcen

Betriebe müssen ihre Informations-, Kommunikations- und Produktionssysteme bestmöglich vor Cyberangriffen sichern, um der Gefahr möglicher wirtschaftlicher Schäden und Reputationsverluste entgegenzutreten sowie um sicherheitsrelevante Zertifizierungsanforderungen zu erfüllen und gesetzliche Vorschriften einzuhalten. Dies stellt besonders KMU aufgrund ihrer begrenzten Ressourcen für IT-Sicherheit häufig vor große Herausforderungen.

Ein wichtiger Bestandteil der Absicherung der IT-Infrastruktur ist die Analyse des Netzwerkverkehrs durch Systeme zur Angriffserkennung und -abwehr, sogenannter Intrusion-Detection- bzw. Intrusion-Prevention-Systeme. Jedoch fehlt es häufig an IT-Sicherheitsexpertise, die für die Konfiguration und den Einsatz solch komplexer Systeme notwendig ist. Der Erfolg lernbasierter Systeme hängt zudem in erheblichem Maße von der Menge und Qualität der zur Verfügung stehenden Trainingsdaten ab. Bei einzelnen Anwendern stehen diese häufig nicht in ausreichendem Umfang zur Verfügung und können zudem auch nicht von anderen Unternehmen bezogen werden. Gefördert werden deshalb Vorhaben zu folgenden Forschungsaspekten:

  • IT-Sicherheitslösungen mit einfach zu handhabenden KI-Komponenten, damit auch bei geringer Kenntnis der Verfahren seitens des Anwenders gute Erfolge beim Einsatz der Lösungen erzielt werden.
  • Selbstlernende Sicherheitssysteme, die auf Basis kleinerer Datenmengen, wie sie in der Praxis von KMU vorhanden sind, gute Angriffserkennungsraten liefern.
  • Lösungen, die unter Gewährleistung des Datenschutzes und ohne Preisgabe sicherheitsrelevanter Informationen eine unternehmensübergreifende Nutzung von Lern- und Trainingsdaten ermöglichen.

2.2 KI-gestützte IT-Sicherheitslösungen für Netzwerksicherheit

Viele Angriffe sind an den Kommunikationsknotenpunkten im Internet erkennbar, über die sowohl Steuerungs- und Kontrollbefehle des Angreifenden als auch Daten des Angegriffenen übertragen werden. Für eine aussagekräftige Analyse reicht jedoch oft die Betrachtung eines einzelnen Knotens nicht aus. Stattdessen ist eine koordinierte Untersuchung vieler verteilter Knoten erforderlich. Zugleich steigert die rasante Vernetzung durch das Internet der Dinge die Diversität der miteinander kommunizierenden Geräte. Beispiele sind industrielle Anlagen, vernetzte autonom fahrende Fahrzeuge oder intelligente persönliche Assistenten, die alle sehr unterschiedliche Kommunikationsprotokolle verwenden. Benötigt werden deshalb Verfahren der KI, die diese heterogenen Quellen auswerten können, um sich anbahnende Bedrohungen rechtzeitig zu erkennen. Gegenstand der Förderung ist deshalb die FuE neuer innovativer IT-Sicherheitslösungen,

  • die in der Lage sind, aus heterogenen, verteilt vorliegenden Datenmengen, Aussagen zur Bedrohungslage abzuleiten,
  • die unter Berücksichtigung menschlicher Eingriffsmöglichkeiten (teil-)automatisierte Entscheidungen bezüglich notwendiger Verteidigungsmaßnahmen treffen,
  • die bevorstehenden Angriffe möglichst genau vorhersagen können.

2.3 Weiterentwicklung KI-gestützter IT-Sicherheitslösungen

Neben der Auswertung von Kommunikationsdaten gibt es weitere Möglichkeiten, Cyberangriffe zu erkennen und zu verhindern. Eine besteht in der Bewertung der Sicherheitsqualität von Soft- und Hardware mittels selbstlernender Systeme, beispielsweise durch intelligentes automatisiertes Testen. Verfahren des maschinellen Lernens sind jedoch im Allgemeinen nicht transparent hinsichtlich der tatsächlich gelernten Merkmale. Aufgrund dessen ist die Zuverlässigkeit und Qualität der beim Training erlernten Sicherheitsmodelle nur schwer einzuschätzen. Auch die Sicherstellung der Verfügbarkeit der teilweise sensiblen Daten zum Trainieren der Modelle ist mit großen Herausforderungen verbunden. Durch einen koordinierten Ansatz bei der Nutzung IT-sicherheitsrelevanter Trainingsdaten können dabei Synergieeffekte entstehen und genutzt werden. Auch wird an einigen Stellen bereits versucht, synthetische Daten zum Training der Systeme zu verwenden. Ziel der Förderung im Rahmen dieser Richtlinie ist unter anderem:

  • Die Entwicklung transparenter Sicherheitstechnologien unter Verwendung neuer KI-Verfahren. Diese sind anhand eines Demonstrators zu zeigen und zu evaluieren.
  • Eine verbesserte Erkennung von Angriffen auf lernsystembasierte IT-Sicherheitslösungen. Diese soll an praxisnahen Beispielen gezeigt und evaluiert werden.
  • Neue Ansätze zur Erzeugung synthetischer Trainingsdaten zur Verbesserung der Entscheidungsqualität selbstlernender IT-Sicherheitssysteme. Diese sind in der Anwendung zu demonstrieren und zu evaluieren.

Datenschutz, das Recht auf informationelle Selbstbestimmung, der Schutz der Privatsphäre und weitere rechtliche Bestimmungen sind – soweit relevant – zu berücksichtigen, insbesondere in Hinblick auf die Verwertbarkeit der Lösungen. Querschnittsthemen, wie Normung, Standardisierung und vorbereitende Arbeiten zur Zertifizierung, sollten, soweit erforderlich, in den Vorhaben berücksichtigt werden.

Im Rahmen der Förderbekanntmachung werden vorzugsweise interdisziplinäre Verbünde, in begründeten Ausnahmefällen auch Einzelvorhaben gefördert. Verbünde sollen vorhandene Expertise im Bereich der KI und der IT-Sicherheit miteinander verbinden. Der Praxisbezug der Projekte und die Verwertbarkeit der Ergebnisse sind durch eine angemessene Beteiligung von Anwendern, wie beispielsweise Unternehmen, Sicherheitsbehörden oder Betreiber Kritischer Infrastrukturen, in der Verbundstruktur sicherzustellen. Die skizzierten Lösungen müssen deutlich über den aktuellen Stand der Wissenschaft und Technik hinausgehen. Die Machbarkeit der Lösungen ist vorzugsweise in einem Demonstrator nachzuweisen.

Weitere Informationen

Komplette Bekanntmachung