Sicherung industrieller KI gegen den Diebstahl von Daten und geistigem Eigentum
Künstliche Intelligenz (KI) ist ein wesentlicher Treiber für die Sicherung der Wettbewerbsfähigkeit des deutschen Maschinen- und Anlagenbaus. Die Branche hat das Potenzial von KI-Technologien zur Innovationsförderung längst erkannt und möchte es nutzen. Herausforderungen liegen jedoch im Schutz des in KI-Modellen enthaltenen geistigen Eigentums bei Verwendung der Modelle durch andere. Insbesondere der Schutz vor Diebstahl von sensiblen Informationen durch Wettbewerber oder andere Staaten ist von zentraler Bedeutung für die Unternehmen.
Ziel des Projektes „KI-FOGGER“ ist es, innovative Sicherheitstechniken zu entwickeln, um KI-Modelle effektiv vor unbefugtem Zugriff und Datenextraktion zu schützen. Dabei setzt das Projektteam auf Techniken, die ursprünglich für Angriffe auf KI-Modelle entwickelt wurden. Dazu gehören zum Beispiel das Einfügen absichtlich fehlerhafter oder schädlicher Daten in den Trainingsdatensatz (engl. Data Poisoning) oder die Einführung eines versteckten Zugangs (engl. Backdooring), um das Modell zu manipulieren oder zu steuern. Die anvisierten Methoden sollen durch gezieltes Verrauschen dafür sorgen, dass die Modelle ohne gültige Autorisierung nur verzerrte und unbrauchbare Ergebnisse liefern. Dadurch soll es für Angreifer unmöglich werden, das inhärente Know-how der KI-Modelle zu entschlüsseln, da die Modelle nur mit einem speziellen Autorisierungsschlüssel präzise Ergebnisse ausgeben. Dabei berücksichtigen die Forschenden die Notwendigkeit differenzierter Zugriffrechte auf Grundlage einer mehrstufigen Autorisierung. Schließlich erproben sie die entwickelten Techniken in industriellen Szenarien, um ihre Effektivität und Anwendbarkeit in realen Umgebungen zu validieren.
Das Projekt erschließt einen neuen Bereich der KI-Sicherheit. Durch das Verrauschen der Modellausgaben führt es einen neuartigen Ansatz ein, um Diebstahl von geistigem Eigentum zu verhindern. Des Weiteren ermöglicht die Lösung anhand der intrinsischen Modellverschlüsselung, dass selbst bei Modellverlust der Schutz der sensiblen Informationen gewährleistet wird. Somit leistet das Projekt einen wichtigen Beitrag zum übergeordneten Ziel des technologischen Vorsprungs und der Souveränität der deutschen Wirtschaft. Der Schutz von KI-Systemen ist unerlässlich, um deren Potenzial verantwortungsvoll zu nutzen und gleichzeitig Risiken für Unternehmen und Einzelpersonen zu minimieren. (Quelle: Adobe Stock/Shomixer, generiert mit KI)