Sichere KI-Systeme für die Produktion
Unternehmen werden zunehmend mit Systemen der Künstlichen Intelligenz (KI) arbeiten, um Produktionskosten zu sparen sowie den Umsatz und die Qualität ihrer Produkte zu steigern. Der Einsatz von KI-Systemen bietet neben Vorteilen aber auch Angreifern ein Ziel. Hier gilt es vor allem, die sensiblen Daten der Unternehmen vor Diebstahl und Manipulationen zu schützen. Forschungen zum Schutz von KI-Systemen befinden sich noch am Anfang. Aktuelle Sicherheitslösungen erfordern oft die manuelle Begleitung durch einen Menschen oder können zum Leistungsverlust der KI-Systeme selbst führen.
Im Projekt „SecureAI2“ werden automatische, integrierte Sicherheitsmechanismen für KI-Systeme entwickelt. Bisher wurden durch das Forschungsteam Verschlüsselungstechniken und Abwehrmaßnahmen gegen zahlreiche Arten von Angriffen auf KI-Systeme umgesetzt. Der Fokus des Vorhabens ist es, den Automatisierungsgrad dieser Sicherheitsmechanismen zu erhöhen ohne die Leistungsfähigkeit der KI-Systeme zu beeinflussen. Ziel ist es, den Anforderungen realer Anwendungen im industriellen Umfeld gerecht zu werden. Die vorliegenden Ergebnisse zur Absicherung von Bild- und Videodaten werden auf Text- und Sprache übertragen. Zudem soll der Anteil an Fehlalarmen („false positives“) verringert werden, um die Zahl manueller Eingriffe zu minimieren und die KI-Systeme robuster zu gestalten. Der im Vorgängerprojekt SecureAI entwickelte Marktplatz für sichere KI-Modelle wird hinsichtlich Sicherheit und Effizienz optimiert. Dazu werden weitere Anwender in die Weiterentwicklung der Plattform einbezogen.
Die angestrebte KI-Technologie ermöglicht es produzierenden Unternehmen, passgenaue und zuverlässige KI-Systeme zu betreiben, mit denen sie ihre Kosten minimieren, die Qualität ihrer Produkte steigern und gleichzeitig das Risiko von Ausfällen oder Datenverlusten durch Angriffe verringern können. Die Projektergebnisse lassen sich auf andere Anwendungsfelder, wie beispielsweise das Gesundheitswesen oder das autonome Fahren, anpassen. Auf diese Weise trägt das Vorhaben zu einer sicheren und zuverlässigen Nutzung von KI-Systemen bei, die in vielen Bereichen der Wirtschaft, Gesellschaft und Wissenschaft zum Einsatz kommen.