23. Dezember
In Türchen 23 geht es um das aktuelle Thema Datensicherheit für Systeme des maschinellen Lernens, denn diese werden vermehrt in Prozessen unserer Gesellschaft und Wirtschaft eingesetzt. So übernehmen maschinelle Lernalgorithmen beispielsweise wichtige Funktionen in selbstfahrenden Fahrzeugen oder im digitalen Gesundheitswesen. In diesen Anwendungsbereichen müssen KI-Systeme nicht nur verlässliche Vorhersagen treffen, sondern auch Angriffen und Manipulationen standhalten, um die Privatsphäre der teilweise sensiblen Daten zu gewährleisten und das Vertrauen in die Technologie zu erhalten.
In der aktuellen KI-Entwicklung ist die Methode des zentralisierten maschinellen Lernens sehr verbreitet, bei der ein statistisches Modell zentral auf einem Server trainiert wird. Ein Nachteil dieser Methode aus Sicht der Cybersicherheit ist, dass die Konzentration auf einen zentralen Server eine zentrale Datensammlung und einen einzelnen Angriffspunkt (Single Point of Attack) schafft. Es gibt jedoch Möglichkeiten, Datennutzung und Datenschutz zu verbinden. Ein Ansatz ist das verteilte maschinelle Lernen. „Verteiltes maschinelles Lernen eröffnet neue Möglichkeiten zur effektiven und skalierbaren Nutzung von Daten, ohne dass diese geteilt werden müssen. Dadurch werden viele nützliche Anwendungen mit sensiblen Daten überhaupt erst möglich“, sagt CROSSING-PI Professor Ahmad-Reza Sadeghi, Leiter des System Security Lab.
Beim verteilten maschinellen Lernen greift jedes Endgerät auf das aktuelle Trainingsmodell zu und trainiert es lokal mit dem eigenen Datensatz. Die neue Publikation „KI KOMPAKT. Verteiltes maschinelles Lernen“ (opens in new tab) von Lernende Systeme, der deutschen Plattform für Künstliche Intelligenz, erklärt, wie verschiedene Methoden des verteilten maschinellen Lernens funktionieren sowie deren Vor- und Nachteile mit Bezug auf den Datenschutz. Sadeghi, Mitglied der Arbeitsgruppe für IT-Sicherheit und Datenschutz, war einer der Experten für diese Publikation. Lesen Sie auch das ergänzende Interview „KI und Sicherheit: Braucht Künstliche Intelligenz neues Sicherheitsdenken?“ mit Professor Sadeghi von Online-Journalist Matthias Bastian bei THE DECODER.
