Die Cybersicherheit wird mit einem Wettrüsten verglichen – mit der Weiterentwicklung von Überwachung und Malware-Erkennung ändern sich auch die Taktiken der Cyber-Gegner. Eine der besorgniserregendsten Entwicklungen der letzten Jahre ist das Auftauchen von „adversarial machine learning“ (AML), das die Entwicklung von Malware beschleunigt. Dieses Phänomen hat tiefgreifende Auswirkungen auf die Inhaber von IT-Budgets, da es eine Neubewertung der Cybersicherheitsstrategien und der Ressourcenzuweisung erforderlich macht, um der zunehmenden Entwicklung von Schadsoftware wirksam zu begegnen.
Was ist angriffsorientiertes maschinelles Lernen?
Unter versuchtem maschinellem Lernen versteht man die Manipulation von maschinellen Lernmodellen durch Angreifer, um die Erkennung zu umgehen oder eine Fehlklassifizierung zu verursachen. Dies wird erreicht, indem Schwachstellen in den zugrunde liegenden Algorithmen, Daten oder Trainingsprozessen ausgenutzt werden, um gegnerische Beispiele zu erzeugen. Negative Beispiele können als Eingaben verwendet werden, die sorgfältig ausgearbeitet sind, um ein Modell zu täuschen oder zu unterlaufen.
BEISPIEL:
Angreiferische Techniken des maschinellen Lernens können in verschiedene Methoden unterteilt werden. Dazu gehören gradientenbasierte Angriffe, bei denen die Angreifer die Eingabedaten stören, um den Vorhersagefehler des Modells zu maximieren, und Modellinversionsangriffe, bei denen die Angreifer versuchen, sensible Informationen über die Trainingsdaten abzuleiten. Ein frühes und viel beachtetes Beispiel waren die Forscher der Kyushu University, denen es 2017 gelang, viele Bildanalysealgorithmen zu „überlisten“. Veränderungen von einzelnen Pixeln in Bildern führten zu deren Fehlklassifizierung – eine Schildkröte wurde als Gewehr erkannt und ein Tarnkappenbomber wurde als Hund identifiziert.
Adversariales maschinelles Lernen und die Entwicklung bösartiger Software
Die Integration gegnerischer Techniken des maschinellen Lernens in den Bereich der Cybersicherheit hat Cyberkriminelle in die Lage versetzt, raffiniertere und ausweichendere Formen von Malware zu entwickeln. Durch den Einsatz von Beispielen aus der Praxis können Angreifer die Erkennung durch herkömmliche Sicherheitsmaßnahmen umgehen und Schwachstellen in der auf maschinellem Lernen basierenden Abwehr ausnutzen.
Darüber hinaus bieten Chatbots wie WormGPT, FraudGPT, DarkBert, oder DarkBART die Möglichkeit, die Sicherheitsmaßnahmen öffentlicher Modelle gegen ein geringes monatliches Entgelt (zwischen 60 € und 200 € pro Monat) zu unterlaufen.
BEISPIEL:
Mit Hilfe des maschinellen Lernens von Angreifern wurden heimliche Malware-Varianten entwickelt, die Antiviren-Software, Intrusion-Detection-Systeme und andere Sicherheitskontrollen umgehen können. Dazu nutzen sie Schwachstellen in maschinellen Lernmodellen aus, die zur Erkennung von Bedrohungen eingesetzt werden. Die tiefgehende statistische Analyse von Malware-Varianten war anfangs eine vielversprechende Methode zur Erkennung von schädlichen Malware-Eingaben, doch wird dieser Ansatz inzwischen nur noch als Teillösung betrachtet.
Auswirkungen für IT-Budgetverantwortliche
Die Ausbreitung des schädlichen maschinellen Lernens stellt IT-Budgetverantwortliche vor erhebliche Herausforderungen, da es neue Komplexitäten und Unsicherheiten in die Cybersicherheitslandschaft einführt. Der Umgang mit dieser Bedrohung erfordert strategische Investitionen in fortschrittliche Sicherheitstechnologien, Bedrohungsdaten und Mitarbeiterschulungen, um die Erkennungs- und Reaktionsfähigkeiten zu verbessern.
BEISPIEL:
Laut einer von Accenture durchgeführten Umfrage aus dem Jahr 2020 sind 83 % der Cybersicherheitsexperten der Meinung, dass gegnerisches maschinelles Lernen in den nächsten fünf Jahren einen erheblichen Einfluss auf die Cybersicherheitsstrategie ihres Unternehmens haben wird. Darüber hinaus prognostiziert Accenture einen Anstieg der Ausgaben für die Anwendungs- und Datensicherheit um mehr als 15 % bis 2025.
Bewältigung der Herausforderung
Um die Auswirkungen des schädlichen maschinellen Lernens auf die Entwicklung bösartiger Software wirksam abzuschwächen, müssen Unternehmen einen vielschichtigen Ansatz für die Cybersicherheit wählen. Dazu gehören Investitionen in robuste Funktionen zur Erkennung von und Reaktion auf Bedrohungen, die Nutzung von KI-gesteuerten Sicherheitslösungen und die Priorisierung von Mitarbeiterschulungen und Sensibilisierungsprogrammen.
BEISPIEL:
Im Jahr 2021 prognostizierte Gartner, dass bis zum Jahr 2025 30 % der Unternehmen gegnerische Techniken des maschinellen Lernens nutzen werden, um ihre Cybersicherheitsabwehr zu verbessern. Darüber hinaus sagt der Gartner-Bericht “Top Trends in Cybersecurity for 2024”voraus, dass im Jahr 2025 40 % der Cybersicherheitsprogramme sozio-behaviorale Prinzipien (wie Nudge-Techniken) einsetzen werden, um die Sicherheitskultur im gesamten Unternehmen zu beeinflussen. Dies ist ein dramatischer Anstieg gegenüber weniger als 5 % im Jahr 2021. Darüber hinaus wird prognostiziert, dass bis 2027 50 % der CISOs großer Unternehmen menschenorientierte Sicherheitsdesignpraktiken eingeführt haben werden.
Unser hauseigener Cybersecurity-Experte Bernhard Borsch gibt folgende Ratschläge:
„Auch kleine und mittlere Unternehmen können sich auf diese und andere neue Cyberbedrohungen vorbereiten. Durch den umsichtigen Einsatz von Standard- und vorhandenen Softwarelösungen, die Schulung der internen IT-Experten und die Einführung eines Informationssicherheits-Managementsystems (ISMS) können sie ihre Sicherheitslage erheblich verbessern. Eine wichtige Grundeinstellung ist die folgende: Schutz ist notwendig, aber eine vorbereitete Wiederherstellung sichert das Überleben“.
Schlussfolgerung
Das Aufkommen von maschinellem Lernen stellt eine große Herausforderung für Unternehmen dar, da es Cyber-Angreifern ermöglicht, immer ausgefeiltere und widerstandsfähigere Formen von Schadsoftware zu entwickeln. Die Inhaber von IT-Budgets müssen die Dringlichkeit erkennen, dieser Bedrohung zu begegnen, indem sie nicht nur Ressourcen strategisch zuweisen und in fortschrittliche Cybersicherheitslösungen investieren, sondern auch menschenzentriertere Ansätze für die Cybersicherheit anwenden. Indem sie das Bewusstsein schärfen, wachsam bleiben und auf Angriffe vorbereitet sind, können Unternehmen ihre Abwehr stärken und die Risiken mindern, die mit der beschleunigten Entwicklung von Cyber-Bedrohungen durch AML verbunden sind.
