So räumt das Watchguard Threat Lab unter anderem bösartigen Prompt-Engineering-Tricks, die auf Large Language Models (LLM) abzielen, 2024 große Chancen beim Unruhestiften ein. Das gleiche gilt für »Vishers« (siehe auch vierten Abschnitt weiter unten), die ihre bösartigen Operationen mit KI-basierten Sprach-Chatbots ausweiten, und Hacker, die es auf moderne VR/MR-Headsets abgesehen haben. Aber auch auf der Gegenseite wird sich dank zunehmender Automatisierung ganz sicher einiges verändern. Es zeichnet sich deutlich ab, dass im Zuge der zunehmenden Komplexität bei der Absicherung von Unternehmen und dem voranschreitenden Fachkräftemangel professionelle Managed Security Services auf Basis integrierter Sicherheitsplattformen immer stärker an Schlagkraft gewinnen.
(Bild: Watchguard Technologies)
»Jeder neue Technologietrend eröffnet neue Angriffsmöglichkeiten für Cyberkriminelle«, unterstreicht Corey Nachreiner, Chief Security Officer bei Watchguard Technologies. »Im Jahr 2024 werden die neuen Bedrohungen, die auf Unternehmen und Privatpersonen abzielen, noch schwieriger zu bewältigen sein und insbesondere an den Kräften von kleinen und mittelständischen Unternehmen zehren. Angesichts des anhaltenden Fachkräftemangels im Bereich der Cybersicherheit ist der Bedarf an Managed Service Providern (MSP), aufeinander abgestimmten Sicherheitslösungen und automatisierten Plattformen zur Stärkung der Cybersicherheit und zum Schutz von Unternehmen vor der sich ständig weiterentwickelnden Bedrohungslandschaft so groß wie nie zuvor.«
Nachfolgend lesen Sie die wichtigsten Vorhersagen des Watchguard Threat Lab im Überblick.
Prompt Engineering überlistet LLM
Das Experimentieren mit KI-Sprachmodellen ist inzwischen sowohl im Privat- als auch Unternehmensumfeld gang und gäbe, schließlich versprechen diese im Alltag entscheidende Unterstützung. Aber auch Cyberbösewichte wissen diesen Trend zu ihrem eigenen Vorteil auszuspielen. Insofern hält das Watchguard Threat Lab ein Szenario, in dem ein cleverer Prompt-Engineer – sei es ein krimineller Angreifer oder ein Forscher – den Code knacken und ein Large Language Model (LLM) so manipulieren wird, dass vertrauliche Daten durchsickern, in den kommenden Monaten für durchaus realistisch.
Security-Services von Plattformen bereitgestellt
Die Zahl der von MSP über automatisierte Plattformen bereitgestellten Security-Services wird sich verdoppeln: Angesichts von rund 3,4 Millionen freien Stellen im IT-Security-Umfeld und des erbitterten Kampfs um Fachkräfte werden 2024 bei der IT-Absicherung immer mehr kleine und mittelständische Unternehmen Unterstützung bei professionellen Dienstleistern (Managed Service Provider oder Managed Security Service Provider) suchen. Um der steigenden Nachfrage und den knappen Personalressourcen gerecht zu werden, werden diese wiederum verstärkt auf einheitliche Sicherheitsplattformen setzen, die auf umfangreicher Automatisierung mithilfe künstlicher Intelligenz (KI) und maschinellem Lernen (ML) basieren.
Verkauf von KI-Spear-Phishing-Tools im Dark Web
Bereits heute können Cyberkriminelle im Untergrund Werkzeuge erhalten, die Spam-E-Mails versenden, automatisiert überzeugende Texte verfassen und das Internet und die sozialen Medien nach Informationen und Verbindungen eines bestimmten Ziels durchsuchen. Viele davon sind heute noch auf manuelle Anwendung ausgelegt und setzen voraus, dass ein Angreifer zu einem Zeitpunkt jeweils einen Nutzer oder eine spezifische Gruppe ins Visier nimmt. Doch genau diese bisher händischen Schritte werden künftig dank künstlicher Intelligenz und maschinellem Lernen ebenfalls immer stärker automatisiert erfolgen. Umso wahrscheinlicher ist es, dass sich diese neuen KI-gestützten Tools im Jahr 2024 zu Bestsellern im Dark Web entwickeln.
KI-gestützter Telefonbetrug (»Vishing«)
Voice over Internet Protocol (VoIP) und Automatisierungstechnologie machen es zwar einfach, Tausende von Nummern in Massen anzuwählen, aber sobald ein potenzielles Opfer mit einem Anruf geködert wurde, ist immer noch ein menschlicher Betrüger nötig, um es endgültig in die Falle zu treiben. Dieser bisherige Vishing-Flaschenhals könnte 2024 der Vergangenheit angehören. Watchguard prognostiziert, dass die Kombination aus überzeugendem Deepfake-Audio und LLM, die in der Lage sind, weiterführende Gespräche mit ahnungslosen Opfern zu führen, Vishing-Anrufe massiv befeuert. Darüber hinaus ist möglicherweise nicht einmal mehr die Beteiligung eines menschlichen Bedrohungsakteurs erforderlich.
Nachbildung von Benutzerumgebungen
Headsets für Virtual und Mixed Reality (VR/MR) erfreuen sich zunehmender Beliebtheit. Doch wo immer neue und nützliche Technologien auftauchen, sind auch kriminelle Hacker meist nicht weit. Die Experten vom Watchguard Threat Lab erwarten, dass im Jahr 2024 entweder ein Forscher oder ein böswilliger Hacker eine Technik finden wird, um einschlägige Sensordaten von VR/MR-Headsets zu sammeln, auf deren Basis sich die tatsächliche Umgebung, in der die Benutzer spielen, nachempfinden lässt. Dem Missbrauch dieser Informationen stehen damit Tür und Tor offen.
Ausufernder Einsatz von QR-Codes
Obwohl es QR-Codes – die eine bequeme Möglichkeit bieten, per Mobilgerät auf einen Link zuzugreifen – schon seit Jahrzehnten gibt, sind diese gerade in den vergangenen Jahren im Mainstream angekommen und finden sich heute beinahe überall wieder. Für die Analysten vom Threat Lab stehen die Chancen sehr hoch, dass es im Jahr 2024 zu einem großen Hack kommen wird, weil jemand einem QR-Code folgt, der zu einem bösartigen Ziel führt.
Detailliertere Ausführungen zu den Vorhersagen des Watchguard Threat Lab für das kommende Jahr und die dazugehörigen Videos mit Corey Nachreiner, CSO von Watchguard, und Marc Laliberte, Director of Security Operations, finden Sie hier.
