Im Security-Ausblick räumt das WatchGuard Threat Lab unter anderem bösartigen Prompt-Engineering-Tricks, die auf Large Language Models (LLM) abzielen, für 2024 grosse Chancen beim Unruhestiften ein. Das gleiche gilt für "Vishers", die ihre bösartigen Operationen mit KI-basierten Sprach-Chatbots ausweiten würden, und Hacker, die es auf moderne VR/MR-Headsets abgesehen hätten. Aber auch auf der Gegenseite werde sich dank zunehmender Automatisierung ganz sicher einiges verändern. Es zeichne sich deutlich ab, dass im Zuge der zunehmenden Komplexität bei der Absicherung von Unternehmen und dem voranschreitenden Fachkräftemangel professionelle Managed Security Services auf Basis integrierter Sicherheitsplattformen immer stärker an Schlagkraft gewännen.
"Jeder neue Technologietrend eröffnet neue Angriffsmöglichkeiten für Cyberkriminelle", unterstreicht Corey Nachreiner, Chief Security Officer bei Watchguard Technologies. "Im Jahr 2024 werden die neuen Bedrohungen, die auf Unternehmen und Privatpersonen abzielen, noch schwieriger zu bewältigen sein und insbesondere an den Kräften von kleinen und mittelständischen Unternehmen zehren. Angesichts des anhaltenden Fachkräftemangels im Bereich der Cybersicherheit ist der Bedarf an Managed Service Providern (MSP), aufeinander abgestimmten Sicherheitslösungen und automatisierten Plattformen zur Stärkung der Cybersicherheit und zum Schutz von Unternehmen vor der sich ständig weiterentwickelnden Bedrohungslandschaft so gross wie nie zuvor." Nachfolgend die wichtigsten Vorhersagen des WatchGuard Threat Lab.
Prompt Engineering überlistet Large Language Models (LLM):
Das Experimentieren mit KI-Sprachmodellen ist inzwischen sowohl im Privat- als auch Unternehmensumfeld gang und gäbe, schliesslich versprechen diese im Alltag entscheidende Unterstützung. Aber auch Cyberbösewichte wissen diesen Trend zu ihrem eigenen Vorteil auszuspielen. Insofern hält das Watchguard Threat Lab ein Szenario, in dem ein cleverer Prompt-Engineer – sei es ein krimineller Angreifer oder ein Forscher – den Code knacken und ein LLM so manipulieren wird, dass vertrauliche Daten durchsickern, in den kommenden Monaten für durchaus realistisch.
Zahl der von MSP automatisiert bereitgestellten Security-Services wird sich verdoppeln:
Angesichts der unzähligen freien Stellen im IT-Security-Umfeld und des verbitterten Kampfs um Fachkräfte werden 2024 bei der IT-Absicherung immer mehr kleine und mittelständische Unternehmen Unterstützung bei professionellen Dienstleistern (Managed Service Provider oder Managed Security Service Provider) suchen. Um der steigenden Nachfrage und den knappen Personalressourcen gerecht zu werden, werden diese wiederum verstärkt auf einheitliche Sicherheitsplattformen setzen, die auf umfangreicher Automatisierung mithilfe künstlicher Intelligenz (KI) und maschinellem Lernen (ML) basieren.
Verkauf von KI-Spear-Phishing-Tools im Dark Web erlebt Boom:
Bereits heute können Cyberkriminelle im Untergrund Werkzeuge erhalten, die Spam-E-Mails versenden, automatisiert überzeugende Texte verfassen und das Internet und die sozialen Medien nach Informationen und Verbindungen eines bestimmten Ziels durchsuchen. Viele davon sind heute noch auf manuelle Anwendung ausgelegt und setzen voraus, dass ein Angreifer zu einem Zeitpunkt jeweils einen Nutzer oder eine spezifische Gruppe ins Visier nimmt. Doch genau diese bisher händischen Schritte werden künftig dank künstlicher Intelligenz und maschinellem Lernen ebenfalls immer stärker automatisiert erfolgen. Umso wahrscheinlicher ist es, dass sich diese neuen KI-gestützten Tools im Jahr 2024 zu Bestsellern im Dark Web entwickeln.
Startschuss für KI-gestützten Telefonbetrug (Vishing):
Voice over Internet Protocol (VoIP) und Automatisierungstechnologie machen es zwar einfach, Tausende von Nummern in Massen anzuwählen, aber sobald ein potenzielles Opfer mit einem Anruf geködert wurde, ist immer noch ein menschlicher Betrüger nötig, um es endgültig in die Falle zu treiben. Dieser bisherige Vishing-Flaschenhals könnte 2024 der Vergangenheit angehören. Watchguard prognostiziert, dass die Kombination aus überzeugendem Deepfake-Audio und LLM, die in der Lage sind, weiterführende Gespräche mit ahnungslosen Opfern zu führen, Vishing-Anrufe massiv befeuert. Darüber hinaus ist möglicherweise nicht einmal mehr die Beteiligung eines menschlichen Bedrohungsakteurs erforderlich.
VR/MR-Headsets ermöglichen die Nachbildung von Benutzerumgebungen:
Headsets für Virtual und Mixed Reality (VR/MR) erfreuen sich zunehmender Beliebtheit. Doch wo immer neue und nützliche Technologien auftauchen, sind auch kriminelle Hacker meist nicht weit. Die Experten vom Watchguard Threat Lab erwarten, dass im Jahr 2024 entweder ein Forscher oder ein böswilliger Hacker eine Technik finden wird, um einschlägige Sensordaten von VR/MR-Headsets zu sammeln, auf deren Basis sich die tatsächliche Umgebung, in der die Benutzer spielen, nachempfinden lässt. Dem Missbrauch dieser Informationen stehen damit Tür und Tor offen.
Ausufernder Einsatz von QR-Codes führt zu schlagzeilenträchtigem Angriff:
Obwohl es QR-Codes – die eine bequeme Möglichkeit bieten, per Mobilgerät auf einen Link zuzugreifen – schon seit Jahrzehnten gibt, sind diese gerade in letzten Jahren im Mainstream angekommen und finden sich heute beinahe überall wieder. Für die Analysten vom Threat Lab stehen die Chancen extrem hoch, dass es im Jahr 2024 zu einem grossen Hack kommen wird, weil jemand einem QR-Code folgt, der zu einem bösartigen Ziel führt.
