Cybersecurity im Zeitalter von KI

Neue Gefahren durch KI

Der Einsatz von KI in der Cyberkriminalität bedroht die IT-Sicherheit von Unternehmen und Behörden mehr denn je. Speziell GenAI fordert Organisationen heraus: Cyberkriminelle nutzen die Technologie, um ihre Attacken zu personalisieren und zu automatisieren. Mit Hilfe von Sprachgenerierung durch GenAI können sie beispielsweise den „Enkeltrick“ authentischer wirken lassen. Künstliche Intelligenz ermöglicht es ihnen zudem, Beziehungen in sozialen Netzwerken schnell und einfach zu analysieren. Dadurch können sie ihre Angriffe noch individueller ausrichten.

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria

Mehr Netzwerksicherheit mit KI

Angesichts der neuen Möglichkeiten steigt bei Unternehmen und Behörden die Sorge, dass sich die Kräfteverhältnisse in Richtung der Angreifer verschieben. Die befragten Fach- und Führungskräfte sind der Auffassung, dass Cyberkriminelle KI deutlich besser zum Angriff nutzen als Unternehmen zur Abwehr. Doch es gibt auch positive Signale, denn das Bewusstsein für eine KI-basierte Cybersecurity wächst. Ein Drittel der befragten Organisationen plant, die eigene Cybersecurity-Strategie an das KI-Zeitalter anzupassen, während fast ebenso viele Unternehmen und Behörden den Einsatz von KI zur Verbesserung ihrer IT-Sicherheit vorbereiten. Schließlich gilt: „It takes a network to defeat a network.“ Wie Sie durch den Einsatz von GenAI auch Ihre Cybersecurity stärken können, erfahren Sie in unserem Studienreport.

der befragten Organisationen planen, in den kommenden
zwölf Monaten in die Verbesserung ihrer Cybersicherheit zu investieren.¹

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria

Was sehen Sie aktuell als die drei größten Schwachstellen in der Cybersecurity Ihrer Organisation an?

¹ Mehrfachauswahl mit maximal drei Antworten; Darstellung der drei häufigsten Antwortkategorien; Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria

Nachlässigkeit ist gefährlicher denn je

Unangemessene Reaktionen von Mitarbeitenden auf Phishing- und Social-Engineering-Angriffe sind laut den befragten Fach- und Führungskräften nach wie vor die größten Schwachstellen in ihrer Cybersicherheit. Dies ist bedenklich, denn KI macht es Cyberkriminellen leichter denn je, diese Sicherheitslücke auszunutzen. Ein Grund hierfür ist der Einsatz von AI-as-a-Service. Damit können zum Beispiel glaubwürdige Phishing-Mails massenhaft generiert werden. Das Ziel der Hacker ist es, über Mitarbeitende etwa an Passwörter oder Kontodaten zu gelangen. Dabei gehen sie immer effizienter vor, wie unsere repräsentative Erwerbstätigen-Befragung zeigt.

¹ Erwerbstätige; n = 1.003
Quelle: F.A.Z.-Institut; Sopra Steria

Hätten Sie es erkannt?

Dieses Video zeigt eine nicht reale Person, die mit einer geklonten Stimme spricht. Sowohl die Stimme als auch die Erscheinung echter Menschen können mit KI in kürzester Zeit geklont und für Angriffe genutzt werden. Wir haben etwa 15 Minuten und 15 Euro in die Erstellung dieses Videos investiert. Stellen Sie sich vor, was Sie sehen würden, wenn es ein Tag und mehr Geld gewesen wäre?!

(Das Video wurde mit Hilfe von KI-Tools zur Gesichts- und Sprachsimulation generiert) 

Organisationen müssen jetzt handeln

Auch die zunehmende Nutzung von KI-Tools durch die Schwachstelle Mensch ist eine Bedrohung. Laut einer Untersuchung von Microsoft nutzen weltweit 75 Prozent der Wissensarbeiter KI am Arbeitsplatz. 78 Prozent davon greifen auf ihre eigenen, privaten Anwendungen zu und übergehen so Leitlinien des Unternehmens zur KI-Nutzung. Dies bringt signifikante Risiken für die Datensicherheit mit sich. Dieser Tatsache sind sich die befragten Organisationen allerdings noch nicht hinreichend bewusst. Gerade einmal ein Viertel der Fach- und Führungskräfte stuft die Nutzung von ChatGPT, DeepL & Co. als ein erhebliches Risiko für die eigene IT-Sicherheit ein. Gleichzeitig ergab unsere repräsentative Erwerbstätigen-Befragung, dass deutschlandweit zwei Drittel der arbeitenden Bevölkerung KI im beruflichen Kontext nutzen. Und das, obwohl nach Angaben der Erwerbstätigen weniger als die Hälfte der Arbeitgeber den Einsatz von KI-Tools transparent regelt.

Sie wollen wissen, wie Sie sich gegen KI-basierte Phishing-Attacken schützen können? In unserem Studienreport geben wir Antwort darauf.

Cybersecurity braucht Strategie

Mit der zunehmenden Bedrohung durch Cyberkriminalität steigt in Unternehmen und Behörden auch das Bewusstsein für die Notwendigkeit einer strategisch geplanten IT-Sicherheit. So wird aktuell in rund drei Viertel der Organisationen Cybersecurity als strategisches Thema gesehen, das bei jedem neu aufgesetzten Prozess mitbedacht werden muss. Trotzdem sind die Sorgen vor Hackerangriffen groß: Vielen Organisationen fehlt es an IT-Sicherheitsexperten und dem entsprechenden Know-how. Fast die Hälfte der befragten Fach- und Führungskräfte ist davon überzeugt, dass Cyberkriminalität durch KI ein ganz neues Niveau erreicht hat, und nimmt dies zum Anlass, stärker in Cybersecurity zu investieren.

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria

Stärke entsteht aus Zusammenarbeit

Was den Kampf gegen KI-basierte Cyberkriminalität angeht, sind sich die Befragten einig: IT-Sicherheit ist eine Gemeinschaftsaufgabe. Cybersecurity-Expertinnen und -Experten sind rar. Daher wünschen sich die Fach- und Führungskräfte eine verstärkte Zusammenarbeit der verschiedenen Behörden, Forschungseinrichtungen und Unternehmen. Doch KI wird auch als wichtiges Instrument gesehen, um die Cyberresilienz der eigenen Organisation zu stärken. Speziell bei der frühzeitigen Identifizierung von Angriffen besteht viel Potenzial: Machine Learning unterstützt bei der Mustererkennung und kann Anomalien identifizieren, die für Menschen oft kaum sichtbar sind. KI kann Automatisierungstools darin optimieren, Angriffe einzudämmen und zurückzudrängen, bevor Hacker auf Daten zugreifen. Mehr darüber erfahren Sie in unserem Studienreport.

„Wir sind in einem Wettrennen“

IT-Systeme sind vielen Bedrohungen ausgesetzt. Ein erfolgreicher Hacker­angriff hat massive Folgen für die betroffene Organisation und kann sich auch auf die Gesellschaft auswirken. Im Interview erklärt Timo Kob, Professor für Cybersecurity und Wirtschaftsschutz an der FH Campus Wien, wo Unternehmen und Behörden derzeit und zukünftig handeln müssen.

Herr Kob, wie hat sich die Bedrohungslage im Cyber­raum für Unternehmen und öffentliche Verwaltungen in den vergangenen Jahren entwickelt?

Die Situation verschärft sich tendenziell seit Jahren. Dafür gibt es mehrere Gründe: …

Sie wollen wissen, wie es weitergeht?