Sopra Steria | F.A.Z.-Institut
Cybersecurity im Zeitalter von KI
Künstliche Intelligenz (KI) baut das Geschäftsfeld Cybersecurity um — in beide Richtungen. Cyberkriminelle nutzen generative KI (GenKI; engl. GenAI), um Angriffe individuell zuzuschneiden und zu skalieren. Doch auch Unternehmen und Behörden machen sich die Stärken von KI zunutze und bauen die Technologie in ihre IT-Sicherheit ein. Wie bewerten Wirtschaft und öffentliche Verwaltung die Bedrohung durch Hacker? Welchen Einfluss hat GenAI dabei? Und wie können sich Organisationen mit KI-Hilfe wirkungsvoll schützen? Sopra Steria Discover liefert die Antworten — mit zentralen Ergebnissen auf dieser Website sowie Experteninterviews und weiteren Insights im kostenlosen Studienreport.
„Cyberkriminelle rüsten mit KI weiter auf, so dass sich Unternehmen und Behörden neu aufstellen müssen. Eine neue, die Möglichkeiten von KI in den Fokus rückende Cybersecurity-Strategie sollte darauf ausgelegt sein, automatisiertes und schnelles Lernen unmittelbar in verbesserte Cyberabwehr umzumünzen.“
Olaf Janßen, Head of Cyber Security bei Sopra Steria
KI transformiert Cybersecurity
- Drei von vier Organisationen sehen durch böswillige KI-Nutzung eine verschärfte Bedrohungslage im digitalen Raum.
- Rund jede dritte Organisation plant, ihre Cybersecurity-Strategie in den kommenden zwölf Monaten an das KI-Zeitalter anzupassen.
KI transformiert Cybersecurity
- Drei von vier Organisationen sehen durch böswillige KI-Nutzung eine verschärfte Bedrohungslage im digitalen Raum.
- Rund jede dritte Organisation plant, ihre Cybersecurity-Strategie in den kommenden zwölf Monaten an das KI-Zeitalter anzupassen.
Neue Gefahren durch KI
Der Einsatz von KI in der Cyberkriminalität bedroht die IT-Sicherheit von Unternehmen und Behörden mehr denn je. Speziell GenAI fordert Organisationen heraus: Cyberkriminelle nutzen die Technologie, um ihre Attacken zu personalisieren und zu automatisieren. Mit Hilfe von Sprachgenerierung durch GenAI können sie beispielsweise den „Enkeltrick“ authentischer wirken lassen. Künstliche Intelligenz ermöglicht es ihnen zudem, Beziehungen in sozialen Netzwerken schnell und einfach zu analysieren. Dadurch können sie ihre Angriffe noch individueller ausrichten.
¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria
Mehr Netzwerksicherheit mit KI
Angesichts der neuen Möglichkeiten steigt bei Unternehmen und Behörden die Sorge, dass sich die Kräfteverhältnisse in Richtung der Angreifer verschieben. Die befragten Fach- und Führungskräfte sind der Auffassung, dass Cyberkriminelle KI deutlich besser zum Angriff nutzen als Unternehmen zur Abwehr. Doch es gibt auch positive Signale, denn das Bewusstsein für eine KI-basierte Cybersecurity wächst. Ein Drittel der befragten Organisationen plant, die eigene Cybersecurity-Strategie an das KI-Zeitalter anzupassen, während fast ebenso viele Unternehmen und Behörden den Einsatz von KI zur Verbesserung ihrer IT-Sicherheit vorbereiten. Schließlich gilt: „It takes a network to defeat a network.“ Wie Sie durch den Einsatz von GenAI auch Ihre Cybersecurity stärken können, erfahren Sie in unserem Studienreport.
der befragten Organisationen planen, in den kommenden
zwölf Monaten in die Verbesserung ihrer Cybersicherheit zu investieren.¹
¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria
¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria
Neuronale Netze nutzen – jetzt!
Schwachstelle Mensch
- Unangemessene Reaktionen von Mitarbeitenden auf Phishing-Angriffe sind laut Umfrage die größte Schwachstelle der IT-Sicherheit.
- Mitarbeitende nutzen vermehrt eigene KI-Tools und stellen so die Cybersicherheit auf die Probe.
Schwachstelle Mensch
- Unangemessene Reaktionen von Mitarbeitenden auf Phishing-Angriffe sind laut Umfrage die größte Schwachstelle der IT-Sicherheit.
- Mitarbeitende nutzen vermehrt eigene KI-Tools und stellen so die Cybersicherheit auf die Probe.
Was sehen Sie aktuell als die drei größten Schwachstellen in der Cybersecurity Ihrer Organisation an?
¹ Mehrfachauswahl mit maximal drei Antworten; Darstellung der drei häufigsten Antwortkategorien; Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria
Nachlässigkeit ist gefährlicher denn je
Unangemessene Reaktionen von Mitarbeitenden auf Phishing- und Social-Engineering-Angriffe sind laut den befragten Fach- und Führungskräften nach wie vor die größten Schwachstellen in ihrer Cybersicherheit. Dies ist bedenklich, denn KI macht es Cyberkriminellen leichter denn je, diese Sicherheitslücke auszunutzen. Ein Grund hierfür ist der Einsatz von AI-as-a-Service. Damit können zum Beispiel glaubwürdige Phishing-Mails massenhaft generiert werden. Das Ziel der Hacker ist es, über Mitarbeitende etwa an Passwörter oder Kontodaten zu gelangen. Dabei gehen sie immer effizienter vor, wie unsere repräsentative Erwerbstätigen-Befragung zeigt.
¹ Erwerbstätige; n = 1.003
Quelle: F.A.Z.-Institut; Sopra Steria
Hätten Sie es erkannt?
Dieses Video zeigt eine nicht reale Person, die mit einer geklonten Stimme spricht. Sowohl die Stimme als auch die Erscheinung echter Menschen können mit KI in kürzester Zeit geklont und für Angriffe genutzt werden. Wir haben etwa 15 Minuten und 15 Euro in die Erstellung dieses Videos investiert. Stellen Sie sich vor, was Sie sehen würden, wenn es ein Tag und mehr Geld gewesen wäre?!
(Das Video wurde mit Hilfe von KI-Tools zur Gesichts- und Sprachsimulation generiert)
Organisationen müssen jetzt handeln
Auch die zunehmende Nutzung von KI-Tools durch die Schwachstelle Mensch ist eine Bedrohung. Laut einer Untersuchung von Microsoft nutzen weltweit 75 Prozent der Wissensarbeiter KI am Arbeitsplatz. 78 Prozent davon greifen auf ihre eigenen, privaten Anwendungen zu und übergehen so Leitlinien des Unternehmens zur KI-Nutzung. Dies bringt signifikante Risiken für die Datensicherheit mit sich. Dieser Tatsache sind sich die befragten Organisationen allerdings noch nicht hinreichend bewusst. Gerade einmal ein Viertel der Fach- und Führungskräfte stuft die Nutzung von ChatGPT, DeepL & Co. als ein erhebliches Risiko für die eigene IT-Sicherheit ein. Gleichzeitig ergab unsere repräsentative Erwerbstätigen-Befragung, dass deutschlandweit zwei Drittel der arbeitenden Bevölkerung KI im beruflichen Kontext nutzen. Und das, obwohl nach Angaben der Erwerbstätigen weniger als die Hälfte der Arbeitgeber den Einsatz von KI-Tools transparent regelt.
Sie wollen wissen, wie Sie sich gegen KI-basierte Phishing-Attacken schützen können? In unserem Studienreport geben wir Antwort darauf.
¹ Erwerbstätige; n = 1.003
Quelle: F.A.Z.-Institut; Sopra Steria
² Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria
der befragten Erwerbstätigen nutzen KI-Anwendungen wie ChatGPT, Midjourney oder DeepL in ihrem Arbeitsalltag.¹
¹ Erwerbstätige; n = 1.003
Quelle: F.A.Z.-Institut; Sopra Steria
Begreifen Sie KI nicht als Problem, sondern als Teil der Lösung
1.
Entwickeln Sie Leitlinien für die Nutzung von KI-Anwendungen im Arbeitsalltag und sensibilisieren Sie Ihre Mitarbeitenden für KI-gestützte Phishing-Angriffe.
2.
Prüfen Sie die Einsatzoptionen von KI zur Unterstützung bei repetitiven und zeitintensiven Aufgaben, um Zeit und Energie Ihrer Mitarbeitenden voll in komplexere Aufgaben zu investieren.
3.
Nutzen Sie die Möglichkeiten von KI, um Testangriffe zu personalisieren oder Awareness-Kampagnen an neue Angriffsmuster anzupassen.
KI- trifft auf Fachexpertise
- Rund die Hälfte der Organisationen will stärker in Cybersecurity investieren.
- Organisationen müssen für die Erhöhung der Cybersicherheit Technik und Know-how kombinieren.
KI- trifft auf Fachexpertise
- Rund die Hälfte der Organisationen will stärker in Cybersecurity investieren.
- Organisationen müssen für die Erhöhung der Cybersicherheit Technik und Know-how kombinieren.
Cybersecurity braucht Strategie
Mit der zunehmenden Bedrohung durch Cyberkriminalität steigt in Unternehmen und Behörden auch das Bewusstsein für die Notwendigkeit einer strategisch geplanten IT-Sicherheit. So wird aktuell in rund drei Viertel der Organisationen Cybersecurity als strategisches Thema gesehen, das bei jedem neu aufgesetzten Prozess mitbedacht werden muss. Trotzdem sind die Sorgen vor Hackerangriffen groß: Vielen Organisationen fehlt es an IT-Sicherheitsexperten und dem entsprechenden Know-how. Fast die Hälfte der befragten Fach- und Führungskräfte ist davon überzeugt, dass Cyberkriminalität durch KI ein ganz neues Niveau erreicht hat, und nimmt dies zum Anlass, stärker in Cybersecurity zu investieren.
¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria
Stärke entsteht aus Zusammenarbeit
Was den Kampf gegen KI-basierte Cyberkriminalität angeht, sind sich die Befragten einig: IT-Sicherheit ist eine Gemeinschaftsaufgabe. Cybersecurity-Expertinnen und -Experten sind rar. Daher wünschen sich die Fach- und Führungskräfte eine verstärkte Zusammenarbeit der verschiedenen Behörden, Forschungseinrichtungen und Unternehmen. Doch KI wird auch als wichtiges Instrument gesehen, um die Cyberresilienz der eigenen Organisation zu stärken. Speziell bei der frühzeitigen Identifizierung von Angriffen besteht viel Potenzial: Machine Learning unterstützt bei der Mustererkennung und kann Anomalien identifizieren, die für Menschen oft kaum sichtbar sind. KI kann Automatisierungstools darin optimieren, Angriffe einzudämmen und zurückzudrängen, bevor Hacker auf Daten zugreifen. Mehr darüber erfahren Sie in unserem Studienreport.
¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria
der befragten Fach- und Führungskräfte stimmen der Aussage zu, dass Cybersecurity eine Gemeinschaftsaufgabe ist. Um sich effektiv gegen Cyberangriffe zu schützen, sollten Organisationen zusammenarbeiten und aufhören, sich gegenseitig Cybersecurity-Experten abzujagen.¹
¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria
Vier Schritte, um den neuen Cyberbedrohungen gelassen begegnen zu können
Minimieren Sie Risiken dauerhaft
Erarbeiten Sie eine Sicherheitsstrategie, die dafür sorgt, dass Organisation, Prozesse und Technologie sich an sich verändernde Risiken anpassen können.
Senken Sie Ihr Incident-Risiko
Planen Sie bei Ihrer Cybersecurity-Strategie stets präventive, aktive und reaktive Elemente ein.
Erkennen Sie Angriffe frühzeitig
Ein kontinuierliches Monitoring der IT-Systeme hilft, Bedrohungen zu erkennen, bevor Schäden entstehen.
Reagieren Sie mit Schlagkraft
Je früher Sie Angriffe entdecken, desto schneller und effektiver können Sie reagieren.
Gefahren begegnen
- 93 Prozent der Befragten rechnen in den nächsten zwölf Monaten mit einer Zunahme von Schadenszenarien im Cyberraum.
- Organisationen können dem nur mit einer gestärkten Cyberresilienz
begegnen.
Gefahren begegnen
- 93 Prozent der Befragten rechnen in den nächsten zwölf Monaten mit einer Zunahme von Schadenszenarien im Cyberraum.
- Organisationen können dem nur mit einer gestärkten Cyberresilienz
begegnen.
Interview
„Wir sind in einem Wettrennen“
IT-Systeme sind vielen Bedrohungen ausgesetzt. Ein erfolgreicher Hackerangriff hat massive Folgen für die betroffene Organisation und kann sich auch auf die Gesellschaft auswirken. Im Interview erklärt Timo Kob, Professor für Cybersecurity und Wirtschaftsschutz an der FH Campus Wien, wo Unternehmen und Behörden derzeit und zukünftig handeln müssen.
Herr Kob, wie hat sich die Bedrohungslage im Cyberraum für Unternehmen und öffentliche Verwaltungen in den vergangenen Jahren entwickelt?
Die Situation verschärft sich tendenziell seit Jahren. Dafür gibt es mehrere Gründe: …
Prof. Timo Kob
ist Professor für Wirtschaftsschutz und Cybersecurity an der FH Campus Wien.