Sopra Steria | F.A.Z.-Institut

Cybersecurity im Zeitalter von KI

Künstliche Intelligenz (KI) baut das Geschäftsfeld Cybersecurity um — in beide Richtungen. Cyberkriminelle nutzen generative KI (GenKI; engl. GenAI), um Angriffe individuell zuzuschneiden und zu skalieren. Doch auch Unternehmen und Behörden machen sich die Stärken von KI zunutze und bauen die Technologie in ihre IT-Sicherheit ein. Wie bewerten Wirtschaft und öffentliche Verwaltung die Bedrohung durch Hacker? Welchen Einfluss hat GenAI dabei? Und wie können sich Organisationen mit KI-Hilfe wirkungsvoll schützen? Sopra Steria Discover liefert die Antworten — mit zentralen Ergebnissen auf dieser Website sowie Experteninterviews und weiteren Insights im kostenlosen Studienreport.

KI transformiert Cybersecurity

Kapitel jetzt lesen

Schwachstelle Mensch

Kapitel jetzt lesen

KI- trifft auf Fachexpertise

Kapitel jetzt lesen

Gefahren begegnen

Kapitel jetzt lesen

KI transformiert Cybersecurity

Kapitel jetzt lesen

Schwachstelle Mensch

Kapitel jetzt lesen

KI- trifft auf Fachexpertise

Kapitel jetzt lesen

Gefahren begegnen

Kapitel jetzt lesen

„Cyberkriminelle rüsten mit KI weiter auf, so dass sich Unternehmen und Behörden neu aufstellen müssen. Eine neue, die Möglichkeiten von KI in den Fokus rückende Cybersecurity-Strategie sollte darauf ausgelegt sein, automatisiertes und schnelles Lernen unmittelbar in verbesserte Cyberabwehr umzumünzen.“

Olaf Janßen, Head of Cyber Security bei Sopra Steria

KI transformiert Cybersecurity

  • Drei von vier Organisationen sehen durch böswillige KI-Nutzung eine verschärfte Bedrohungslage im digitalen Raum.
  • Rund jede dritte Organisation plant, ihre Cybersecurity-Strategie in den kommenden zwölf Monaten an das KI-Zeitalter anzupassen.

KI transformiert Cybersecurity

  • Drei von vier Organisationen sehen durch böswillige KI-Nutzung eine verschärfte Bedrohungslage im digitalen Raum.
  • Rund jede dritte Organisation plant, ihre Cybersecurity-Strategie in den kommenden zwölf Monaten an das KI-Zeitalter anzupassen.

Neue Gefahren durch KI

Der Einsatz von KI in der Cyberkriminalität bedroht die IT-Sicherheit von Unternehmen und Behörden mehr denn je. Speziell GenAI fordert Organisationen heraus: Cyberkriminelle nutzen die Technologie, um ihre Attacken zu personalisieren und zu automatisieren. Mit Hilfe von Sprachgenerierung durch GenAI können sie beispielsweise den „Enkeltrick“ authentischer wirken lassen. Künstliche Intelligenz ermöglicht es ihnen zudem, Beziehungen in sozialen Netzwerken schnell und einfach zu analysieren. Dadurch können sie ihre Angriffe noch individueller ausrichten.

73%

der befragten Fach- und Führungskräfte meinen, dass die böswillige Nutzung von KI die Bedrohungslage im Cyberraum drastisch verschärft hat.¹

71%

der befragten Fach- und Führungskräfte geben an, dass Cyberkriminelle KI deutlich besser für einen Angriff nutzen, als Organisationen dies zur Abwehr oder Prävention eines Angriffs tun.¹

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria

Mehr Netzwerksicherheit mit KI

Angesichts der neuen Möglichkeiten steigt bei Unternehmen und Behörden die Sorge, dass sich die Kräfteverhältnisse in Richtung der Angreifer verschieben. Die befragten Fach- und Führungskräfte sind der Auffassung, dass Cyberkriminelle KI deutlich besser zum Angriff nutzen als Unternehmen zur Abwehr. Doch es gibt auch positive Signale, denn das Bewusstsein für eine KI-basierte Cybersecurity wächst. Ein Drittel der befragten Organisationen plant, die eigene Cybersecurity-Strategie an das KI-Zeitalter anzupassen, während fast ebenso viele Unternehmen und Behörden den Einsatz von KI zur Verbesserung ihrer IT-Sicherheit vorbereiten. Schließlich gilt: „It takes a network to defeat a network.“ Wie Sie durch den Einsatz von GenAI auch Ihre Cybersecurity stärken können, erfahren Sie in unserem Studienreport.

0%

der befragten Organisationen planen, in den kommenden
zwölf Monaten in die Verbesserung ihrer Cybersicherheit zu investieren.¹

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria

33%

der befragten Fach- und Führungskräfte beabsichtigen, ihre Cybersecurity-Strategie an KI anzupassen.¹

30%

der befragten Fach- und Führungskräfte bereiten den Einsatz von KI in der Cybersecurity vor.¹

54%

der befragten Fach- und Führungskräfte sagen, ohne den Einsatz von KI in der Cybersecurity haben Organisationen zukünftig keine Chance gegen Cyberangriffe.¹

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut, Sopra Steria

Neuronale Netze nutzen – jetzt!

Interview mit Dr. Barbara Korte, Squad Lead AI@Cyber Security

Sie wollen mehr über KI in der Cybersicherheit erfahren?

Schwachstelle Mensch

  • Unangemessene Reaktionen von Mitarbeitenden auf Phishing-Angriffe sind laut Umfrage die größte Schwachstelle der IT-Sicherheit.
  • Mitarbeitende nutzen vermehrt eigene KI-Tools und stellen so die Cybersicherheit auf die Probe.

Schwachstelle Mensch

  • Unangemessene Reaktionen von Mitarbeitenden auf Phishing-Angriffe sind laut Umfrage die größte Schwachstelle der IT-Sicherheit.
  • Mitarbeitende nutzen vermehrt eigene KI-Tools und stellen so die Cybersicherheit auf die Probe.
34%
unangemessene Reaktion von Mitarbeitenden auf KI-gestützte Social-Engineering-Angriffe¹
43%
unangemessene Reaktionen von Mitarbeitenden auf Angriffe wie Phishing¹
34%
unzureichende Vorbereitung des Unternehmens auf Angriffe¹

Was sehen Sie aktuell als die drei größten Schwachstellen in der Cybersecurity Ihrer Organisation an?

¹ Mehrfachauswahl mit maximal drei Antworten; Darstellung der drei häufigsten Antwortkategorien; Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria

Nachlässigkeit ist gefährlicher denn je

Unangemessene Reaktionen von Mitarbeitenden auf Phishing- und Social-Engineering-Angriffe sind laut den befragten Fach- und Führungskräften nach wie vor die größten Schwachstellen in ihrer Cybersicherheit. Dies ist bedenklich, denn KI macht es Cyberkriminellen leichter denn je, diese Sicherheitslücke auszunutzen. Ein Grund hierfür ist der Einsatz von AI-as-a-Service. Damit können zum Beispiel glaubwürdige Phishing-Mails massenhaft generiert werden. Das Ziel der Hacker ist es, über Mitarbeitende etwa an Passwörter oder Kontodaten zu gelangen. Dabei gehen sie immer effizienter vor, wie unsere repräsentative Erwerbstätigen-Befragung zeigt.

41%

der befragten Erwerbstätigen berichten über mehr Phishing-Nachrichten.¹

31%

der befragten Erwerbstätigen geben an, dass Phishing-Nachrichten durch KI kaum mehr als solche zu erkennen sind.¹

¹ Erwerbstätige; n = 1.003
Quelle: F.A.Z.-Institut; Sopra Steria

Hätten Sie es erkannt?

Dieses Video zeigt eine nicht reale Person, die mit einer geklonten Stimme spricht. Sowohl die Stimme als auch die Erscheinung echter Menschen können mit KI in kürzester Zeit geklont und für Angriffe genutzt werden. Wir haben etwa 15 Minuten und 15 Euro in die Erstellung dieses Videos investiert. Stellen Sie sich vor, was Sie sehen würden, wenn es ein Tag und mehr Geld gewesen wäre?!

(Das Video wurde mit Hilfe von KI-Tools zur Gesichts- und Sprachsimulation generiert) 

Organisationen müssen jetzt handeln

Auch die zunehmende Nutzung von KI-Tools durch die Schwachstelle Mensch ist eine Bedrohung. Laut einer Untersuchung von Microsoft nutzen weltweit 75 Prozent der Wissensarbeiter KI am Arbeitsplatz. 78 Prozent davon greifen auf ihre eigenen, privaten Anwendungen zu und übergehen so Leitlinien des Unternehmens zur KI-Nutzung. Dies bringt signifikante Risiken für die Datensicherheit mit sich. Dieser Tatsache sind sich die befragten Organisationen allerdings noch nicht hinreichend bewusst. Gerade einmal ein Viertel der Fach- und Führungskräfte stuft die Nutzung von ChatGPT, DeepL & Co. als ein erhebliches Risiko für die eigene IT-Sicherheit ein. Gleichzeitig ergab unsere repräsentative Erwerbstätigen-Befragung, dass deutschlandweit zwei Drittel der arbeitenden Bevölkerung KI im beruflichen Kontext nutzen. Und das, obwohl nach Angaben der Erwerbstätigen weniger als die Hälfte der Arbeitgeber den Einsatz von KI-Tools transparent regelt.

Sie wollen wissen, wie Sie sich gegen KI-basierte Phishing-Attacken schützen können? In unserem Studienreport geben wir Antwort darauf.

43%

der befragten Erwerbstätigen geben an, dass ihr Arbeitgeber die Nutzung von KI-Anwendungen nicht (transparent) regelt.¹

¹ Erwerbstätige; n = 1.003
Quelle: F.A.Z.-Institut; Sopra Steria

26%

der befragten Fach- und Führungskräfte sehen in der ungeregelten Verwendung von KI-Tools wie ChatGTP und Co. ein Risiko für die Cybersecurity.²

² Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria

0%

der befragten Erwerbstätigen nutzen KI-Anwendungen wie ChatGPT, Midjourney oder DeepL in ihrem Arbeitsalltag.¹

¹ Erwerbstätige; n = 1.003
Quelle: F.A.Z.-Institut; Sopra Steria

Begreifen Sie KI nicht als Problem, sondern als Teil der Lösung

1.

Entwickeln Sie Leitlinien für die Nutzung von KI-Anwendungen im Arbeitsalltag und sensibilisieren Sie Ihre Mitarbeitenden für KI-gestützte Phishing-Angriffe.

2.

Prüfen Sie die Einsatzoptionen von KI zur Unterstützung bei repetitiven und zeitintensiven Aufgaben, um Zeit und Energie Ihrer Mitarbeitenden voll in komplexere Aufgaben zu investieren.

3.

Nutzen Sie die Möglichkeiten von KI, um Testangriffe zu personalisieren oder Awareness-Kampagnen an neue Angriffsmuster anzupassen.

Wie können sich Unternehmen und Behörden gegen KI-basierte Phishing-Attacken schützen?

Unser Studienreport liefert Antworten.

KI- trifft auf Fachexpertise

  • Rund die Hälfte der Organisationen will stärker in Cybersecurity investieren.
  • Organisationen müssen für die Erhöhung der Cybersicherheit Technik und Know-how kombinieren.

KI- trifft auf Fachexpertise

  • Rund die Hälfte der Organisationen will stärker in Cybersecurity investieren.
  • Organisationen müssen für die Erhöhung der Cybersicherheit Technik und Know-how kombinieren.

Cybersecurity braucht Strategie

Mit der zunehmenden Bedrohung durch Cyberkriminalität steigt in Unternehmen und Behörden auch das Bewusstsein für die Notwendigkeit einer strategisch geplanten IT-Sicherheit. So wird aktuell in rund drei Viertel der Organisationen Cybersecurity als strategisches Thema gesehen, das bei jedem neu aufgesetzten Prozess mitbedacht werden muss. Trotzdem sind die Sorgen vor Hackerangriffen groß: Vielen Organisationen fehlt es an IT-Sicherheitsexperten und dem entsprechenden Know-how. Fast die Hälfte der befragten Fach- und Führungskräfte ist davon überzeugt, dass Cyberkriminalität durch KI ein ganz neues Niveau erreicht hat, und nimmt dies zum Anlass, stärker in Cybersecurity zu investieren.

72%

der befragten Fach- und Führungskräfte sagen, dass Cybersecurity ein strategisches Thema ist, das bei jedem neu aufgesetzten Prozess in ihrer Organisation mitbedacht wird.¹

49%

der befragten Fach- und Führungskräfte wollen stärker in Cybersecurity investieren, da Cyberkriminalität durch KI ein ganz neues Niveau erreicht hat.¹

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria

Stärke entsteht aus Zusammenarbeit

Was den Kampf gegen KI-basierte Cyberkriminalität angeht, sind sich die Befragten einig: IT-Sicherheit ist eine Gemeinschaftsaufgabe. Cybersecurity-Expertinnen und -Experten sind rar. Daher wünschen sich die Fach- und Führungskräfte eine verstärkte Zusammenarbeit der verschiedenen Behörden, Forschungseinrichtungen und Unternehmen. Doch KI wird auch als wichtiges Instrument gesehen, um die Cyberresilienz der eigenen Organisation zu stärken. Speziell bei der frühzeitigen Identifizierung von Angriffen besteht viel Potenzial: Machine Learning unterstützt bei der Mustererkennung und kann Anomalien identifizieren, die für Menschen oft kaum sichtbar sind. KI kann Automatisierungstools darin optimieren, Angriffe einzudämmen und zurückzudrängen, bevor Hacker auf Daten zugreifen. Mehr darüber erfahren Sie in unserem Studienreport.

54%

der befragten Fach- und Führungskräfte sehen fehlendes Personal als Hindernis für eine höhere Cybersecurity.¹

34%

der befragten Fach- und Führungskräfte möchten stärker in Cybersecurity investieren, da es durch KI neue Möglichkeiten zum Schutz von IT-Systemen gibt.¹

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria

0%

der befragten Fach- und Führungskräfte stimmen der Aussage zu, dass Cybersecurity eine Gemeinschaftsaufgabe ist. Um sich effektiv gegen Cyberangriffe zu schützen, sollten Organisationen zusammenarbeiten und aufhören, sich gegenseitig Cybersecurity-Experten abzujagen.¹

¹ Fach- und Führungskräfte; n = 564
Quelle: F.A.Z.-Institut; Sopra Steria

Vier Schritte, um den neuen Cyberbedrohungen gelassen begegnen zu können

Minimieren Sie Risiken dauerhaft

Erarbeiten Sie eine Sicherheitsstrategie, die dafür sorgt, dass Organisation, Prozesse und Technologie sich an sich verändernde Risiken anpassen können.

Senken Sie Ihr Incident-Risiko

Planen Sie bei Ihrer Cybersecurity-Strategie stets präventive, aktive und reaktive Elemente ein.

Erkennen Sie Angriffe frühzeitig

Ein kontinuierliches Monitoring der IT-Systeme hilft, Bedrohungen zu erkennen, bevor Schäden entstehen.

Reagieren Sie mit Schlagkraft

Je früher Sie Angriffe entdecken, desto schneller und effektiver können Sie reagieren.

Mit welchen Hebeln lassen sich die Herausforderungen des KI-Zeitalters  meistern ?

Gefahren begegnen

  • 93 Prozent der Befragten rechnen in den nächsten zwölf Monaten mit einer Zunahme von Schadenszenarien im Cyberraum.
  • Organisationen können dem nur mit einer gestärkten Cyberresilienz
    begegnen.

Gefahren begegnen

  • 93 Prozent der Befragten rechnen in den nächsten zwölf Monaten mit einer Zunahme von Schadenszenarien im Cyberraum.
  • Organisationen können dem nur mit einer gestärkten Cyberresilienz
    begegnen.

Interview

„Wir sind in einem Wettrennen“

IT-Systeme sind vielen Bedrohungen ausgesetzt. Ein erfolgreicher Hacker­angriff hat massive Folgen für die betroffene Organisation und kann sich auch auf die Gesellschaft auswirken. Im Interview erklärt Timo Kob, Professor für Cybersecurity und Wirtschaftsschutz an der FH Campus Wien, wo Unternehmen und Behörden derzeit und zukünftig handeln müssen.

Herr Kob, wie hat sich die Bedrohungslage im Cyber­raum für Unternehmen und öffentliche Verwaltungen in den vergangenen Jahren entwickelt?

Die Situation verschärft sich tendenziell seit Jahren. Dafür gibt es mehrere Gründe: …

Prof. Timo Kob
ist Professor für Wirtschaftsschutz und Cybersecurity an der FH Campus Wien.

Sie wollen wissen, wie es weitergeht?

Kennen Sie unsere weiteren Inhalte?

Studienreport, März 2024

Digital Banking Experience Report 2023

Perspektiven der Bankkunden in Deutschland

Pressemitteilung, September 2024

Studie Navigating the AI Era

Managementinstrument zur Steuerung von KI-Investitionen

Magazin, November 2023

Managementkompass Good Company

Tugend mit Geschäft und Effizienz ausbalancieren.

Studienreport, März 2024

Digital Banking Experience Report 2023

Perspektiven der Bankkunden in Deutschland

Pressemitteilung, September 2024

Studie Navigating the AI Era

Managementinstrument zur Steuerung von KI-Investitionen

Webseite, Mai 2024

Venture Insights GovTech in der öffentlichen Beschaffung

Potenzial von GovTech im öffentlichen Beschaffungswesen nutzen.

Magazin, November 2023

Managementkompass Good Company

Tugend mit Geschäft und Effizienz ausbalancieren.