Sind Sie sicher, mit wem Sie sprechen?

Künstliche Intelligenz (KI) macht unseren Alltag komfortabler – doch genau diese Technologie kann uns täuschen.

Hongkong, Februar 2024: Ein Mitarbeiter eines multinationalen Engineering‑Konzerns öffnet eine Mail. Der Finanzchef der Londoner Zentrale bittet um eine „geheime Transaktion“. Zunächst zweifelt der Mitarbeiter. Eine Videokonferenz zerstreut sein Misstrauen – weitere Mitarbeitende und der Finanzchef persönlich fordern ihn auf, 25 Millionen US-Dollar zu überweisen. Erst nach dem Transfer stellt sich heraus: Die gesamte Konferenz war ein Deepfake, erzeugt durch KI-Manipulation von Audio und Video.

Laut einer aktuellen ISACA-Studie sorgen sich 51 Prozent der europäischen IT- und Sicherheitsexperten, dass KI-gestützte Angriffe und Deepfakes sie nachts wach halten werden. Nur 14 Prozent fühlen sich gut vorbereitet. Wer glaubt, ihm könnte so etwas nie passieren, irrt womöglich teuer.

Auf nichts ist mehr Verlass

Denn in der digitalen Kommunikation gilt: Selbst unserem Realitätssinn ist nicht mehr zu trauen. Auf bekannte Stimmen oder Gesichter allein ist kein Verlass. KI-gestützte Angriffe werden zudem immer raffinierter – Hacker nutzen Large Language Models (LLMs) wie ChatGPT, um Schwachstellen schneller zu finden und Anwendungen gezielter zu attackieren.

Schneller als der Hacker

Angesichts Angreifer, die immer effizienter werden, müssen auch Sicherheitsanbieter schneller reagieren, flexibler sein und kontinuierlich dazulernen. Secusmart geht diesen Weg konsequent: Ein eigenes Team arbeitet daran, Schwachstellen zu finden, zu analysieren und zu bewerten. Gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) prüft das Team relevante Risiken und leitet notwendige Maßnahmen wie Systemupdates ein.

Auch gegen Deepfake-Angriffe sind Secusmart und seine Kunden gerüstet. Die in SecuVOICE integrierte Anrufererkennung überprüft kryptografisch die Identität des Gesprächspartners. Bei externen Anrufen warnt das System, wenn sich die Identität nicht bestätigen lässt. In E-Mails schützt diese Technologie zusätzlich den Nachrichteninhalt vor Manipulation und Einsicht während des Versands.

Eine gute Schutzmaßnahme gegen KI-Bedrohungen? KI!

Ein wirksamer Schutz gegen KI-gestützte Angriffe? KI selbst. Bei Secusmart kommt künstliche Intelligenz bei automatisierten Tests zum Einsatz, um die Systeme häufiger und schneller auf potenzielle Schwachstellen zu prüfen. Künftig wird Secusmart KI sicher für eigene Anwendungen einsetzen – etwa für Gesprächstranskriptionen, die vollständig in geschützten Umgebungen statt in externen Clouds laufen.

Die KI entwickelt sich rasant – mit ihr wachsen sowohl ihre Chancen als auch ihre Risiken. Hersteller und Behörden müssen sich dieser Dynamik anpassen und kürzere Produktzyklen akzeptieren. Wer das versäumt, gefährdet seine Systeme. Schutz bieten nur vom BSI zugelassene Lösungen wie SecuVOICE, die kontinuierlich weiterentwickelt werden. Künftig vielleicht mit Features wie Fake-Anruf-Erkennung – heute noch Zukunftsmusik, morgen schon Arbeitsalltag.