KI-generierte Identitätsfälschungen erreichen eine neue Eskalationsstufe. Gleich mehrere Sicherheitslösungen sollen Unternehmen und Privatpersonen künftig vor betrügerischen Videokonferenzen schützen – von Echtzeit-Analysetools bis hin zu neuen Meldefunktionen in etablierten Plattformen.
Fraunhofer-Software erkennt Manipulationen live
Forscher des Fraunhofer-Instituts für Sichere Informationstechnologie (SIT) haben in Heilbronn ein Warnsystem entwickelt, das Deepfakes während laufender Videogespräche identifiziert. Die Software analysiert Video- und Audiosignale automatisiert und erkennt Manipulationen unmittelbar während der Übertragung.
Die Technik läuft dezentral auf dem Endgerät des Nutzers. Wegen der hohen Rechenlast benötigt die Anwendung mindestens 12 Gigabyte Grafikspeicher. Für das Training der Algorithmen nutzten die Forscher 19.000 authentische und rund 160.000 manipulierte Audioaufnahmen.
Das Projekt gehört zum Forschungszentrum ATHENE und wird vom Bundesforschungsministerium sowie dem Land Hessen gefördert. Aktuell befindet sich das System in der Erprobung. Die Integration in Plattformen wie Zoom oder Microsoft Teams sowie datenschutzrechtliche Fragen sind noch offen.
Microsoft Teams bekommt „Report a concern“
Parallel dazu erweitert Microsoft seine Plattform Teams im August um eine Sicherheitsfunktion. Über die neue Option „Report a concern“ können Teilnehmer verdächtige Aktivitäten direkt während eines Meetings melden.
Die Funktion zielt auf Phishing-Versuche, Identitätsbetrug und Deepfakes ab. Meldungen werden automatisiert an das Teams Admin Center und das Microsoft Defender Portal weitergeleitet. Zudem erkennt das System externe Meeting-Bots, die unbefugt an Konferenzen teilnehmen. Die Funktion wird standardmäßig für alle Nutzer aktiviert.
EU-KI-Verordnung und explodierende Fallzahlen
Wer sich mit dem Thema befasst, erkennt schnell, dass neue KI-Gesetze auch neue rechtliche Pflichten für Unternehmen mit sich bringen. Dieser kostenlose Report klärt auf, welche Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken: Kostenlosen Report jetzt lesen
Der Hintergrund: eine verschärfte Rechtslage und massiv steigende Betrugszahlen. Seit dem 2. August gelten die Transparenzpflichten der EU-KI-Verordnung. Anbieter und berufliche Betreiber müssen KI-generierte oder manipulierte Inhalte eindeutig kennzeichnen.
Während der eco-Verband fehlende Standards und späte Leitlinien kritisiert, sieht der Bitkom in den Regeln wichtige Leitplanken für den Markt. Wie dringend der Schutz ist, zeigen Daten aus Singapur: Dort wurden im Januar über 1.200 Fälle von Videobetrug per Deepfake registriert – im gesamten Vorjahr waren es gerade einmal 43.
Die wirtschaftlichen Risiken sind enorm. Bereits 2025 überwies ein Finanzverantwortlicher nach einem manipulierten Video-Anruf rund 500.000 US-Dollar.
Die neuen Regeln der EU-KI-Verordnung stellen viele Organisationen vor komplexe Anforderungen bei der Dokumentation und Risikobewertung. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle relevanten Fristen und Pflichten für Unternehmen. Kostenloses E-Book zum EU AI Act herunterladen
Spezialanbieter setzen auf Identitätsprüfung und Training
Neben den großen Plattformen bringen Spezialisten weitere Verteidigungswerkzeuge auf den Markt. Secured Signing hat eine Konsole zur Identitätsprüfung eingeführt, die während digitaler Unterzeichnungsprozesse kontinuierlich das Live-Gesicht des Nutzers mit dessen Ausweisdaten vergleicht.
Auch präventive Schulungen gewinnen an Bedeutung. Der Sicherheitsdienstleister KnowBe4 bietet KI-gestützte Trainingsprogramme an, die mit Simulationsagenten die Fähigkeit von Mitarbeitern testen, Deepfakes zu erkennen. Eine integrierte Risiko-Engine analysiert dabei über 300 Indikatoren, um die Anfälligkeit von Organisationen für soziale Manipulation zu bewerten.
