Dr. Nicolas Müller Senior Engineer am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC) in Garching bei München

Künstliche Intelligenz (KI) entwickelt sich rasant – und mit ihren Möglichkeiten wächst auch das Risiko des Missbrauchs. Generative KI-Modelle können mittlerweile täuschend echte „Deepfakes“ erzeugen: Audio- oder Videoaufnahmen von Personen, die komplett künstlich erstellt wurden und dennoch echt wirken. Während solche Technologien in Film und Fernsehen sinnvolle Anwendungen finden, bergen sie ein enormes Gefahrenpotenzial – etwa für Desinformation, Rufschädigung oder Betrugsversuche wie den „Enkeltrick 2.0“. Dieser Web-Vortrag vermittelt anschaulich – auch ohne technisches Vorwissen – die Problematik anhand von „Audio-Deepfakes“, also gefälschten Sprachaufnahmen. Er erklärt die technischen Hintergründe und zeigt aktuelle Forschungsansätze zu möglichen Gegenmaßnahmen: Wie kann KI helfen, Deepfakes zu entlarven? Woran lassen sich Fälschungen erkennen – und kann man das lernen? Und wie sollte man reagieren, wenn plötzlich ein mögliches Deepfake am Telefon ist?

Künstliche Intelligenz und sogenannte „Machine Learning“-Modelle kommen heute in vielen Bereichen zum Einsatz – von der Spracherkennung über medizinische Diagnosen bis hin zu Textgeneratoren wie ChatGPT. Doch so beeindruckend diese Technologien sind, bergen sie auch Risiken: Sie können falsche Schlüsse ziehen, manipulierbar sein oder in ungewöhnlichen Situationen komplett versagen. In diesem Vortrag werfen wir einen verständlichen Blick hinter die Kulissen moderner KI-Systeme, erklären ihre Schwachstellen – und zeigen, warum es wichtig ist, diese Technik mit einem kritischen Blick zu betrachten, gerade im Alltag und in Unternehmen. Der Vortrag richtet sich an alle, die einen fundierten, aber allgemein verständlichen Einblick in die Chancen und Grenzen moderner KI erhalten möchten – ganz ohne Vorwissen.