KI im Alltag: Was Verbraucher wissen sollten

Heute ist Europäischer Datenschutztag. Das Bundesamt für Sicherheit in der Informationstechnik mir heute eine Information geschickt, was Verbraucherinnen und Verbraucher über Künstliche Intelligenz im Alltag wissen sollten. Passt ganz gut zum Datenschutztag, da mit den KI-Lösungen das nächste Fass in Punkto Datenschutz aufgemacht wird.

Es ist verlockend: Ob bei der Recherche mithilfe eines Sprachmodells oder beim Entsperren des Smartphones per Gesichtserkennung: Künstliche Intelligenz (KI) unterstützt viele Menschen im Alltag. Aber wie sieht es mit der Sicherheit und der Privatsphäre aus?

Für Verbraucherinnen und Verbraucher hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) daher niedrigschwellige Informationen zu Sicherheitsrisiken und Schutzmaßnahmen bereitgestellt. Es gibt unter anderem einen "Wegweiser für den digitalen Alltag" und einen Podcast "Update verfügbar".

KI erfasst große Datenmengen

KI-Anwendungen erfassen große Datenmengen, auf die es mitunter auch Cyberkriminelle abgesehen haben. Sie versuchen zum Beispiel, die Eingaben von Nutzerinnen und Nutzer auszulesen. Denkbar ist auch, dass Cyberkriminelle Anwendungen so manipulieren, dass sie nicht mehr oder anders als vorgesehen reagieren – beispielsweise gezielt nach sensiblen Daten fragen.

Postadresse, Passwörter oder Kreditkarteninformationen sollten jedoch nicht in falsche Hände geraten und daher auch nicht unüberlegt z.B. in Eingabefeldern von Sprachmodellen landen. Indem sie möglichst wenig über sich preisgeben, minimieren Nutzerinnen und Nutzer im Ernstfall den Schaden.

KI kann irren

Wer KI nutzt, vergisst zudem schnell: Auch sie kann sich irren. Ein Beispiel sind Sprachmodelle, die halluzinieren. Sie stützen sich etwa auf Quellen, die sie frei erfunden haben. Im Alltag gilt es, das Risiko abzuwägen.

Irrt sich eine Gesundheitsanwendung, die auf Basis bestimmter Symptome eine Diagnose stellt, kann dies ernsthafte Konsequenzen haben. Ordnet eine KI-basierte Foto-App hingegen das Foto einer Person dem falschen Kontakt zu, ist das weniger gravierend. Grundsätzlich wichtig ist jedoch, dass Nutzerinnen und Nutzer die Vorschläge der Anwendung kritisch hinterfragen.

Kriminelle nutzen auch KI

Nicht zuletzt verwenden auch Kriminelle Künstliche Intelligenz – zum Beispiel um Betrugsmaschen zu verbessern. Mithilfe von KI ist es etwa leicht, E-Mails auch ohne Sprachkenntnisse zu verfassen.

Darüber hinaus ermöglicht KI es, Videos zu manipulieren oder die Stimmen anderer am Telefon zu imitieren. So können sich Betrügerinnen und Betrüger zum Beispiel als enge Kontakte einer Person ausgeben, eine Notlage fingieren und um Geldzahlungen bitten. Wer Verdacht schöpft, sollte die jeweilige Person oder auch Institution auf anderem Weg kontaktieren – im Zweifelsfall analog.

Wegweiser für den digitalen Alltag

Den Wegweiser für den digitalen Alltag: Künstliche Intelligenz sicher nutzen" mit allen elf Handlungsempfehlungen können Verbraucherinnen und Verbraucher sowie Multiplikatoren aus der Präventions- und Vermittlungsarbeit kostenlos auf der Webseite des BSI herunterladen oder als Printversion bestellen.

In der 50. Folge des BSI-Podcasts Update verfügbar blickt das Moderationsduo außerdem gemeinsam mit BSI-Mitarbeiterin Annika Rüll auf den Hype rund um KI und diskutiert: Wo steht KI heute?

Darüber hinaus finden Verbraucherinnen und Verbraucher auch auf der Webseite des BSI weiterführende Informationen rund um IT-Sicherheit und IT-Themen wie Künstliche Intelligenz.