Kompetenzen für den selbstbestimmten Umgang mit sprachbasierten KI-Systemen

Für ein Verständnis der Funktionsprinzipien wird Wissen über alle Funktionsabläufe, Datenverarbeitungsmechanismen und Systemeigenschaften von sprachbasierten KI-Systemen benötigt.

Eine kompetente Nutzung von sprachbasierten KI-Systemen setzt ein grundlegendes Verständnis voraus, wie diese Systeme überhaupt funktionieren. Dafür müssen die internen Prozesse für jeden sichtbar und verständlich gemacht werden. Zunächst ist es wichtig zu verstehen, wie die Geräte menschliche Sprache in Form von Sprachbefehlen verarbeiten. Dazu gehört, wie der aufgenommene Sprachbefehl in Daten umgewandelt und diese Daten anschließend verarbeitet und in die Provider-Cloud übertragen werden. Damit ein Sprachassistent jederzeit Sprachbefehle empfangen und darauf reagieren kann, sind die Mikrofone des Geräts dauerhaft aktiv. Das erfordert zusätzlich ein besonderes Bewusstsein im Umgang mit dem Gerät. Zusammenfassend erhöht ein besseres Verständnis der Funktionsweise die Nutzungsbereitschaft und hilft dabei, potenzielle Risiken besser einzuschätzen und damit die Offenlegung sensibler Informationen zu verringern.

Für eine korrekte Handhabung ist es wichtig, über Funktionen und Grenzen sprachbasierter KI-Systeme informiert zu sein und einen richtigen Umgang zu beherrschen. Neben bekannten Funktionen wie die schnelle Informationssuche werden die Geräte beispielsweise auch für die Stimmungsregulation eingesetzt. Sprachassistenten können im Alltag negative Gefühle wie z. B. Einsamkeit lindern und die Stimmung der Nutzenden verbessern. Jedoch können bereits kleine Aussprachefehler dazu führen, dass Sprachbefehle missverstanden oder nicht ausgeführt werden. Es ist also wichtig zu lernen, welche Sprachbefehle funktionieren und mit welchen Eigenarten der menschlichen Sprache (z. B. Sprechpausen, Versprecher oder Metaphern) die Geräte Schwierigkeiten haben. Einige Experten sind sogar der Meinung, dass die derzeitigen Systeme noch nicht weit genug entwickelt sind. So funktionieren die Geräte trotz korrekter Handhabung häufig nicht wie gewünscht, was frustrierend sein kann.

Ein grundlegendes Verständnis der Funktionsweise von Künstlicher Intelligenz (kurz: KI) und maschinellem Lernen setzt zunächst das Wissen voraus, dass jede KI Trainingsdaten benötigt, um auf deren Grundlage Vorhersagen zu treffen. Datenqualität, Feedback oder auch die eigenen Interaktionsdaten haben dabei einen erheblichen Einfluss auf den Trainingsprozess. Sprachassistenten benötigen beispielsweise Feedback, um ein möglichst hohes Maß an personalisierten Antworten und Aktionen zu liefern. Letztlich ist KI immer nur so leistungsfähig wie die Daten, mit denen sie trainiert wurde. Fehlendes Wissen über die grundlegenden Funktionsmechanismen kann falsche Vorstellungen und Erwartungen hervorrufen und dadurch eine kompetente Nutzung beeinträchtigen.

Für einen kompetenten Umgang mit sprachbasierter KI gehört das Bewusstsein, dass Systeme Algorithmen verwenden, um Nutzeranfragen zu verarbeiten. Dabei können unterschiedliche Kontext- und Nutzerinformationen zu gefilterten oder verzerrten Suchergebnissen führen. So ist es möglich, dass verschiedene Personen auf dieselbe Anfrage unterschiedliche Suchergebnisse erhalten. Sprachbasierte KI-Systeme fungieren zudem als eine Art „Torwächter“. Da lediglich eine Antwort der Websuche vorgelesen wird, entscheidet das System, welche Informationen weitergegeben werden und welche nicht. Hinzu kommt, dass Menschen Informationen von Sprachassistenten glaubwürdiger einstufen als Ergebnissen einer klassischen Suchanfrage über Suchmaschinen. Aus diesem Grund ist es besonders wichtig, die gelieferten Informationen und deren Glaubwürdigkeit kritisch zu hinterfragen. Ein Bewusstsein für Algorithmen schützt davor systemgenerierten Informationen ausgeliefert zu sein und hat zudem einen erheblichen Einfluss auf Datenschutzbedenken.

Wichtige Voraussetzungen für eine sichere Interaktion mit sprachbasierter KI stellen das Erkennen potenzieller Risiken für die Privatsphäre sowie das Verwalten und Schützen der eigenen Daten dar. Zu den potenziellen Sicherheitsrisiken zählen beispielsweise gängige Praktiken der Anbieter hinsichtlich des Teilens und Verarbeitens von Daten sowie die daraus resultierenden Konsequenzen für die Nutzenden. Ein weiteres potenzielles Risiko besteht darin, dass Sprachassistenten versehentlich aktiviert werden und dadurch unerwünschte Sprachaufzeichnungen an die Provider-Clouds gelangen können. Um diesen Risiken entgegenzuwirken, sollten sich Nutzende über konkrete Maßnahmen zum Schutz der Privatsphäre informieren wie beispielsweise das Deaktivieren geräteinterner Einstellungen. Dafür ist neben dem Erkennen von möglichen Gefahren zusätzlich das Wissen wichtig, welche Daten überhaupt ein mögliches Sicherheitsrisiko bergen. Aufgrund unzureichender Informationen stellt das für viele Menschen eine Herausforderung dar. Hinzu kommt, dass Datenschutzbedenken häufig heruntergespielt und private Daten offengelegt werden, um von den Vorteilen der Geräte stärker zu profitieren.

Menschenähnliche Merkmale von sprachbasierten KI-Systemen können die Wahrnehmung und das Verhalten von Menschen unbewusst beeinflussen oder gar manipulieren. Für eine kompetente Nutzung ist daher die Fähigkeit zur Erkennung und Verhinderung einer möglichen Beeinflussung notwendig. Anthropomorphe Merkmale (z. B. Sprachfähigkeit) von Geräten lassen diese menschenähnlich erscheinen. Dadurch reagieren Menschen sozial auf sie und nehmen sie als vertrauenswürdig und kompetent wahr. Diese automatische Reaktion kann unterschiedliche Folgen haben. Zum einen geben Personen tendenziell mehr persönliche Daten über sich preis. Zum anderen kann das dadurch erzeugte Vertrauen für kommerzielle Zwecke ausgenutzt werden. Käufe über Sprachassistenten werden nicht nur als bequemer und niedrigschwelliger wahrgenommen, sondern verleiten auch zu unbedachten und impulsiven Kaufentscheidungen. Zukünftige Entwicklungen gehen sogar noch weiter. Amazon hat beispielsweise ein Patent eingereicht, das körperliche (z. B. Husten) und emotionale Zustände (z. B. Müdigkeit) auf der Grundlage der Stimme der Nutzenden analysiert. Basierend auf den dadurch gelieferten Hinweisen bieten die Systeme beiläufige Empfehlungen und Produktvorschläge an, was das Kaufverhalten beeinflussen kann.

Während der Interaktion mit sprachbasierten KI-Systemen können negative Emotionen (z. B. Angst oder Frustration) auftreten. Ein konstruktiver Umgang mit diesen Emotionen ist wichtig, um unrealistische Ängste zu erkennen und abzubauen sowie realistische Vorstellungen über die Geräte zu entwickeln. Negative Emotionen beeinflussen nämlich nicht nur die Interaktion generell, sondern führen auch zu einer Nicht-Nutzung und einem Unverständnis von Technologien. Frustration erleben Personen z. B. dann, wenn ein Sprachbefehl nicht richtig verstanden wird oder Erwartungen an das Gerät nicht erfüllt werden. Angst kann in diesem Kontext verschiedene Auslöser haben. Beispielsweise Sorgen über den Schutz der eigenen Privatsphäre, die unerlaubten Zugriffe durch Dritte oder die Künstliche Intelligenz generell. Aber auch Angst vor sozialer Ausgrenzung, wenn eine neue Technologie nicht genutzt wird, spielt häufig eine Rolle.

Zu einer kompetenten Interaktion mit sprachbasierten KI-Systemen gehört auch das eigene Verhalten reflektieren, bewerten und interpretieren zu können. Dabei sollten sowohl die eigenen Bedürfnisse als auch ethische Aspekte und Risiken berücksichtigt werden. Die Reflexion des eigenen Nutzungsverhaltens ist einerseits wichtig, um die zukünftige Nutzung entsprechend der eigenen Bedürfnisse anzupassen sowie andererseits, um zu entscheiden, welche Daten eine Person wirklich mit dem Anbieter teilen möchte. Zudem kann das Nachdenken über die Wirkung anthropomorpher Technologien dabei helfen, das Auslösen bestimmter automatischer Nutzerreaktionen besser zu kontrollieren.

Für bestimmte Nutzergruppen und Anwendungsbereiche sind Programmierkenntnisse von Vorteil. Sie sind beispielsweise hilfreich, um Fähigkeiten von Sprachassistenten zu entwickeln oder Gerätefunktionen an die individuellen Bedürfnisse der Nutzenden anzupassen. Für die alltägliche Interaktion mit KI sind Programmierkenntnisse jedoch nicht erforderlich. Das Wissen über die grundlegenden Funktionsweisen von KI-Systemen und Algorithmen ist für einen kompetenten Umgang deutlich wichtiger.

Für Kinder und Jugendliche stellen enge Bezugspersonen eine wichtige Informationsquelle hinsichtlich der Nutzung von Technologien dar. Deswegen ist es besonders wichtig, dass Eltern, Pädagogen oder andere betreuende Personen in der Lage sind, Wissen über sprachbasierte KI-Systeme verständlich zu vermitteln sowie das Nutzungsverhalten von Kindern und Jugendlichen zu beobachten und pädagogisch zu bewerten. Eine frühe Förderung der Technologieaffinität durch Bezugspersonen, sei es in der Schule oder zuhause, kann für Kinder viele Vorteile haben. Zum einen wirkt sie sich positiv auf das Verständnis der Gerätefunktionen, die Entwicklung realistischer Erwartungen und ein höheres Maß an Motivation aus. Zum anderen führt eine höhere Technologieaffinität zu weniger Problemen während der Interaktion mit sprachbasierten KI-Systemen.