Immer aktiv: Neue KI-Geräte stoßen an rechtliche Grenzen

Apple, Amazon, Meta und eine Vielzahl von Startups haben in diesem Jahr KI-gestützte Geräte mit permanenter Aufnahmefunktion vorgestellt. Anders als frühere Smart Speaker, die über ein „Wake Word" aktiviert wurden, stoßen diese Geräte auf neue Weise an die Grenzen des Datenschutzrechts. Experten weisen darauf hin, dass in einigen US-Bundesstaaten die rechtliche Verantwortung für die Person liegen könnte, die das Gerät bei einem privaten Gespräch trägt – ohne die erforderliche Zustimmung der Anwesenden einzuholen.

Chris Thomas setzt voll auf KI-Gadgets. Der 43-Jährige trägt eine Kamera-Brille von Meta, einen Fieldyn-Aufzeichnungshalter um den Hals sowie ein Armband von Amazons Bee, die alle seinen Alltag dokumentieren. Der in Pittsburgh ansässige Unternehmer und Livestreamer verlässt sich auf diese Geräte, um ihn bei der Organisation zu unterstützen, Rechnungen pünktlich zu bezahlen und Erinnerungen zu setzen. „Ich vergesse alles Mögliche", sagte Thomas in einem Interview. „Mein Leben ist so chaotisch, dass es fantastisch ist, nicht daran denken zu müssen, daran denken zu müssen."

Nicht jeder schließt sich diesem Lebensstil an. Anfang dieser Woche bemerkte ein Gast in einer lokalen Bar seine Meta-Brille. „Er sagte: ‚Mir ist das unwohl'", erzählte Thomas. „Ich schalte es nicht einfach ab, sondern nehme die Brille komplett ab, weil die Leute nicht wirklich glauben, dass sie aus ist." Solche Interaktionen werden für Nutzer zunehmend zur Normalität, da immer mehr Technologieunternehmen KI-gestützte Geräte und Funktionen mit permanenter Aufnahmefunktion einführen.

Neue Gerätewelle von Amazon, Apple und Meta

Das neueste Beispiel kam am Donnerstag mit Amazons Bee Frontier Wearable und dem Bee Eclipse, einem kartenförmigen Gerät, das an ein Smartphone angebracht wird. Beide Geräte sind darauf ausgelegt, den Tag eines Nutzers aufzuzeichnen, zu transkribieren und zu analysieren. Die neueste Apple Watch Series 12, im September vorgestellt, verfügt über Siri Recap, das „im Hintergrund" während des Tages Notizen macht und Zusammenfassungen von Gesprächen erstellt. Eine weitere Funktion namens Live Rewind kann 15 Sekunden eines Gesprächs durch eine Texttranskription zusammenfassen. Metas Smart Glasses können Fotos machen, Videos aufnehmen und Sprachnotizen oder Erinnerungen aufzeichnen. Startups wie Plaud und Pocket entwickelten ebenfalls kartenförmige Aufzeichnungsgeräte, während Friend eine AI-Halskette anbietet.

Diese Geräte haben Bedenken geschürt, dass sie die Privatsphäre aushöhlen könnten, indem sie heimliche Aufzeichnungen ohne Einwilligung Dritter ermöglichen und sensible Daten sammeln, die potenziell für andere zugänglich sind. Amazon, Google und andere Hersteller von sprachgesteuerten Smart Speakern sahen sich bereits bei der Markteinführung ihrer Geräte mit ähnlichen Datenschutzbedenken konfrontiert, was in einigen Fällen zu Klagen und regulatorischen Geldbußen führte. Doch diese neue Generation von KI-Geräten testet auch die Grenzen des Datenschutzrechts.

Im Gegensatz zu früheren Smart Speakern, die über ein „Wake Word" aktiviert wurden und manchmal Aufzeichnungen speicherten oder Audio an die Cloud sendeten, können einige dieser Produkte kontinuierlich zuhören, Sprache interpretieren und deren Bedeutung extrahieren, ohne dabei die zugrunde liegenden Audiodaten zu speichern. Diese Fähigkeit hat eine weitgehend ungeprüfte Frage aufgeworfen, ob diese Verarbeitung selbst als unrechtmäßige Abhörung gewertet werden kann.

„Bei neuer Technologie wie dieser lautet mein Statement immer: Mit Vorsicht genießen", sagte Karen Panetta, Dekanin der postgradualen Ausbildung an der Tufts School of Engineering und Fellow am Institute of Electrical and Electronics Engineers. Sie fügte hinzu: „Wenn ich meine eigene Erlaubnis gebe, aufgenommen zu werden, oder dafür, dass alles, was ich ansehe, aufgezeichnet wird, bedeutet das nicht, dass alle anderen in Ihrer Umgebung diese Einwilligung gegeben haben."

Die rechtliche Grauzone der Abhörung

Apple und Amazon scheinen einige der Datenschutzbedenken umgangen zu haben, die frühere Sprachassistenten belasteten. Apple sagt, dass die Funktion keine Audiodaten speichert, keine Aufzeichnungen an ihre Server sendet und keine menschliche Überprüfung beinhaltet. Amazon hat erklärt, dass es keine Audiodaten von Bee-Geräten speichert und Gespräche in einer sicheren Umgebung verarbeitet werden, „in der niemand, einschließlich Amazon, auf Ihre Daten zugreifen kann". Dies löst jedoch möglicherweise nicht die rechtliche Frage.

Viele staatliche Gesetze gegen Abhörung und Lauschangriffe richten sich danach, ob eine private Kommunikation abgehört oder ihr Inhalt erlangt wurde – nicht einfach nur, ob eine herkömmliche Audioaufnahme erstellt wurde. Colin Zick, ein Datenschutz- und Datensicherheitsanwalt bei Foley Hoag, sagte, Apple habe aus der ersten Welle von Gerichtsverfahren über Sprachassistenten gelernt. Doch die neue Technologie stellt Fragen, auf die frühere Fälle nie antworten mussten: Kann ein System, das kontinuierlich zuhört, Sprache interpretiert und daraus eine Zusammenfassung erstellt, dennoch als Abhörung gewertet werden, wenn es die zugrunde liegenden Audiodaten nie speichert?

Einige Staatsgesetze definieren Abhörung weitreichend. Massachusetts definiert beispielsweise ein abhörendes Gerät als Ausrüstung, die in der Lage ist, eine Kommunikation „zu übertragen, zu empfangen, zu verstärken oder aufzuzeichnen", während der „Inhalt" einer Kommunikation ihre Substanz und Bedeutung umfassen kann. Nach Ansicht von Zick könnte ein Gerät, das kontinuierlich Sprache empfängt und eine schriftliche Zusammenfassung erzeugt, potenziell unter diese Definition fallen, auch ohne eine Audiodatei zu speichern. Und in einigen Staaten könnte das größere rechtliche Risiko nicht bei Apple, Amazon oder anderen Herstellern von KI-Gadgets liegen, sondern bei der Person, die das Gerät trägt. „Ein Nicht-Träger hat die Uhr nicht gekauft, den Nutzungsbedingungen von Apple nicht zugestimmt oder gewählt, dass sein Gespräch in der App zusammengefasst wird", sagte Zick.

Daniel Pi, außerordentlicher Professor an der University of New Hampshire Franklin Pierce School of Law, sagte, dass das Gesetz von New Hampshire breit genug formuliert ist, um zu glauben, dass die neuen Audio-Intelligenz-Funktionen der Uhr als Abhörung qualifizieren würden. Das Gesetz deckt nicht nur Aufzeichnungen ab, sondern auch die „akustische oder sonstige Erlangung" des Inhalts einer Kommunikation. Dies könnte eine ungewöhnliche Situation schaffen, in der ein durchschnittlicher Verbraucher eine in ein Mainstream-Gerät integrierte Funktion einschaltet und zumindest technisch gegen Landesgesetze verstößt, indem er sie bei einem privaten Gespräch ohne Zustimmung aller verwendet. Pi sagte, ein Benutzer in New Hampshire könnte potenziell zivil- oder strafrechtliche Haftung für eine solche Handlung tragen, betonte jedoch, dass das praktische Risiko einer Strafverfolgung viel geringer sei.

Die rechtlichen Fragen unterscheiden sich auch von denen, die durch frühere Smart Speaker und Sprachassistenten aufgeworfen wurden. Diese Fälle drehten sich oft um Geräte, die versehentlich aktivierten oder Sprache aufnahmen, die nicht als Befehl gedacht war. Hier ist die Funktion darauf ausgelegt, den Inhalt eines Gesprächs zu erlangen und zu interpretieren – und der Benutzer hat sich bewusst dafür entschieden. Das ändere die Analyse, sagte Pi, und könnte auch die Verantwortung eher auf den Träger als auf das Technologieunternehmen selbst verschieben.

Passanten im Visier der Überwachung

Die breiteren Datenschutzbedenken gehen darüber hinaus, wer rechtlich verantwortlich ist. Michael Stokes, ein ehemaliger CIA-Offizier und Senior Vice President für Emerging Technologies bei Veilant, sagte, der größere Wandel bestehe darin, dass Menschen in KI-gestützte Überwachung hineingezogen werden können, ohne das sammelnde Gerät zu besitzen oder wissentlich damit zu interagieren. „Ich denke, das Problem der Passanten ist wirklich meine Sorge – dass man überwacht werden kann, ohne die Technologie zu besitzen", sagte Stokes. Er verwies auf die wachsende Anzahl von Kameras, Mikrofonen und Sensoren, die in Consumer-Geräten eingebettet sind, von Smart Glasses bis hin zu Uhren und AI-Rekordern.

Der Unterschied heute, so sagte er, sei, dass KI schnell interpretieren kann, was diese Geräte sammeln, und Bedeutung aus weitaus größeren Informationsmengen ziehen kann als frühere Generationen von Consumer-Technologie. Während seiner Zeit bei der CIA half Stokes beim Entwickeln des Konzepts der ubiquitären technischen Überwachung, das eine Welt beschreibt, in der alltägliche Geräte kontinuierlich Informationen generieren, die Identitäten, Standorte und Verbindungen enthüllen können. Die Sorge sei nicht einfach, dass mehr Daten gesammelt werden könnten, sagte er, sondern dass die Kosten für das Verständnis dieser Daten dramatisch gefallen seien. In der Vergangenheit könne die Beschaffung von Intelligenz Tausende von Arbeitsstunden erfordern, um Informationen über eine Person zu sammeln, zu sortieren und zu analysieren. KI automatisiere diesen Prozess zunehmend und mache es günstiger und einfacher, nützliche Informationen aus Daten zu extrahieren, die möglicherweise zufällig gesammelt wurden. „Wir haben nicht mehr diese kleinen Privatsphären-Pockets, von denen wir dachten, dass wir sie in der Vergangenheit hatten", sagte Stokes.

Aida Baradari, Gründerin des Startups Deveillance, versucht, den besorgten Nutzern, die Angst vor Aufzeichnungen ohne ihr Einverständnis haben, etwas Kontrolle zurückzugeben. Das Unternehmen hat ein hockeyscheibenförmiges Gadget namens Spectre I entwickelt, das KI nutzt, um nach nahen Geräten zu scannen und „adversariale Signale" auszusenden, die die Sprache einer Person verschlüsseln, bevor Mikrofone sie verarbeiten können. Baradari sagte, sie habe beobachtet, wie mehr AI-Wearables auf den Markt kamen, und fühlte, dass Nutzer mehr Mitsprache darüber haben sollten, wie sie mit ihnen interagieren. „Wir müssen in der Lage sein, Technologie zu nutzen, ohne unsere Kernwerte oder Rechte aufzugeben", sagte sie.

Für deutsche Beobachter ist die Entwicklung aufschlussreich: Während die USA auf ein Flickenteppich aus einzelstaatlichen Abhörgesetzen setzen, gilt in der EU mit der Datenschutz-Grundverordnung ein einheitlicher Rahmen, der die Verarbeitung personenbezogener Daten strenger regelt. Die Debatte um permanente KI-Aufzeichnung dürfte damit auch hierzulande an Bedeutung gewinnen, je mehr solcher Geräte den Markt erreichen.