// HEISE ONLINE — HARDWARE & GADGET
Gehirndaten von Neurotech-Nutzern werden heimlich für KI-Training genutzt
Eine Recherche zeigt: Gehirnaktivitäten von Neurotech-Nutzern werden ohne deren Wissen für das Training von KIs verwendet.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Laut einer Recherche von Science speichern zahlreiche Anbieter von Gehirnaktivitäts-Messgeräten die Gehirndaten der Nutzer – unter anderem, um KIs damit zu trainieren. In den Datenschutzerklärungen dieser Unternehmen stehe davon in der Regel nichts.
Zahlreiche Unternehmen tummeln sich auf dem Neurotech-Sektor. Es gibt etwa eine Art Stirnband, mit der Menschen mit Schlafstörungen ihre Gehirnaktivitäten messen können. Die Daten hieraus sollen helfen, ihren Schlaf zu verbessern, so das Produktversprechen vom Anbieter Interaxon. Solche EEG-Messgeräte für Endnutzer sind ein wachsender Markt. Apple meldete 2023 beispielsweise ein Patent für Earbuds an, die Gehirnaktivitäten messen können sollen. Metas Neural Band soll winzige elektrische Pulse am Handgelenk messen.
Erst im Oktober warnten die UNESCO und OECD davor, dass die zunehmenden Gehirnstrommessungen Regierungen Zugang zu unseren Gedanken geben könnten. Datenschützer und Experten fordern deshalb klare gesetzliche Regeln für den Umgang mit Neurodaten und Gehirn-Computer-Schnittstellen. Von den von Science untersuchten 57 Neurotech-Unternehmen gibt die Mehrheit an, die Gehirndaten ihrer Nutzer zu sammeln und speichern.
Die Firma Interaxon besitzt laut den Recherchen von Science rund 50.000 Stunden aufgezeichnete Gehirnaktivitäten ihrer Nutzer. Diese Daten seien der wertvollste Teil ihres Unternehmens, so ein Unternehmenssprecher gegenüber Science. Mit diesen Daten trainieren sie unter anderem ihre KI „brain foundation model“, mit dessen Hilfe sie besser verstehen wollen, wie das Gehirn funktioniert.
In der Datenschutzerklärung stehe davon bisher nichts, heißt es weiter – die Nutzer könnten also nicht wissen, dass ihre eigenen Gehirnaktivitäten zum KI-Training genutzt wurden. Auf die Recherchen von Science hin hat Interaxon das in seinen Unterlagen nun wohl ergänzt. Auch dass KI-Modelle mit sensiblen Nutzerdaten trainiert werden, ohne dass Betroffene es wissen, ist ein wachsendes Thema in der KI-Regulierungsdebatte.
Experten streiten jedoch, wie viel sich aus den Gehirndaten ablesen lässt, die mit solchen Neurotech-Gadgets aufgezeichnet werden. Im Gegensatz zu klinischen EEG-Messgeräten arbeiten sie häufig mit deutlich weniger Elektroden und decken weniger Gehirnbereiche ab. Sie geben also einen Einblick in unsere Gedankenwelt, womöglich aber keinen ganz so tiefen. Hierzu gibt es aktuell nicht genug hochwertige Studien, um das zu beurteilen.
Grundsätzlich ist vor allem KI aber zunehmend in der Lage, unsere Gehirnsignale zu interpretieren. In einem Experiment konnten sie zum Beispiel Bilder erstaunlich präzise nachbilden, die der zu untersuchende Mensch gerade sah. Auch deswegen warnen Experten seit Längerem vor den Risiken, wenn kommerzielle Konzerne Neurotechnologie als Massentool einsetzen und dabei umfangreiche Gehirndaten sammeln.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online