Sonderbericht: Tesla-Mitarbeiter teilten vertrauliche Bilder, die von Kundenautos aufgenommen wurden

LONDON/SAN FRANCISCO, 6. April (Reuters) – Tesla Inc. versichert seinen Millionen Besitzern von Elektroautos, dass ihre Privatsphäre „für uns enorm wichtig ist und immer sein wird“. Die Kameras, die das Unternehmen zur Unterstützung beim Fahren in Fahrzeuge einbaut, seien „von Grund auf darauf ausgelegt, Ihre Privatsphäre zu schützen“, heißt es auf der Website.

Doch zwischen 2019 und 2022 tauschten Gruppen von Tesla-Mitarbeitern privat über ein internes Nachrichtensystem mitunter äußerst aufdringliche Videos und Bilder aus, die von den Autokameras der Kunden aufgenommen wurden, wie aus Reuters-Interviews mit neun ehemaligen Mitarbeitern hervorgeht.

Einige der Aufnahmen brachten Tesla-Kunden in peinliche Situationen. Ein ehemaliger Mitarbeiter beschrieb ein Video, in dem ein Mann völlig nackt auf ein Fahrzeug zusteuerte.

Auch geteilt: Unfälle und Unfälle im Straßenverkehr. Laut einem anderen ehemaligen Mitarbeiter zeigte ein Unfallvideo aus dem Jahr 2021, wie ein Tesla mit hoher Geschwindigkeit in einem Wohngebiet fuhr und dabei ein Kind auf dem Fahrrad anfuhr. Das Kind flog in die eine Richtung, das Fahrrad in die andere. Das Video verbreitete sich in einem Tesla-Büro in San Mateo, Kalifornien, über private Einzelgespräche „wie ein Lauffeuer“, sagte der ehemalige Mitarbeiter.

Andere Bilder waren banaler, etwa Bilder von Hunden und lustigen Verkehrsschildern, die Mitarbeiter in Memes verwandelten, indem sie sie mit amüsanten Bildunterschriften oder Kommentaren ausschmückten, bevor sie sie in privaten Gruppenchats veröffentlichten. Während einige Posts nur zwischen zwei Mitarbeitern geteilt wurden, konnten andere nach Angaben mehrerer ehemaliger Mitarbeiter von Dutzenden von ihnen gesehen werden.

Tesla gibt in seiner Online-Datenschutzerklärung für Kunden an, dass seine „Kameraaufzeichnungen anonym bleiben und nicht mit Ihnen oder Ihrem Fahrzeug in Verbindung gebracht werden“. Aber sieben ehemalige Mitarbeiter sagten Reuters, dass das Computerprogramm, das sie bei der Arbeit verwendeten, den Ort der Aufzeichnungen anzeigen könne – was möglicherweise Aufschluss darüber geben könnte, wo ein Tesla-Besitzer lebte.

Ein ehemaliger Mitarbeiter sagte auch, dass offenbar einige Aufnahmen gemacht worden seien, als Autos geparkt und abgestellt wurden. Vor einigen Jahren erhielt Tesla mit Zustimmung der Besitzer auch im ausgeschalteten Zustand Videoaufzeichnungen von seinen Fahrzeugen. Seitdem hat es damit aufgehört.

„Wir konnten in die Garagen der Leute und ihre Privatgrundstücke schauen“, sagte ein anderer ehemaliger Mitarbeiter. „Nehmen wir an, ein Tesla-Kunde hätte etwas Besonderes in seiner Garage, dann würden die Leute solche Dinge posten.“

Tesla antwortete nicht auf detaillierte Fragen, die für diesen Bericht an das Unternehmen gesendet wurden.

Vor etwa drei Jahren stießen einige Mitarbeiter zufällig auf ein Video eines einzigartigen Tauchfahrzeugs, das in einer Garage geparkt war, und teilten es, wie zwei Personen berichteten, die es sich angesehen hatten. Das weiße Lotus-Esprit-U-Boot mit dem Spitznamen „Wet Nellie“ war 1977 im James-Bond-Film „Der Spion, der mich liebte“ zu sehen.

Der Besitzer des Fahrzeugs: Tesla-Chef Elon Musk, der es 2013 bei einer Auktion für rund 968.000 US-Dollar ersteigert hatte. Es ist nicht klar, ob Musk Kenntnis von dem Video hatte oder ob es geteilt wurde.

Das Tauchboot von Lotus mit dem Spitznamen „Wet Nellie“, das im James-Bond-Film „Der Spion, der mich liebte“ von 1977 zu sehen war und das Tesla-Chef Elon Musk 2013 kaufte. Tim Scott ©2013 Mit freundlicher Genehmigung von RM Sotheby's

Musk antwortete nicht auf eine Bitte um Stellungnahme.

Um über diese Geschichte zu berichten, kontaktierte Reuters mehr als 300 ehemalige Tesla-Mitarbeiter, die in den letzten neun Jahren für das Unternehmen gearbeitet und an der Entwicklung seines selbstfahrenden Systems beteiligt waren. Mehr als ein Dutzend erklärten sich bereit, Fragen zu beantworten, alle unter der Bedingung der Anonymität.

Reuters konnte keines der geteilten Videos oder Bilder erhalten, da ehemalige Mitarbeiter sagten, sie hätten sie nicht aufbewahrt. Die Nachrichtenagentur konnte auch nicht feststellen, ob die Praxis der Weitergabe von Aufzeichnungen, die in einigen Teilen von Tesla noch letztes Jahr stattfand, heute noch anhält und wie weit verbreitet sie war. Einige kontaktierte ehemalige Mitarbeiter gaben an, dass die einzige von ihnen beobachtete Weitergabe legitimen Arbeitszwecken diente, etwa der Suche nach Hilfe von Kollegen oder Vorgesetzten.

Das Teilen sensibler Videos verdeutlicht eine der weniger beachteten Eigenschaften künstlicher Intelligenzsysteme: Sie erfordern oft Armeen von Menschen, die dabei helfen, Maschinen beizubringen, automatisierte Aufgaben wie das Fahren zu erlernen.

Seit etwa 2016 beschäftigt Tesla Hunderte von Menschen in Afrika und später auch in den Vereinigten Staaten, um Bilder zu beschriften, damit seine Autos lernen, Fußgänger, Straßenschilder, Baufahrzeuge, Garagentore und andere Gegenstände zu erkennen, denen man auf der Straße oder bei Kunden zu Hause begegnet . Um dies zu erreichen, erhielten Datenetikettierer Zugriff auf Tausende von Videos oder Bildern, die von Autokameras aufgezeichnet wurden, um Objekte anzuzeigen und zu identifizieren.

DATEIFOTO: Während einer Tesla-Veranstaltung 2015 in Palo Alto wird auf die nach vorne gerichtete Kamera eines Tesla Model S mit Autopilot-Funktionen hingewiesen. REUTERS/Beck Diefenbach

Tesla hat den Prozess zunehmend automatisiert und letztes Jahr in San Mateo, Kalifornien, einen Hub zur Datenkennzeichnung geschlossen. Aber es beschäftigt weiterhin Hunderte von Datenetikettierern in Buffalo, New York. Im Februar gab Tesla bekannt, dass die Mitarbeiterzahl dort in den letzten sechs Monaten um 54 % auf 675 gewachsen sei.

Zwei ehemalige Mitarbeiter gaben an, dass ihnen die Weitergabe der Bilder nichts ausmachte, da die Kunden ihr Einverständnis gegeben hätten oder dass die Menschen schon vor langer Zeit jede vernünftige Erwartung aufgegeben hätten, personenbezogene Daten vertraulich zu behandeln. Drei andere sagten jedoch, dass sie darüber beunruhigt seien.

„Um ehrlich zu sein, war es eine Verletzung der Privatsphäre. Und ich habe immer gescherzt, dass ich nie einen Tesla kaufen würde, nachdem ich gesehen habe, wie sie einige dieser Leute behandelt haben“, sagte ein ehemaliger Mitarbeiter.

Ein anderer sagte: „Es stört mich, weil die Leute, die das Auto kaufen, meiner Meinung nach nicht wissen, dass ihre Privatsphäre nicht respektiert wird … Wir konnten sehen, wie sie Wäsche waschen und wirklich intime Dinge tun.“ Wir konnten ihre Kinder sehen.“

Ein ehemaliger Mitarbeiter sah nichts Falsches daran, Bilder zu teilen, bezeichnete jedoch eine Funktion, die es Datenkennern ermöglichte, den Standort von Aufnahmen auf Google Maps anzuzeigen, als „massiven Eingriff in die Privatsphäre“.

David Choffnes, Geschäftsführer des Cybersecurity and Privacy Institute an der Northeastern University in Boston, bezeichnete die Weitergabe sensibler Videos und Bilder durch Tesla-Mitarbeiter als „moralisch verwerflich“.

„Jeder normale Mensch wäre darüber entsetzt“, sagte er. Er wies darauf hin, dass die Verbreitung sensibler und persönlicher Inhalte als Verstoß gegen Teslas eigene Datenschutzrichtlinien ausgelegt werden könnte – was möglicherweise zu einem Eingreifen der US-amerikanischen Federal Trade Commission führen könnte, die Bundesgesetze in Bezug auf die Privatsphäre der Verbraucher durchsetzt.

Ein Sprecher der FTC sagte, sie äußere sich nicht zu einzelnen Unternehmen oder deren Verhalten.

Um die Technologie für selbstfahrende Autos zu entwickeln, sammelt Tesla umfangreiche Daten aus seiner weltweiten Flotte von mehreren Millionen Fahrzeugen. Das Unternehmen verlangt von Autobesitzern, dass sie auf den Touchscreens der Autos ihre Erlaubnis erteilen, bevor Tesla die Daten ihrer Fahrzeuge erfasst. „Ihre Daten gehören Ihnen“, heißt es auf der Website von Tesla.

DATEIFOTO: Ein Tesla Model 3-Fahrzeug wird mit der Autopilot Full Self Driving Beta-Software (FSD) beim Navigieren auf einer Stadtstraße in Encinitas, Kalifornien, Februar 2023 gezeigt. REUTERS/Mike Blake

In seiner Datenschutzerklärung für Kunden erklärt Tesla, dass, wenn ein Kunde der Weitergabe von Daten zustimmt, „Ihr Fahrzeug die Daten sammeln und sie Tesla zur Analyse zur Verfügung stellen kann.“ Diese Analyse hilft Tesla, seine Produkte und Funktionen zu verbessern und Probleme schneller zu diagnostizieren.“ Darin heißt es auch, dass die Daten „kurze Videoclips oder Bilder“ enthalten können, aber nicht mit dem Konto oder der Fahrzeugidentifikationsnummer eines Kunden verknüpft sind und „Sie nicht persönlich identifizieren“.

Carlo Piltz, ein Datenschutzanwalt in Deutschland, erklärte gegenüber Reuters, es sei schwierig, im Rahmen des europäischen Datenschutzrechts eine rechtliche Rechtfertigung dafür zu finden, dass Fahrzeugaufzeichnungen intern weitergegeben werden, wenn dies „nichts mit der Bereitstellung eines Safes zu tun hat“. Auto oder die Funktionalität“ von Teslas selbstfahrendem System.

In den letzten Jahren sorgte das Autokamerasystem von Tesla für Kontroversen. In China haben einige Regierungsgebäude und Wohnviertel Teslas wegen Bedenken hinsichtlich der Kameras verboten. Als Reaktion darauf sagte Musk in einem virtuellen Vortrag auf einem chinesischen Forum im Jahr 2021: „Wenn Tesla in China oder anderswo Autos zur Spionage nutzt, werden wir abgeschaltet.“

Andernorts haben Aufsichtsbehörden das Tesla-System auf mögliche Datenschutzverletzungen untersucht. Allerdings konzentrieren sich die Datenschutzfälle in der Regel nicht auf die Rechte von Tesla-Besitzern, sondern auf Passanten, die nicht wissen, dass sie möglicherweise von geparkten Tesla-Fahrzeugen aufgezeichnet werden.

Im Februar gab die niederländische Datenschutzbehörde (DPA) bekannt, dass sie eine Untersuchung gegen Tesla wegen möglicher Datenschutzverletzungen im Zusammenhang mit dem „Sentry-Modus“ abgeschlossen habe, einer Funktion, die darauf abzielt, verdächtige Aktivitäten beim Parken eines Autos aufzuzeichnen und den Besitzer zu alarmieren.

Reuters-Bild

„Menschen, die an diesen Fahrzeugen vorbeigingen, wurden gefilmt, ohne es zu wissen. Und die Besitzer der Teslas könnten zurückgehen und sich diese Bilder ansehen“, sagte DPA-Vorstandsmitglied Katja Mur in einer Erklärung. „Wenn eine Person eines dieser Fahrzeuge vor dem Fenster einer anderen Person parkte, konnte sie hineinspionieren und alles sehen, was die andere Person tat. Das ist eine schwere Verletzung der Privatsphäre.“

Die Aufsichtsbehörde stellte fest, dass nicht Tesla, sondern die Besitzer der Fahrzeuge rechtlich für die Aufzeichnungen ihrer Autos verantwortlich waren. Es hieß, man habe beschlossen, keine Geldbuße gegen das Unternehmen zu verhängen, nachdem Tesla erklärt hatte, dass es mehrere Änderungen am Sentry-Modus vorgenommen habe, unter anderem, dass die Scheinwerfer eines Fahrzeugs pulsieren, um Passanten darüber zu informieren, dass sie möglicherweise aufgezeichnet werden.

Ein DPA-Sprecher lehnte es ab, sich zu den Ergebnissen von Reuters zu äußern, sagte jedoch in einer E-Mail: „Personenbezogene Daten müssen für einen bestimmten Zweck verwendet werden und sensible personenbezogene Daten müssen geschützt werden.“

MENSCHLICHE FAHRER ERSETZEN

Tesla nennt sein automatisiertes Fahrsystem Autopilot. Das im Jahr 2015 eingeführte System umfasste so fortschrittliche Funktionen wie den Spurwechsel durch Betätigen des Blinkers und das Parallelparken auf Befehl. Damit das System funktioniert, installierte Tesla zunächst Sonarsensoren, Radar und eine einzelne nach vorne gerichtete Kamera oben an der Windschutzscheibe. Eine Folgeversion, die 2016 eingeführt wurde, umfasste acht Kameras rund um das Auto, um mehr Daten zu sammeln und mehr Funktionen zu bieten.

Musks Zukunftsvision besteht darin, irgendwann einen „Full Self-Driving“-Modus anzubieten, der einen menschlichen Fahrer ersetzen würde. Tesla begann im Oktober 2020 mit der Einführung einer experimentellen Version dieses Modus. Obwohl der Fahrer dabei die Hände am Lenkrad lassen muss, bietet er derzeit Funktionen wie die Möglichkeit, ein Auto automatisch abzubremsen, wenn es sich Stoppschildern oder Ampeln nähert.

Teslas Autopilot-System

Dieser Auszug aus der Bedienungsanleitung des Tesla Model X erklärt das Autopilot-System des Fahrzeugs, einschließlich der Kameras, die Videos der Fahrzeugumgebung aufzeichnen. Reuters fand heraus, dass Tesla-Mitarbeiter Clips geteilt hatten, die sensible und peinliche persönliche Momente festhielten.

Im Februar rief Tesla mehr als 362.000 US-Fahrzeuge zurück, um ihre Software für das vollständige selbstfahrende Fahren zu aktualisieren, nachdem die National Highway Traffic Safety Administration erklärt hatte, dass dadurch Fahrzeuge Geschwindigkeitsbegrenzungen überschreiten und möglicherweise Unfälle an Kreuzungen verursachen könnten.

Wie bei vielen Projekten im Bereich der künstlichen Intelligenz beauftragte Tesla für die Entwicklung des Autopiloten Datenetikettierer mit der Identifizierung von Objekten in Bildern und Videos, um dem System beizubringen, wie es reagieren soll, wenn das Fahrzeug unterwegs oder geparkt ist.

Tesla habe die Datenkennzeichnung zunächst an eine in San Francisco ansässige gemeinnützige Organisation namens Samasource ausgelagert, sagten mit der Angelegenheit vertraute Personen gegenüber Reuters. Die Organisation hatte ein Büro in Nairobi, Kenia, und war darauf spezialisiert, benachteiligten Frauen und Jugendlichen Ausbildungs- und Beschäftigungsmöglichkeiten anzubieten.

Laut einer mit der Angelegenheit vertrauten Person stellte Samasource im Jahr 2016 etwa 400 Arbeitskräfte für Tesla zur Verfügung, ursprünglich waren es etwa 20.

Im Jahr 2019 war Tesla jedoch mit der Arbeit der Datenetikettierer von Samasource nicht mehr zufrieden. Bei einer Veranstaltung namens Tesla AI Day im Jahr 2021 sagte Andrej Karpathy, damals Senior Director of AI bei Tesla: „Leider stellten wir sehr schnell fest, dass die Zusammenarbeit mit einem Dritten zur Beschaffung von Datensätzen für etwas so Kritisches einfach nicht ausreichen würde.“ es … Ehrlich gesagt war die Qualität nicht großartig.“

Ein ehemaliger Tesla-Mitarbeiter sagte über die Samasource-Etikettierer: „Sie haben Hydranten als Fußgänger markiert … Sie haben ständig Objekte übersehen.“ Ihre Fähigkeit, Kisten zu zeichnen, war sehr gering.“

Samasource, jetzt Sama genannt, lehnte es ab, sich zu seiner Arbeit für Tesla zu äußern.

Tesla hat beschlossen, die Datenkennzeichnung intern einzuführen. „Im Laufe der Zeit sind wir zu einer Datenkennzeichnungsorganisation (Organisation) mit mehr als 1.000 Mitarbeitern herangewachsen, die voll von professionellen Kennzeichnern ist, die sehr eng mit den Ingenieuren zusammenarbeiten“, sagte Karpathy in seiner Präsentation im August 2021.

Karpathy antwortete nicht auf Anfragen nach Kommentaren.

Teslas eigene Datenetikettierer waren zunächst in der San Francisco Bay Area tätig, darunter auch im Büro in San Mateo. Den Gruppen von Datenbeschriftern wurden verschiedene Aufgaben übertragen, darunter die Kennzeichnung von Straßenmarkierungen oder Einsatzfahrzeugen, sagten ehemalige Mitarbeiter.

Zu einem bestimmten Zeitpunkt hatten Teslas mit Autopilot Schwierigkeiten, rückwärts aus Garagen herauszukommen, und gerieten in Verwirrung, wenn sie auf Schatten oder Gegenstände wie Gartenschläuche trafen. Daher wurden einige Datenbeschrifter gebeten, Objekte in Videos zu identifizieren, die in Garagen aufgenommen wurden. Das Problem wurde schließlich gelöst.

In Interviews sagten zwei ehemalige Mitarbeiter, dass sie im Rahmen ihrer normalen Arbeitsaufgaben manchmal gebeten wurden, sich Bilder von Kunden in und um ihre Häuser, einschließlich Garagen, anzusehen.

„Ich habe mich manchmal gefragt, ob diese Leute wissen, dass wir das sehen“, sagte einer.

„Ich habe manchmal skandalöse Dinge gesehen, wissen Sie, zum Beispiel habe ich Szenen voller Intimität, aber nicht Nacktheit gesehen“, sagte ein anderer. „Und es gab definitiv eine Menge Dinge, von denen ich nicht wollte, dass sie irgendjemand aus meinem Leben erfährt.“

Als Beispiel erinnerte sich diese Person daran, „peinliche Gegenstände“ gesehen zu haben, wie „bestimmte Wäschestücke, bestimmte Sex-Wellness-Artikel … und nur private Szenen des Lebens, in die wir wirklich eingeweiht waren, weil das Auto aufgeladen wurde.“

MEMES IM BÜRO SAN MATEO

Tesla besetzte sein Büro in San Mateo überwiegend mit jungen Mitarbeitern in den Zwanzigern und frühen Dreißigern, die eine Kultur mitbrachten, die unterhaltsame Memes und virale Online-Inhalte schätzte. Ehemalige Mitarbeiter beschrieben eine lockere Atmosphäre in Chatrooms, in der Arbeiter Witze über Bilder austauschten, die sie beim Etikettieren angesehen hatten.

Nach Angaben mehrerer ehemaliger Mitarbeiter haben einige Etikettierer Screenshots, teilweise mit Adobe Photoshop markiert, in privaten Gruppenchats auf Mattermost, dem internen Nachrichtensystem von Tesla, geteilt. Dort würden sie Reaktionen von anderen Arbeitern und Managern hervorrufen. Die Teilnehmer fügten auch ihre eigenen markierten Bilder, Witze oder Emojis hinzu, um die Konversation am Laufen zu halten. Einige der Emojis seien speziell für Office-Inside-Witze erstellt worden, sagten mehrere ehemalige Mitarbeiter.

Ein ehemaliger Labeler beschrieb das Teilen von Bildern als eine Möglichkeit, „die Monotonie zu durchbrechen“. Ein anderer beschrieb, wie das Teilen bei Gleichaltrigen Bewunderung hervorrief.

„Wenn du etwas Cooles gesehen hast, das eine Reaktion hervorgerufen hat, postest du es, richtig, und später, in der Pause, kamen die Leute auf dich zu und sagten: ‚Oh, ich habe gesehen, was du gepostet hast.‘ Das war lustig“, sagte dieser ehemalige Etikettierer. „Leute, die in Führungspositionen befördert wurden, teilten viele dieser lustigen Dinge und erlangten den Ruf, witzig zu sein.“

Einige der geteilten Inhalte ähnelten Memes im Internet. Es gab Hunde, interessante Autos und Clips von Menschen, die von Tesla-Kameras gefilmt wurden, als sie stolperten und stürzten. Es gab auch beunruhigende Inhalte, etwa dass jemand scheinbar gegen seinen Willen in ein Auto gezerrt wurde, sagte ein ehemaliger Mitarbeiter.

Videoclips von Unfällen mit Beteiligung von Teslas wurden manchmal auch in privaten Chats auf Mattermost geteilt, sagten mehrere ehemalige Mitarbeiter. Dazu gehörten Beispiele für schlechtes Fahrverhalten oder Zusammenstöße mit angefahrenen Personen, die mit dem Fahrrad – etwa mit dem Kind – oder einem Motorrad unterwegs waren. Einige Datenetikettierer spulten solche Clips zurück und spielten sie in Zeitlupe ab.

DATEIFOTO: Während eines Medientages für die Auto Shanghai Show im April 2021 ist eine Kamera auf der Karosserie eines Tesla-Elektrofahrzeugs (EV) zu sehen. REUTERS/Aly Song

Manchmal gingen Tesla-Manager hart gegen die unangemessene Weitergabe von Bildern auf öffentlichen Mattermost-Kanälen vor, da sie behaupteten, die Praxis verstoße gegen die Unternehmensrichtlinien. Dennoch kursierten weiterhin Screenshots und darauf basierende Memes in privaten Chats auf der Plattform, sagten mehrere ehemalige Mitarbeiter. Die Arbeiter teilten sie noch Mitte letzten Jahres einzeln oder in kleinen Gruppen.

Einer der Vorteile der Arbeit für Tesla als Datenetikettierer in San Mateo war die Chance, einen Preis zu gewinnen – die Nutzung eines Firmenwagens für ein oder zwei Tage, so zwei ehemalige Mitarbeiter.

Doch einige der glücklichen Gewinner wurden beim Fahren der Elektroautos paranoid.

„Zu wissen, wie viele Daten diese Fahrzeuge sammeln können, hat die Leute definitiv nervös gemacht“, sagte ein ehemaliger Mitarbeiter.

Unsere Standards: Die Thomson Reuters Trust Principles.

Thomson Reuters

Der mit dem Pulitzer-Preis ausgezeichnete globale investigative Reporter mit Sitz in London, zu dessen Arbeiten unter anderem Facebooks Versäumnis, Hassreden in Myanmar zu bekämpfen, Betrug bei der Zulassung von US-Hochschulen, die heimliche Kontrolle eines milliardenschweren Unternehmensimperiums durch den Obersten Führer des Iran und die Verhängung von Sanktionen gegen chinesische Unternehmen gehören Iran. Zuvor arbeitete er beim Wall Street Journal und beim Philadelphia Inquirer.