Aufzeichnungen von einem weiteren intelligenten Heimgerät im Besitz von Amazon werden von einem Team von menschlichen Mitarbeitern überprüft und geben erneut Anlass zu der Sorge, dass die von solchen Geräten aufgenommenen Audio- und Videoaufnahmen möglicherweise nicht so privat sind, wie einige Kunden annehmen.
Bloomberg berichtete am Donnerstag, dass „Dutzende“ von Mitarbeitern des E-Commerce-Giganten mit Sitz in Rumänien und Indien beauftragt sind, das von Cloud Cams gesammelte Material zu überprüfen – Amazons app-gesteuerte, Alexa-kompatible Indoor-Sicherheitsgeräte – um die KI-Funktionalität zu verbessern und potenzielle Gefahren besser zu erkennen. Bloomberg berichtete, dass diese menschlichen Arbeiter irgendwann dafür verantwortlich waren, etwa 150 Sicherheitsausschnitte von bis zu 30 Sekunden Länge pro Tag zu überprüfen und zu kommentieren.
Zwei Quellen, die mit Bloomberg sprachen, erzählten der Filiale, dass einige Clips private Bilder darstellten, wie das, was Bloomberg als „seltene Fälle von Menschen mit Sex“ beschrieb. Ein Amazon-Sprecher sagte CPORT, dass geprüfte Clips entweder durch Mitarbeiterversuche oder Kundenfeedback zur Verbesserung des Service eingereicht werden.
„Mit der Option „Feedback“ in der Cloud Cam App können Kunden einen bestimmten Clip mit Amazon teilen, um den Service zu verbessern“, sagte der Sprecher in einer Erklärung. „Wenn ein Kunde sich dafür entscheidet, einen Clip zu teilen, kann er kommentiert und für überwachtes Lernen verwendet werden, um die Genauigkeit der Computer Vision Systeme von Cloud Cam zu verbessern. So hilft beispielsweise das überwachte Lernen der Cloud Cam, verschiedene Arten von Bewegungen besser zu unterscheiden, damit wir den Kunden genauere Warnmeldungen geben können.“
Um das klarzustellen, Kunden teilen Clips zu Fehlerbehebungszwecken, aber sie sind sich nicht unbedingt bewusst, was mit diesem Clip passiert, wenn sie dies tun.
Beunruhigender ist jedoch ein Vorwurf aus einer Hand, der mit Bloomberg gesprochen hat, dass einige dieser menschlichen Arbeiter, die mit der Kommentierung der Clips beauftragt waren, sie mit Mitgliedern außerhalb ihrer eingeschränkten Teams teilen könnten, obwohl Überprüfungen in einem geschützten Bereich stattfinden, der Telefone verbietet. Auf die Frage nach diesem Thema hin sagte ein Sprecher CPORT per E-Mail, dass die Regeln von Amazon „den Zugang der Mitarbeiter zu oder die Verwendung von Videoclips, die zur Fehlerbehebung eingereicht wurden, streng verbieten und eine Null-Toleranz-Politik für etwa unsere Systeme haben“.
„Wir behandeln diese Informationen mit höchster Vertraulichkeit und verfügen über strenge technische und betriebliche Sicherheitsvorkehrungen, um sie zu schützen, einschließlich der Nutzung gesicherter Einrichtungen und der Multi-Faktor-Authentifizierung zur Einschränkung des Zugriffs, der Dienstverschlüsselung und der Audits unserer Kontrollumgebung“, sagte der Sprecher.
Der Amazon-Sprecher behauptete, dass das Unternehmen die Kunden in einer Aufforderung informiert, dass „Clips verwendet werden, um die Cloud Cam zu verbessern“. Der Sprecher verwies auch auf eine ebenfalls von Bloomberg zitierte Cloud Cam FAQ-Seite, die eine scheinbar geschickt gestaltete Sprache darüber enthält, wer Cloud Cam-Clips sehen kann. Gemäß dieser Seite (Schwerpunkt unserer Seite): „Nur Sie oder Personen, mit denen Sie Ihre Kontoinformationen geteilt haben, können Ihre Clips einsehen, es sei denn, Sie beschließen, einen Clip direkt an uns zur Fehlerbehebung zu senden. Kunden können Clips auch per E-Mail oder Social Media teilen.“
Cloud Cams sind nicht die einzigen Geräte, die das Unternehmen besitzt, die beschuldigt wurden, ahnungslose Kunden beobachtet oder zugehört zu haben. Bloomberg hatte zuvor im April berichtet, dass Amazon-Mitarbeiter Alexa-Aufnahmen hören und kommentieren und sie manchmal in privaten Chatrooms teilen, um Hilfe oder Humor zu erhalten.
Reviews von Alexa-Aufnahmen und Cloud Cam-Aufnahmen sollen die Algorithmen und die Funktionalität der KI verbessern. Bereits im April sagte ein Sprecher des Unternehmens, dass Amazon nur „eine extrem kleine Auswahl an Alexa-Sprachaufnahmen kommentiert, um das Kundenerlebnis zu verbessern“. In Bezug auf Cloud Cam-Rezensionen sagte ein Sprecher gegenüber CPORT, dass ein kleiner Bruchteil von einem Prozent des Materials zur Rückmeldung eingereicht wird.
„Wir nehmen den Datenschutz ernst und geben Cloud Cam-Kunden die Kontrolle über ihre Videoclips“, sagte der Amazon-Sprecher in einer Erklärung. „Nur Kunden können ihre Clips ansehen und sie können sie jederzeit löschen, indem sie die Seite Meine Inhalte und Geräte verwalten besuchen.“ Okay.
Um es klar zu sagen, es ist nicht nur Amazon, der beschuldigt wurde, dass er es menschlichen Arbeitern erlaubt hat, zuzuhören, was auch immer in Ihrem Haus vor sich geht. Motherboard hat berichtet, dass sowohl Xbox-Aufnahmen als auch Skype-Anrufe von menschlichen Auftragnehmern überprüft werden. Auch Apple wurde vorgeworfen, sensible Aufnahmen gemacht zu haben, zu denen Auftragnehmer Zugang hatten.
Tatsache ist, dass diese Systeme einfach nicht für die Primetime bereit sind und menschliche Eingriffe benötigen, um zu funktionieren und sich zu verbessern – eine Tatsache, dass Technologieunternehmen erfolgreich heruntergespielt haben, um als magische Zauberer der Innovation zu erscheinen.