Amazons „Alexa“ in der Kritik – Schlussfolgerungen für einen Einsatz digitaler Assistenten im Handwerksbetrieb

Digitale Assistenten sollen das Leben bequemer gestalten helfen. So bietet Amazon mit dem „Alexa Echo Dot“ ein digitales System, mit dem unter anderem der Wetterbericht vorgelesen, eine Weckzeit eingestellt, Musik abgespielt, das Licht geschaltet oder eine Einkaufsliste erstellt werden kann. Durch die Internetanbindung sind noch viele weitere Nutzungen möglich. Das System wird auf Zuruf tätig, das heißt, es reagiert auf ein Aktivierungswort, z.B. „Alexa“. Damit das funktioniert, hört „Alexa“ immer mit, auch wenn der Besitzer es gerade gar nicht nutzen möchte.

Alexa und die akustische Wohnraumüberwachung

Wie rasch sich eine digitale Entwicklung mit weitreichenden gesellschaftlichen Auswirkungen vollzieht, lässt sich am Beispiel des „Alexa Echo Dot“ beispielhaft veranschaulichen. Noch vor gut 20 Jahren kam es in Deutschland zu heftigsten Kontroversen über die gesetzlichen Bestimmungen zur akustischen Wohnraumüberwachung. Hintergrund war die von der damaligen Bundesregierung angeführte erhöhte Bedrohung durch die Organisierte Kriminalität. Die Befürworter einer akustischen Überwachung privaten Wohnraums verwiesen zur Begründung ihres Anliegens gerne in die USA. Dort war es 1992 dem FBI gelungen, einen berüchtigten Paten der New Yorker Mafia durch einen Lauschangriff Verbrechen zu überführen, die ihm auf andere Weise niemals hätten nachgewiesen werden können.

Die Gegner dieses Ermittlungsansatzes sahen den Rechtsstaat in Gefahr. Auch weckte das Vorhaben nicht nur in den östlichen Bundesländern unangenehme Erinnerungen. Vor der friedlichen Revolution von 1989 hatte das Ministerium für Staatssicherheit Methoden zur geheimen akustischen Überwachung von Räumen eingesetzt. Diese Methoden dienten zur Ausschaltung politisch unliebsamer Personen. Mit der Vorstellung von einem Rechtsstaat ließen sich diese Vorgehensweisen nicht in Übereinstimmung bringen. Wer dem politischen System der DDR kritisch gegenüberstand und dies äußerte, tat gut daran, beim Verlassen seiner Wohnung den Fußboden hauchzart mit Mehl zu bestreuen. Bei der Rückkehr konnte durch einen Blick über die Oberfläche des Fußbodens erkannt werden, ob die Wohnung während der eigenen Abwesenheit betreten wurde.

Nur wenige Jahre nach der Wiedervereinigung hatte die Diskussion um die akustische Wohnraumüberwachung auch personelle Konsequenzen auf höchster politischer Ebene: Die damalige Bundesjustizministerin trat wegen der als „großer Lauschangriff“ bezeichneten Maßnahmen zurück und reichte gemeinsam mit weiteren Kritikern gegen das von dem Bundestag hierzu beschlossene Gesetz Verfassungsbeschwerde ein. Über diese entschied das Bundesverfassungsgericht mit Urteil vom 03.03.2004 (1 BvR 2378/98 und 1 BvR 1084/99). Es führte aus, dass die akustische Wohnraumüberwachung nicht grundsätzlich verfassungswidrig ist, jedoch gewährleistet werden müsse, dass sie nicht in einen absolut geschützten Kernbereich privater Lebensgestaltung eingreife. Das Gesetz musste nachgebessert werden.

Nun ist Amazon keine Ermittlungsbehörde und bei der Nutzung von „Alexa“ geht es in erster Linie gerade nicht um das Verüben von Straftaten. In die durch die aktuelle Berichterstattung hervorgerufene Vorstellung, es gebe ja auch noch einen Datenschutz, der die Preisgabe von Informationen verhindere, platzt nun eine Forderung der Innenminister: auf Aufnahmen, die „Alexa“ anfertigt, sollen Ermittlungsbehörden Zugriff nehmen können – Datenschutz hin oder her. Das Bundesinnenministerium hat einen Gesetzentwurf erarbeitet, der vorsieht, Amazon und andere Anbieter zu verpflichten, auch deutschen Nachrichtendiensten den automatisierten, technischen Zugriff auf ihre Geräte bereitzustellen. Dadurch soll Ermittlungsbehörden und Nachrichtendiensten die Arbeit bei der Gewinnung von Informationen erleichtert werden.

Ich habe doch nichts zu verbergen! – Wirklich?

Darauf angesprochen, ob bekannt ist, dass „Alexa“ mithört, hören wir bisweilen die Antwort, es sei egal, denn „ich habe ja nichts zu verbergen“. Diese Aussage dürfte sich jedoch bei näherer Betrachtung als kleine Beschönigung der Wahrheit entpuppen. Es gibt zwei ganz wesentliche Gründe, die gegen das Zutreffen einer solchen Spontanäußerung sprechen:

Der strafrechtliche „Beifang“

Mitarbeiter des ARD-Magazins Kontraste fragten  „Alexa“: „Hörst du eigentlich immer zu?“. Das System antwortete: „Ich bin keine Spionin und höre nur zu, wenn du das Aktivierungswort sagst“. Das stimmt so nicht. Diese gar nicht so kleine Beschönigung der Wahrheit erkennt, wer das Funktionsprinzip verstanden hat. Wie bereits ausgeführt, muss „Alexa“ immer mithören. Wie soll das System sonst das Aktivierungswort als Befehl zum Tätigwerden erfassen können? Genau: es geht nicht. Folglich sind die „Alexa-Ohren“ in Gestalt des integrierten Mikrofons immer geöffnet. Was mit „Alexa“ ausgetauscht wird, wird an Amazon übertragen, auf den dortigen Servern verarbeitet – Stimme wie auch eine Verschriftlichung des Gesagten. Damit „kennt“ das System die Stimmen seiner Nutzer. Je besser „Alexa“ die Stimmen kennt, desto besser können die Befehle ausgeführt werden.

Das führt zur nächsten Frage: was passiert, wenn die Aussprache undeutlich ist oder „Alexa“ noch lernt? Die Antwort ist simpel: Der digitale Assistent reagiert auf alles, was für sie so klingt, wie das Aktivierungswort. Dadurch kann es vorkommen, dass eine Aufzeichnung unabsichtlich gestartet wird. Man stelle sich nur vor, das Gespräch dreht sich gerade um „Alex“, eine Kollegin oder einen Kollegen, einen Freund oder eine Freundin. Dass es hierbei nur zu leicht dazu kommen kann, dass „Alexa“ aktiviert wird, liegt auf der Hand. Damit drängt sich das nächste Problem auf: Wie kann man eine gestartete Aufzeichnung beenden? „Alexa“ soll erkennen, wenn eine sinnvolle Aussage abgeschlossen ist. Dieses für den Menschen bisweilen schon schwierige Unterfangen führt in der Praxis dazu, dass mehr aufgezeichnet wird, als sich den Nutzern aufdrängt und von diesen gewünscht wird.

Kritisch werden diese Effekte vor allem dann, wenn rechtserhebliche Dinge besprochen und von „Alexa“ dokumentiert werden. Gerät ein einzelner Nutzer durch welche Umstände auch immer in eine behördliche Maßnahme, können diese rechtserheblichen Dinge im für den Nutzer ungünstigsten Fall als so genannter „Zufallsfund“ in einem eigenständigen Strafverfahren als Beweismittel verwertet werden. Dies gilt sogar dann, wenn der Nutzer gar nicht den Anlass der behördlichen Maßnahme gesetzt hat. Auf diese Weise kann ein argloser Nutzer rein zufällig und ohne Weiteres zum Beschuldigten in einem Ermittlungsverfahren werden.

Von der akustischen Überwachung zur Bildung von Bewegungsprofilen

Da „Alexa“ seine Nutzer anhand der Stimme erkennen kann, ist denkbar, dass die betreffenden Personen auch in der Öffentlichkeit von dem System wiedererkannt werden können. So berichtet die Berliner Zeitung, dass die Fahrzeuge der Berliner Verkehrsbetriebe mit einer Anlage zur Videoüberwachung samt Mikrofonen ausgerüstet sind. Technisch ist es keine große Herausforderung mehr, Stimmprofile zu vergleichen und über diese einen bestimmten Menschen wiederzuerkennen. Die aktuell noch bestehenden Schwierigkeiten der Gesichtserkennung in sich schnell und inhomogen bewegenden Personengruppen werden damit umgangen – ein Gespräch mit dem Steh- oder Sitznachbarn im Bus genügt künftig, um identifiziert zu werden.

Mit diesen Maßnahmen werden Menschen zunehmend gläsern. Das gilt umso mehr, als es eine rein private Nutzung von „Alexa“ aufgrund der Zugriffsmöglichkeiten von Ermittlungsbehörden und Nachrichtendiensten gar nicht mehr geben kann. „Alexa“ im Wohnzimmer stellt im Ergebnis immer eine Öffentlichkeit her – zumindest für Behörden. Im Ministerium für Staatssicherheit der DDR hätten ob der freiwilligen Kooperation aller Nutzer die Sektkorken geknallt: „Alexa“ als omnipräsente IM des MfS – ein Traum. Für Bürgerrechtler freilich ein Alptraum. In der Zusammenschau mit einer akustischen Überwachung öffentlicher Wege und Plätze sind die Nutzer überall identifizierbar. Die Möglichkeit, sich ins Private zurückzuziehen, beschränkt sich folglich auf die Räume, in denen „Alexa“ nicht mithört.

Schlussfolgerungen für digitale Assistenten im Handwerk

Soweit „Alexa“ nicht im Büro des Handwerksbetriebes steht, ist die Frage berechtigt, was das alles mit dem Handwerk überhaupt zu tun hat. Sehr viel, wie gezeigt wird:

Arbeitgeber trifft grundsätzlich eine Schutzpflicht zu Gunsten ihrer Beschäftigten. Sie müssen dafür Sorge tragen, dass der Arbeitsplatz so gestaltet ist, dass Persönlichkeitsrechte ihrer Beschäftigten nicht verletzt werden. Das bedeutet, dass auch das Recht auf informationelle Selbstbestimmung der Beschäftigten als besondere Ausprägung des Persönlichkeitsrechts bei der Gestaltung des Arbeitsplatzes beachtet werden muss. Dies umfasst die Verpflichtung, für die Abwesenheit ständiger Überwachung zu sorgen. Eine stete Überwachung der Beschäftigten baut einen unzulässigen Überwachungsdruck auf. Die Beschäftigten müssen die Chance erhalten, sich aus einer Überwachung befreien zu können. Dies gilt insbesondere für die Pausenzeiten.

Aus dieser grundlegenden Pflicht lassen sich Anforderungen an die Auswahl und Gestaltung von digitalen Assistenten im Handwerksbetrieb ableiten:

  1. Die Nutzung von Beschäftigtendaten ist für einen Handwerksbetrieb in bestimmten Bereichen unverzichtbar. Wie sollten auch Beschäftigte in der Personalplanung, der Einsatzplanung, der Lohn- und Auftragsabrechnung geführt werden können, wenn keine Informationen vorhanden sein dürften. Auch gilt es Meldepflichten gegenüber dem Finanzamt und den Trägern der Sozialversicherung zu erfüllen. Alle diese Nutzungen von Beschäftigtendaten sind daher auch durch das Gesetz ausdrücklich erlaubt. Die erste Frage, die sich Handwerksunternehmer stellen müssen, lautet also:

Geht es nur mit diesen Informationen über meine Beschäftigten oder geht es auch ohne?

Niemals erforderlich sein können Informationen über Beschäftigte, die aus einer dauerhaften, ununterbrochenen Überwachung gewonnen werden. Die Erfassung der Arbeitszeit nach ihrem Start- und Endpunkt ist übrigens keine dauerhafte Überwachung in diesem Sinne.

  1. Selbstverständlich muss auch ein Handwerksunternehmer die Betriebsführung nicht völlig eigenständig bewältigen. Bestimmte Aufgaben dürfen delegiert werden. Die am häufigsten anzutreffenden Beispiele für die Hinzuziehung von Fachleuten sind die Beauftragung eines Büros zur Lohnabrechnung oder eines Steuerberaters. Auch das Hinzuziehen solcher Fachleute ist gesetzlich geregelt und vor allem dann rechtlich in Ordnung, wenn diese Fachleute besonderen Verschwiegenheitspflichten unterliegen und entsprechende Verträge mit ihnen geschlossen sind, durch die sichergestellt werden kann, dass die weitergereichten Informationen nur für den genau definierten betrieblichen Zweck verarbeitet werden. Das gilt übrigens auch für den externen IT-Dienstleister. Die zweite Frage, die sich Handwerksunternehmer also stellen müssen, lautet:

Ist die Weitergabe von Beschäftigteninformationen zum Erreichen des jeweiligen Zwecks unbedingt erforderlich oder kann das Ziel auch ohne Weitergabe von Beschäftigteninfos erreicht werden?

In vielen Fällen kann von betrieblicher Seite dafür Sorge getragen werden, dass dem Empfänger von Informationen aus dem Betrieb nicht klar werden kann, welcher Beschäftigte hinter der Information steht. Ist es möglich, das Ziel auch ohne Beschäftigteninformation zu erreichen, muss dieser Weg gewählt werden.

  1. Außerbetriebliche Zwecke einer Verarbeitung von Beschäftigteninformationen machen eine Weitergabe stets unzulässig. Möchte der IT-Dienstleister z.B. die Beschäftigtendaten dazu nutzen, die Beschäftigten mit passgenauen eigenen IT-Dienstleistungen zu versorgen oder diese zu bewerben, ist er der falsche Ansprechpartner, d. h. ihm dürfen keine Beschäftigteninformationen für seine eigenen Zwecke übergeben werden. Die Verarbeitung von Beschäftigtendaten ist nur im Kontext der konkreten Beschäftigung erlaubt. Die dritte Frage, die sich Handwerksunternehmer stellen müssen, lautet folglich:

Hilft das Weiterreichen der Daten ausschließlich meinem Betrieb oder dient es – zumindest auch – dem Empfänger?

Manchmal finden sich die Vorbehalte, die ein Dienstleister in einem Vertrag anbringt, leider nur im Kleingedruckten. Da der Betriebsleiter aber die Verantwortung für einen rechtskonformen Umgang mit den Informationen zu seinen Beschäftigten trägt, führt kein Weg daran vorbei, auch unter Berücksichtigung von AGB und Zusatzvereinbarungen sicher auszuschließen, dass sich der IT-Dienstleister im Vorbeigehen aus betrieblichen Informationen selbst bedient.

  1. In besonders kritischen Bereichen kommt auch ein Handwerksbetrieb nicht ohne längerfristige oder dauerhafte Überwachung aus. Hier sind zuvorderst gefährliche Arbeitsbereiche zu nennen, bei denen im Notfall eine unmittelbare Hilfeleistung erforderlich werden kann. Auch Kassenbereiche, die von Straftätern angesteuert werden, gehören dazu. Manchmal berichten Handwerker, dass Unbekannte das Firmengelände gerne zum Ablagern von Abfällen, insbesondere Bauschutt nutzen. In allen Fällen wird gerne auf die Videoüberwachung zurückgegriffen. Die ist zwar wegen des erkennbaren Bedürfnisses nicht grundsätzlich unzulässig, muss aber auf ein erforderliches Maß sowohl räumlich wie auch zeitlich begrenzt werden. Die vierte Frage, die sich Handwerksunternehmer stellen müssen, lautet demnach:

Handelt es sich um einen gefährdeten Bereich und ist die Überwachung sowohl in räumlicher Hinsicht wie auch in zeitlicher Hinsicht auf das unbedingt Erforderliche begrenzt?

Das Miterfassen von nicht gefährdeten Bereichen und das „Durchlaufenlassen“ der Kamera, während „ungefährlicher“ Zeiten sind rechtswidrig. So kann z. B. eine Überwachung des Außengeländes wegen Schuttablagerungen räumlich auf den Zugang zur Straße und zeitlich auf außerhalb der Geschäftszeit liegende Zeiträume begrenzt werden. Kapazitäten im Hinblick auf Strom und Speicherplatz können z. B. geschont werden, wenn die Aufnahme durch einen Bewegungsmelder gestartet und nach einem definierten Zeitraum beendet wird. Die Aufnahmen sind dann zeitnah zu sichten und unmittelbar zu löschen. Eine über mehrere Tage gehende Aufbewahrung der gespeicherten Aufnahmen ist unzulässig.

Geht es nicht ohne dauerhafte Überwachung eines besonders gefährdeten Bereichs, sollte die fünfte Frage, die sich ein Handwerksunternehmen stellen muss, lauten:

Können sich meine Beschäftigten der dauerhaften Überwachung jederzeit, insbesondere aber in den Pausenzeiten sicher entziehen?

Ist dies nicht der Fall, ist eine dauerhafte Überwachung nicht zu rechtfertigen und es sind andere Sicherungs- und Sicherheitsmaßnahmen zu ergreifen. In solchen Fällen spricht in der Regel viel dafür, dass die Videoüberwachung ohnehin nicht ausreichen würde, der Gefahr effektiv zu begegnen.

Ist die Einführung eines digitalen Assistenten im Handwerksunternehmen geplant, muss geklärt sein, ob der Assistent tatsächlich assistiert oder ob er vielmehr spioniert. Unternehmen tragen Verantwortung für ihre Beschäftigten und müssen einer Spionage einen Riegel vorschieben. Das Beschäftigungsverhältnis ist ein besonderes Vertrauensverhältnis. Das gegenseitige Vertrauen ist durch alle Beteiligten jederzeit und immer wieder aufs Neue zu rechtfertigen. Insbesondere in Zeiten des allgegenwärtigen Fachkräftemangels führt das Ausplaudern von Interna zu einem Vertrauensverlust. Wenn der digitale Assistent als Agent enttarnt wird, rüttelt dies massiv an der erforderlichen Vertrauensbasis für eine gute Zusammenarbeit. Vertraulichkeit geht vor Bequemlichkeit!

Fazit

Während der Ära des so genannten „real existierenden Sozialismus“ nach Lesart der DDR wäre wohl kaum jemand auf die Idee gekommen, sich aktiv den Spitzel in die Wohnung zu setzen und ihn dauerhaft dort zu belassen. Auch später noch rief ein allzu großes Interesse an Privatem – ob von staatlicher oder von privater Seite geäußert – Misstrauen hervor. Man kann es als Phänomen unserer Zeit abtun, dass dem Versprechen digitaler Assistenz ein großer Vertrauensvorschuss entgegengebracht wird. Tatsächlich führen Datenskandale zu einem lediglich zeitweisen Vertrauensverlust in die Akteure, die für einen unsachgemäßen oder unrechtmäßigen Umgang mit Informationen Verantwortung tragen. So haben viele Nutzer z. B. Facebook nach dem Skandal um die Auswertung durch Cambridge Analytica recht schnell seinen Fehler vergeben.

Das Wissen um eine ständige Anwesenheit von Überwachung führt rein faktisch bei den Betroffenen zu einer Verhaltensänderung. Das geschieht in manchen Fällen völlig unbemerkt. Wenn ich ständig und überall, sogar im eigenen Wohnzimmer mein Verhalten einem Publikum präsentiere, werde ich alle meine Marotten und Gewohnheiten, die mich zu der Person machen, die ich bin, ablegen. Ich werde alles daransetzen, ein Bild von mir zu zeichnen, das nur dasjenige wiedergibt, was ich offenbaren möchte. Ich verhalte mich dann in der Weise, wie ich in der Öffentlichkeit wahrgenommen werden möchte, nicht mehr so, wie ich wirklich bin. Ich verliere damit meine Individualität und damit die Grundlage meiner Kreativität.

Kreative Mitarbeiter sind aber genau das, was Handwerksbetriebe heute benötigen. Die Digitalisierung hat das Potenzial, kreative Lösungen hervorzubringen, an die heute noch niemand denkt und an die niemand glaubt. Es geht in der Praxis der Handwerksunternehmen nicht um große Forschung und den Einsatz autonomer Systeme, sondern um das tagtägliche Lösen der kleineren und größeren Herausforderungen bei der Arbeit. Der zielführende Einsatz digitaler Assistenten ist ohne die Kreativität der Menschen, die vor Ort im Betrieb und auf der Baustelle nach Problemlösungen suchen, nicht vorstellbar. Er bedingt aber auch – wie gezeigt – die Abwesenheit digitaler Agenten, die nicht assistieren, sondern spionieren, auch wenn sie vorgeben, für mehr Komfort zu sorgen.

Haben Sie also wirklich so gar nichts zu verbergen?