Algorithmisches Management Wenn KI heimlich in Büro und Gastro mitarbeitet

Stand: 30.06.2024 15:09 Uhr

Algorithmen und KI können inzwischen ganze Berufsgruppen steuern und überwachen. Schon heute sind diese Tools öfter im Einsatz, als viele Beschäftigte es ahnen.

Es klingt wie aus einem dystopischen Film: Eine KI erteilt Aufgaben an Beschäftigte und verschickt automatisierte Warnungen an den Chef, wenn YouTube oder Instagram-Seiten aufgerufen werden. Ein anderes Dashboard überwacht und vergleicht Beschäftigte und deren Produktivität - etwa wer die meisten produktiven Arbeitsstunden am Tag hat. Auch über- und unterdurchschnittliche Leistung können auf Knopfdruck ausgewiesen werden.

Doch was nach Science Fiction klingt, ist nach Ansicht verschiedener KI-Experten nicht nur schon möglich - sondern in einigen Betrieben Realität. Zu dem Fazit kommt etwa eine aktuelle Studie des britischen Forschers Steven Rolf für die Friedrich-Ebert-Stiftung. Er ist ESRC Research Fellow an der Universität Sussex, wo er zur digitalen Transformation forscht und lehrt.

"Einsatzpalette ist größer, als es viele denken"

Rolf hat sich angeschaut, wie KI und algorithmisches Management schon heute eingesetzt werden, und zwar mit einem Fokus auf den Dienstleistungssektor. "Die Einsatzpalette ist größer, als es viele denken", sagt er tagesschau.de. Denn während viele wüssten, dass etwa Essenskuriere schon heute eine App beziehungsweise einen Algorithmus als "Chef" haben, sei der Einsatz in anderen Branchen bei vielen nicht sonderlich auf dem Schirm, sagt Rolf.

Beispiel Restaurantbranche: "Wir beobachten, dass es inzwischen etwa Scores für die Kellnerinnen und Kellern gibt. Sie bewerten die Arbeit des Personals danach, wie viel Geld die Kunden an ihren Tischen ausgeben, wie lange die Gäste sitzen bleiben und wie viel Trinkgeld gegeben wird." Auch die Zeit, die die Servicekraft ab dem Moment der Tellerausgabe bis zum Tisch braucht, könne gemessen und mit anderen verglichen werden, sagt Rolf.

Auch Bürojobs betroffen

Auch Besserqualifizierte und ihre Bürojobs sind längst nicht mehr sicher von der Überwachung und Bewertung durch Algorithmen. Beispiel Vertrieb: Hier zeigt Rolf wie eingangs geschildert in seiner Studie auf, wie weitreichend die Monitoring-Möglichkeiten bereits heute sind - etwa in der Überwachung der "produktiven Arbeitsstunden" im Vergleich zu den Kollegen durch das Customer-Relationship-Management System (CRM) Salesforce und dessen Erweiterungen.

Das Programm ist beliebt: Salesforce sei der weltweit führende Anbieter von CRM - und Europa der zweitgrößte Absatzmarkt, heißt es in Rolfs Studie.

Doch wie verbreitet sind diese Tools tatsächlich? Die "Colleem 2"-Studie im Auftrag der Europäischen Union kommt für Europa derzeit noch auf ein geringes Maß an Beschäftigten, die in einem sehr starken Maß von algorithmischem Management gesteuert und überwacht werden: Drei Prozent betrage der Anteil der Plattformarbeitsbeschäftigten, so die Studie.

Der Anteil derer, die unter einem gewissen Maß an Kontrolle tätig sind, liegt danach bei 14,1 Prozent. Allerdings seien die Daten sind inzwischen schon mehrere Jahre alt, sagt Rolf. "Inzwischen dürfte es andere, deutlich höhere Werte geben."

Forscher: Ein Drittel begegnet schon algorithmischem Management

Rolfs Schätzung: "Ich vermute, dass aktuell ein Drittel der Beschäftigten zum Teil von algorithmischem Management gesteuert und überwacht wird." Die Dunkelziffer sei groß, denn Unternehmen ließen sich nicht gerne in die Karten schauen.

Dazu komme noch ein weiterer Faktor: "Vielen Beschäftigten ist nicht klar, dass ihr Arbeitgeber über diese Möglichkeiten verfügt und sie nutzt. Entsprechend können sie es in Befragungen nicht angeben."

Das musste der Forscher kürzlich selbst erleben: Bei einem Treffen mit seinem Dekan hatte dieser ein Performance-Dashboard auf dem Bildschirm geöffnet - mit Scores der verschiedenen Professoren. "Nicht mal meine direkte Chefin wusste etwas von dem Tool - und dass wir Professoren damit gelistet, bewertet und miteinander in Konkurrenz gesetzt werden", sagt Rolf.

Beliebte Programme sammeln schon heute fleißig Daten

Die Soziologin Joanna Bronowicka, die an der Europa-Universität Frankfurt Oder am Bereich Arbeitsrecht forscht, betont zudem: "Teils ist es auch ein schleichender Prozess. Software wie Slack und Office 365 sammeln schon jetzt viele Daten. Vielleicht kommt dann ein Update mit mehr Überwachungsmöglichkeiten - und auf einmal ist die Funktion eingeführt."

Aber Digitalexperte Rolf sagt auch: Nur weil ein System eingesetzt wird, das potenziell überwachen kann, heiße das nicht, dass diese Optionen auch genutzt werden. Auch wenn sich solche Tools laut Rolf derzeit rasend schnell in der Dienstleistungsbranche ausbreiten - in der Gastronomie sei der Einsatz der Möglichkeiten bisher eher selten. In der Logistik gehört der Einsatz dagegen oft schon zum Alltag der Arbeiter, etwa wenn die App vorgibt, wie eine Ladefläche eingeräumt werden muss.

Algorithmisches Management auch mit Vorteilen

Die Daten können natürlich auch positiv genutzt werden, um Beschäftigten Schulungen zukommen zu lassen, wenn die KI-Überwachung Defizite in gewissen Bereichen aufdecke, sagt Rolf. KI könnte zudem einfachere Arbeiten abnehmen, damit mehr Zeit für eigenständige, kreative Arbeit da ist. Zugleich ist der Einsatz für Unternehmen reizvoll, weil sie sich damit erhoffen, die Produktivität erhöhen zu können.

Hier gibt Rolf aber zu bedenken: "Manchmal sind diese Scores zu unterkomplex." Beispiel Gastronomie: "Vielleicht gibt der Algorithmus vor, alle 15 Minuten an den Tisch zu gehen und nachzufragen, ob nachbestellt werden möchte. Eine erfahrene Servicekraft sieht aber etwa, dass der Tisch gerade beschäftigt ist - und sich von zu häufigen Nachfragen gestört fühlen würde."

Auch ob sich Freundlichkeit und Service immer eins zu eins in die Höhe des Trinkgelds oder den Umsatz ummünzen lassen, ist unklar. Dazu machten Algorithmen immer wieder auch Fehler, betont Rolf in seiner Studie - die aber nur klar würden, wenn Menschen weiter die Übersicht behielten.

EU-Richtlinie setzt Grenzen

Die Soziologin Bronowicka betont, dass es viel Unwissenheit bei dem Thema gibt: "Bisher wurde das Thema KI und Überwachung vor allem unter dem Gesichtspunkt Datenschutz diskutiert. Vielen Beschäftigten ist nicht klar, wie erheblich sich die neuen Möglichkeiten auf ihre Arbeitsbedingungen auswirken können."

Allerdings verweist sie in der Hinsicht auf eine potenziell wichtige Neuerung. Denn die EU hat sich nach monatelangen Verhandlungen zuletzt auf die EU-Plattformarbeitsrichtlinie geeinigt. Diese will Scheinselbstständigkeit auf den Digitalplattformen wie Uber und Co. bekämpfen. Und: Sie enthält seitenweise Vorschriften zum algorithmischen Management. Das ist ein Novum auf dem Gebiet.

Vorgesehen ist etwa ein Verbot der Verarbeitung von Emotionen oder von automatisierten Kündigungen durch Algorithmen ohne menschliche Aufsicht. Wichtig zudem: Automatisierte Überwachungs- und Entscheidungssysteme dürfen keinen "übermäßigen Druck" auf die Plattformbeschäftigten ausüben und zudem nicht deren Sicherheit sowie körperliche und psychische Gesundheit gefährden, heißt es im Gesetz.

Auch Bundesregierung plant Vorstoß

Allerdings: Die Regularien gelten zunächst auch nur für die Digitalplattformen und ihre Auftragnehmenden - wie Free Now, Uber, Book A Tiger, Deliveroo und Co. Und: Die Richtlinie muss in nationales Recht umgesetzt werden. Dabei könnte es zu Abschwächungen oder Umformulierungen kommen, befürchtet Bronowicka.

In Deutschland haben Bundesarbeitsminister Hubertus Heil (SPD) und Innenministerin Nancy Faeser ebenfalls einen Vorstoß mit einem Beschäftigtendatenschutzgesetz angekündigt. In einem Schreiben der Ministerien heißt es: "Um einen ständigen Überwachungsdruck zu verhindern, sollen Maßnahmen einer dauerhaften Überwachung nur ausnahmsweise unter engen Voraussetzungen zulässig sein."

Etwa für die Sicherheit von Beschäftigten oder den Arbeitsschutz, zum Beispiel um Lenk- und Ruhezeiten von Lkw-Fahrern zu gewährleisten. "Gleichzeitig sollen die Vorteile von KI für Wirtschaft und Beschäftigte nutzbar bleiben", heißt es dort drin. Ein Gesetzesentwurf solle nach Abschluss der regierungsinternen Abstimmungen vorgelegt werden, teilte das Arbeitsministerium auf Anfrage mit.

Ausweitung auf andere Branchen möglich

Was sowohl Bronowicka als auch Rolf betonten: Auch die Gewerkschaften seien gefragt. "Ich denke, dass es eine zentrale Aufgabe von Gewerkschaften sein wird, klare Regelungen für Beschäftigte in Tarifverhandlungen auszuhandeln", sagt etwa Bronowicka. Auch die EU betont deren Zuständigkeit. In der EU-Plattformarbeitsrichtlinie ist explizit vermerkt, dass auch Beschäftigtenvertreter über den Einsatz und Umfang der Tools informiert werden sollen.

Debattiert wird zudem, die Richtlinie in der kommenden Legislatur auf alle Wirtschaftsbereiche auszuweiten.