Neue KI überwacht Firmen-Chats und wertet Stimmung der Mitarbeiter aus

Sicher möchten alle Chefs gern mal bei ihren Mitarbeitern Mäuschen spielen, um die Stimmung auszuloten, wenn sie nicht persönlich anwesend sind. Das US-Start-up Aware hat sich dazu etwas ausgedacht: Es bietet eine Künstliche Intelligenz (KI) an, die Chats auf Slack und Teams überwacht und auswertet. Die Daten gelangen anonymisiert zur Unternehmensleitung, lassen sich aber mit etwas Köpfchen »knacken«.

Software läuft schon bei Starbucks, Walmart und Co.

Aware nennt seine Erfindung eine »Kontext-Intelligence-Plattform, die Risiken identifiziert und mindert, Sicherheit und Compliance stärk und Echtzeit-Insights aus digitalen Gesprächen aufzeigt«. Das bedeutet, die Software belauscht Unterhaltungen der Mitarbeiter und zieht daraus Informationen. Einige amerikanische Firmen wie Starbucks und Walmart haben die KI bereits installiert, auch AstraZeneca und Nestlé nutzen den zweifelhaften Service. In Deutschland wäre die Verwendung einer solchen Ausspäh-App wahrscheinlich nicht erlaubt, vor allem, weil sich aus den anonymisierten Daten persönliche Schlüsse ziehen lassen.

Der Anwender kann nach verschiedenen Tags filtern

Eigentlich soll das Programm nur Daten zur allgemeinen Stimmungslage liefern, doch anhand von Tags besteht die Möglichkeit, Rückschlüsse auf Individuen zu ziehen. Denn der Anwender kann nach Alter, Geschlecht, Jobrolle und weiteren Eigenschaften filtern, und so seine Suche auf einen bestimmten Personenkreis – oder eine einzelne Person – verengen. In kleinen Firmen oder Abteilungen ist die Wahrscheinlichkeit besonders hoch, bestimmte Aussagen oder Stimmungen auf Einzelne zurückzuführen. Außerdem besteht die Mögkichkeit, mit dem Zusatz-Tool eDiscovery bestimmte Unterhaltungen konkret zurückzuverfolgen, wenn ein »extremes Risiko« besteht. Steht zum Beispiel der Verdacht auf Mobbing im Raum oder auf eine angedrohte Gewalttat, ist die Anonymität schnell Geschichte.

Im besten Fall loten Personalchefs mit der KI tatsächlich nur die Stimmungslage aus, stellen Tiefs und Hochs fest und gehen entsprechend darauf ein. Das Mitlesen oder permanente Überwachen von Gesprächen und Nachrichten ist ohnehin aus Datenschutzgründen bei uns verboten, das wird es also in Deutschland nicht geben. Punktuelle Einsichten könnten bei Verdacht auf eine Straftat allerdings erlaubt sein.