Gartner: Tien procent van de gebruikers wil in 2023 AI-gebaseerde monitoring manipuleren

09-02-2021 | door: Wouter Hoeffnagel

Gartner: Tien procent van de gebruikers wil in 2023 AI-gebaseerde monitoring manipuleren

Meer dan een op de tien gebruikers probeert in 2023 kunstmatige intelligentie (AI)-systemen die het gedrag en de productiviteit van medewerkers meten op de tuin te leiden. Dergelijke systemen stijgen tijdens de COVID-19 pandemie in populariteit.

Dit voorspelt onderzoeksbureau Gartner. "Veel bedrijven maken een permanente verschuiving naar full- of part-time werken op afstand, wat zowel kostbaar kan zijn als culturele veranderingen vereist", legt Whit Andrews, research vice president bij Gartner, uit. "Voor managementculturen die gewend zijn te vertrouwen op directe observaties van werknemersgedrag, versterkt werken op afstand het mandaat voor het digitaal monitoren van werknemersactiviteit. In sommige gevallen via AI."

Diverse motivaties

'Net als we met iedere andere technologie zien die bedoeld is om zijn gebruikers te beperken zullen werknemers snel gaten ontdekken in AI-gebaseerde surveillancestrategieën. Dit kunnen zij vanwege uiteenlopende redenen doen, zoals het willen verlagen van workloads, een beter salaris willen of simpelweg uit afgunst. Sommige zien het om de tuin leiden van AI-gebaseerde monitoringstools wellicht meer als een spel dat zij kunnen winnen dat het niet respecteren van een meetwaarden waar het management recht op heeft."

Organisaties gebruiken AI-gebaseerde systemen om het gedrag van werknemers te monitoren op dezelfde manier als dat AI wordt gebruikt om winkelaars, consumenten en het publiek te begrijpen. Deze tools leveren basale activiteitenlogs met alarmmeldingen, of proberen in meer geavanceerde versies positieve acties of misgedragingen te detecteren via analyses van meerdere variabelen.

Weerstand

Veel werkgevers gebruiken systemen voor het monitoren van productiviteit ondanks dat een hoog percentage werknemers dergelijke tools niet aantrekkelijk vind. Ook voor de pandemie toonde onderzoek van Gartner aan dat werknemers nieuwe technologieën om hun werkgedrag te monitoren en volgen vrezen. Naarmate deze tools meer voorkomend worden verwacht Gartner dat meer organisaties zullen inzetten op het aanpakken van werknemers die deze tools proberen te omzeilen.

Als voorbeelden van pogingen om dergelijke tools te manipuleren noemt Gartner onder meer opzoeken van zaken die niet worden gemeten of waarvan de verantwoordelijkheid onduidelijk is, of situaties waarin de AI kan worden gemanipuleerd door het aanleveren van valse of verwarrende data. Dergelijke activiteiten zijn volgens Gartner al geobserveerd in digital-first organisaties. Denk hierbij aan chauffeurs van ride-share die gelijktijdig bij meerdere diensten werken voor het maximaliseren van hun persoonlijke verdiensten.

"IT-leiders die overwegen AI-gebaseerde productiviteitsmonitoring in te zetten zouden goed moeten kunnen naar de databronnen, het ontwerp van de gebruikerservaring en de bedoelde initiële toepassingen voordat zij hierin investeren", zegt Andrews. "Bepaal of het doel en het bereik van de dataverzameling werknemers ondersteunt bij het zo goed mogelijk uitvoeren van hun werk. Wie besluit te investeren, moet zeker stellen dat de technologie op ethische wijze wordt geïmplementeerd door deze op basis van een reeks mens-gerichte ontwerpprincipes te testen."

Terug naar nieuws overzicht