Complying with the First Law of Robotics: An Analysis of the Occupational Risks Associated with Work Directed by an Algorithm/Artificial Intelligence

Abstract

Spanish Abstract: Cada vez es mas frecuente la utilizacion por parte de la empresa de mecanismos de inteligencia artificial, mas o menos avanzados, para gestionar el trabajo: establecer turnos de trabajo, tiempos en la produccion, designar y disenar tareas para los trabajadores, contratar, evaluar el desempeno y despedir. Las empresas confian en que la tecnologia recoja toda la informacion disponible, la procese y tome las mejores decisiones de gestion –optimizacion productiva- en beneficio de la misma. Con ello, se sustituye a los supervisores y mandos intermedios humanos, asi como a los expertos de recursos humanos dejando la direccion de los trabajadores en manos de procesos automatizados manejados por algoritmos –o en su estado mas avanzado, en la inteligencia artificial-. En este trabajo, se exponen los peligros para la salud que nueva forma de gestion tecnologica puede provocar. En efecto, la monitorizacion constante a traves de sensores, la intensificacion del trabajo derivada de las decisiones tomadas por una maquina sin empatia ni conocimiento sobre los limites humanos, la reduccion de autonomia del trabajador sometido a las decisiones tomadas por la inteligencia artificial, las discriminaciones bajo un manto de neutralidad algoritmica de esas decisiones, asi como los posibles errores de funcionamiento, pueden acabar provocando serios problemas de salud fisica y psicologica para los trabajadores. Estos riesgos pueden reducirse si se tienen en cuenta en la programacion. En este trabajo, se defiende la necesidad de una correcta programacion del algoritmo para que valore los riesgos laborales expuestos. Es decir, de la misma forma que un supervisor debe tener formacion en prevencion de riesgos para poder realizar su trabajo, el algoritmo debera ser programado para que sopese los riesgos laborales en el trabajo –y en caso de no contar con esta programacion debera impedirse su utilizacion para dirigir trabajadores. Concretamente, el algoritmo debera ser trasparente, adaptado a las capacidades reales del trabajador, debera dejar algun margen de autonomia al trabajador y respetar su privacidad. En definitiva, el algoritmo debera valorar cualquier elemento que suponga un riesgo para la seguridad y salud de los trabajadores. Para ello, se defiende que la preceptiva evaluacion de riesgos, realizada por los tecnicos, sea volcada en la programacion del algoritmo para que este la respete en la toma de decisiones en la direccion del trabajo. English Abstract: The use of Artificial Intelligence mechanisms, more or less advanced, to manage the work is more and more frequent: to establish work shifts, production times, designate and design tasks for workers, hire, evaluate the performance and fire. Companies trust that technology collects all available information, processes it and makes the best management decisions - productive optimization - for the benefit of it. With this, the supervisors and middle managers are replaced, as well as the human resources experts, leaving the direction of the workers in the hands of automated processes managed by algorithms - or in their most advanced state, in Artificial Intelligence. In this work, the health hazards that new form of technological management can cause are exposed. Indeed, the constant monitoring through sensors, the intensification of work derived from the decisions taken by a machine without empathy or knowledge about human limits, the reduction of autonomy of the worker subjected to the decisions made Artificial Intelligence, discriminations, under a blanket of algorithmic neutrality of these decisions, as well as possible operational errors, they can end up causing serious physical and psychological health problems for workers. These risks can be reduced if they are taken into account in programming. In this work, the need for a correct programming of the algorithm to assess the exposed occupational risks is defended. That is to say, in the same way that a supervisor must have training in risk prevention to be able to carry out his work, the algorithm must be programmed to weigh the occupational hazards at work - and in case of not having this programming, its use to direct workers should be banned. Specifically, the algorithm must be transparent, adapted to the real capabilities of the worker, must leave some margin of autonomy for the worker and respect their privacy. In short, the algorithm must assess any element that poses a risk to the safety and health of workers. To do this, it is argued that the mandatory risk assessment, carried out by the technicians, should be done focused on programming the algorithm so that it respects it in decision making in the work direction.