PROHBICIÓN DE LA AUTOMATIZACIÓN DECISORIA BASADA EN EL PERFILAMIENTO DIGITAL

Contextualización: La Inteligencia Artifi cial (IA) genera, produce, implica y representa desafíos para los derechos humanos, tanto que aquella debe concretar un “alineamiento” con estos, y los sistemas inteligentes no pueden producir interferencias con la dignidad humana. Por eso, la manipulación final y operación sobre procesos de IA, debe descansar en personas (y más aún todavía cuando los resultados impactan directamente sobre las libertades), debiendo –en defi nitiva- “la dimensión humana” estar presente en el proceso de toma de decisiones y evaluación sobre quejas ante situaciones de violaciones a los derechos humanos. Objetivo: El objetivo de la investigación es identifi car que derechos fundamentales pueden ser afectados por las tecnologías inteligentes, analizando los usos de estas tecnologías y su repercusión sobre los derechos, por un lado, y la necesidad de delimitar su contenido defi niendo garantías, por el otro. Metodología: La investigación utilizó el método inductivo aliado a la base lógica inductiva para expresar los resultados. Resultado: Desde nuestra óptica, la prohibición estudiada no alcanza a toda la automatización de las decisiones administrativas y/o judiciales por medio del uso de IA en el marco de un procedimiento previo llevado a cabo por la Administración pública o el Poder Judicial.