{"title":"近似动态规划中自适应网格的体积加权Bellman误差法","authors":"L. Armesto, Antonio Sala","doi":"10.4995/riai.2021.15698","DOIUrl":null,"url":null,"abstract":"El control óptimo y aprendizaje por refuerzo lleva asociada una \"función de valor'' que debe ser adecuadamente aproximada. Estos problemas de aproximar funciones de valor tienen, usualmente, diferentes requerimientos de precisión en diferentes regiones del espacio de estados. Un mallado uniforme tiene problemas porque desperdicia recursos en regiones en las que la función de valor es suave, mientras que no tiene la suficiente resolución en zonas con grandes cambios en dicha función. El presente trabajo propone una metodología de programación dinámica aproximada con mallado adaptativo, para poder adaptarse a dichos requerimientos cambiantes sin incrementar en exceso el número de parámetros del aproximador. La propuesta se basa en mallados simpliciales y en el error en la ecuación de Bellman con un criterios para añadir y quitar puntos del mallado: se modificarán propuestas de la literatura incluyendo el volumen de los símplices afectados en los criterios, y se detallarán las manipulaciones de la triangulación necesarias.","PeriodicalId":54463,"journal":{"name":"Revista Iberoamericana De Automatica E Informatica Industrial","volume":"95 1","pages":""},"PeriodicalIF":1.1000,"publicationDate":"2021-12-17","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":"1","resultStr":"{\"title\":\"Método de error de Bellman con ponderación de volumen para mallado adaptativo en programación dinámica aproximada\",\"authors\":\"L. Armesto, Antonio Sala\",\"doi\":\"10.4995/riai.2021.15698\",\"DOIUrl\":null,\"url\":null,\"abstract\":\"El control óptimo y aprendizaje por refuerzo lleva asociada una \\\"función de valor'' que debe ser adecuadamente aproximada. Estos problemas de aproximar funciones de valor tienen, usualmente, diferentes requerimientos de precisión en diferentes regiones del espacio de estados. Un mallado uniforme tiene problemas porque desperdicia recursos en regiones en las que la función de valor es suave, mientras que no tiene la suficiente resolución en zonas con grandes cambios en dicha función. El presente trabajo propone una metodología de programación dinámica aproximada con mallado adaptativo, para poder adaptarse a dichos requerimientos cambiantes sin incrementar en exceso el número de parámetros del aproximador. La propuesta se basa en mallados simpliciales y en el error en la ecuación de Bellman con un criterios para añadir y quitar puntos del mallado: se modificarán propuestas de la literatura incluyendo el volumen de los símplices afectados en los criterios, y se detallarán las manipulaciones de la triangulación necesarias.\",\"PeriodicalId\":54463,\"journal\":{\"name\":\"Revista Iberoamericana De Automatica E Informatica Industrial\",\"volume\":\"95 1\",\"pages\":\"\"},\"PeriodicalIF\":1.1000,\"publicationDate\":\"2021-12-17\",\"publicationTypes\":\"Journal Article\",\"fieldsOfStudy\":null,\"isOpenAccess\":false,\"openAccessPdf\":\"\",\"citationCount\":\"1\",\"resultStr\":null,\"platform\":\"Semanticscholar\",\"paperid\":null,\"PeriodicalName\":\"Revista Iberoamericana De Automatica E Informatica Industrial\",\"FirstCategoryId\":\"94\",\"ListUrlMain\":\"https://doi.org/10.4995/riai.2021.15698\",\"RegionNum\":4,\"RegionCategory\":\"计算机科学\",\"ArticlePicture\":[],\"TitleCN\":null,\"AbstractTextCN\":null,\"PMCID\":null,\"EPubDate\":\"\",\"PubModel\":\"\",\"JCR\":\"Q4\",\"JCRName\":\"AUTOMATION & CONTROL SYSTEMS\",\"Score\":null,\"Total\":0}","platform":"Semanticscholar","paperid":null,"PeriodicalName":"Revista Iberoamericana De Automatica E Informatica Industrial","FirstCategoryId":"94","ListUrlMain":"https://doi.org/10.4995/riai.2021.15698","RegionNum":4,"RegionCategory":"计算机科学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":null,"EPubDate":"","PubModel":"","JCR":"Q4","JCRName":"AUTOMATION & CONTROL SYSTEMS","Score":null,"Total":0}
Método de error de Bellman con ponderación de volumen para mallado adaptativo en programación dinámica aproximada
El control óptimo y aprendizaje por refuerzo lleva asociada una "función de valor'' que debe ser adecuadamente aproximada. Estos problemas de aproximar funciones de valor tienen, usualmente, diferentes requerimientos de precisión en diferentes regiones del espacio de estados. Un mallado uniforme tiene problemas porque desperdicia recursos en regiones en las que la función de valor es suave, mientras que no tiene la suficiente resolución en zonas con grandes cambios en dicha función. El presente trabajo propone una metodología de programación dinámica aproximada con mallado adaptativo, para poder adaptarse a dichos requerimientos cambiantes sin incrementar en exceso el número de parámetros del aproximador. La propuesta se basa en mallados simpliciales y en el error en la ecuación de Bellman con un criterios para añadir y quitar puntos del mallado: se modificarán propuestas de la literatura incluyendo el volumen de los símplices afectados en los criterios, y se detallarán las manipulaciones de la triangulación necesarias.
期刊介绍:
La Revista Iberoamericana de Automática e Informática Industrial (RIAI) es el órgano de expresión del Comité Español de Automática (CEA), miembro de la Federación Internacional de Control Automático (IFAC). La revista se desarrolla en el marco de la comunidad iberoamericana, y en general, en los entornos en los que el español constituye el idioma básico y no excluyente de comunicación. RIAI engloba las siguientes temáticas:
• Teoría de control y sistemas.
• Ingeniería de control de procesos e instrumentación.
• Técnicas de control avanzado.
• Automatización y control de sistemas de producción.
• Robótica y sistemas robotizados.
• Arquitecturas de control y tecnología de computadores aplicada al control automático de sistemas.
• Sistemas de tiempo real e informática industrial aplicados al control automático de sistemas.
• Filtrado, estimación y análisis y tratamiento de señales e imágenes aplicados al control automático de sistemas.
• Visión por computador aplicada al control automático de sistemas.
• Modelado, identificación, simulación y optimización de sistemas.
• Inteligencia computacional y técnicas de supervisión y detección de fallos aplicados al control automático de sistemas.
• Historia de la automática. La automática en sistemas sociales, económicos y empresariales.
• Cuestiones docentes y de formación en automática.
• Control de sistemas en red y complejos a gran escala.
• Control automático de procesos industriales, sistemas energéticos, mineros, ingeniería civil y edificios.
• Control automático de sistemas de transporte y vehículos.
• Control automático en bioingeniería, biología, agricultura, ecología y medicina.
• Control automático de máquinas y motores y mecatrónica.