De redes neuronales recurrentes a modelos de lenguaje: la evolución del PLN en la generación de textos

Abstract

En el presente texto haremos un breve repaso por la evolución del procesamiento de lenguaje natural y la generación de texto artificial. Desde la década de 1990, vieron la luz las primeras ideas sobre generación artificial de textos. En una primera instancia, las técnicas existentes resultaron insuficientes para resolver tareas, tales como la propia generación de textos, la traducción automática o la búsqueda de información. Sin embargo, al pasar del tiempo se fueron generando nuevas ideas, con base en la comprensión propia de la generación de textos desde la naturaleza humana, desde los primeros modelos de redes neuronales recurrentes hasta los modelos de lenguaje más actuales, desde la consecución de palabras más básicas hasta lograr la generación de obras literarias enteras de manera artificial. De esta forma visualizaremos en esencia cómo es que se dio esta evolución en el campo y cuál fue la lógica que siguió.