Use of Linear Genetic Programming and Artificial Neural Network Methods to Solve Classification Task

Abstract

Use of Linear Genetic Programming and Artificial Neural Network Methods to Solve Classification Task This paper presents a comparative analysis of linear genetic programming and artificial neural network methods to solve classification tasks. Usually classification tasks have data sets containing a large number of attributes and records, and more than two classes that will be processed using, for example, created classification rules. As a result, by using classical method to classify a large number of records, a high classification error value will be obtained. The artificial neural networks are often used to solve classification task, mostly obtaining good results. The linear genetic programming is a new direction of evolution algorithms that is not widely researched and its application areas are not well defined. However, some advantages of linear genetic programming are based on genetic operators whose structure does not require complicated calculations. During this work approximately 400 experiments were conducted with linear genetic programming and artificial neural network methods, using various data sets with different quantity of records, attributes and classes. Based on the results received, conclusions on possibilities of using the methods of linear genetic programming and artificial neural networks in classification problems were drawn, and suggestions for improving their performance were proposed. Lineārās genētiskās programmēšanas un mākslīgā neironu tīkla pielietošana klasifikācijas uzdevuma risināšanai Rakstā izskatīta lineārās genētiskās programmēšanas un mākslīgā neironu tīkla metožu pielietošanas salīdzinošā analīze klasifikācijas uzdevuma risināšanā. Klasifikācija ir viens no aktīvi pētītiem un pielietotajiem virzieniem. Parasti klasifikācijas uzdevuma datu kopa satur lielu atribūtu un ierakstu skaitu, kā arī vairāk par divām klasēm, kurās jāklasificē dati, pielietojot izveidotos klasifikācijas likumus. Rezultātā klasifikācijas metodes pielietošana lielā ierakstu skaita dēļ, dod lielu klasifikācijas kļūdu. Mākslīgais neironu tīkls bieži tiek pielietots klasifikācijas uzdevuma risināšanai, kas vairākos gadījumos nodrošina labus rezultātus. Lineārā genētiskā programmēšana ir jauns evolucionāro algoritmu virziens, kas vēl nav labi izpētīts un tā pielietošanas sfēras vēl nav labi definētas. Tomēr var atzīmēt dažas lineārās genētiskās programmēšanas priekšrocības, kas balstās uz genētiskajiem operatoriem, kuri pēc savas struktūras nesatur sarežgītus aprēķinus. Darba gaitā tika veikti 400 klasifikācijas uzdevuma risināšanas eksperimenti, pielietojot minētās metodes, izmantojot piecas datu kopas ar dažādu atribūtu un klašu skaitu. Eksperimentu realizācijai tika izmantota speciālā programmatūra - divas esošās ("Disciplinus" un "Multiple Back-Propagation") un divas speciāli izstrādātās ("Testing program for LGP and ANN methods" and "Data Sets Maker"). Lai nodrošinātu objektīvus eksperimentu rezultātus, eksperimentos tika pielietota šķērsvalidācija katrai datu kopai. Pamatojoties uz iegūtajiem rezultātiem, tika veikti secinājumi par lineārās genētiskās programmēšanas un mākslīgo neironu tīklu metožu izmantošanas iespējām klasifikācijas uzdevumos, kā arī izvirzīti priekšlikumi metodes darbības uzlabošanai un pilnveidošanai Применение методов линейного генетического программирования и искусственных нейронных сетей в задачах классификации В статье проведен сравнительный анализ применения методов линейного генетического программирования и искусственных нейронных сетей в задачах классификации. Задача классификации является одним из активно исследуемых и применяемых направлений. Обычно данные в задачах классификации содержат много записей, атрибутов и классов, на которые необходимо классифицировать данные, применяя созданные правила. В результате применения методов классификации при большом объеме данных появляется большая ошибка классификации. Искусственные нейронные сети часто применяются для решения задач классификации, что в большинстве случаев обеспечивает хороший результат. Линейное генетическое программирование на данный момент является еще новым, плохо изученным направлением. Тем не менее, необходимо отметить некоторые преимущества линейного генетического программирования, базирующиеся на основе генетических операторов, которые по своей структуре не содержат сложных вычислений. В ходе работы проведено 400 экспериментов с данными методами, используя различные наборы данных с разным количеством записей, атрибутов и классов. Для проведения экспериментов использовано специальное программное обеспечение два готовых пакета (Disciplinus и Multiple Back-Propagation), а также дополнительно были разработаны две программы (Testing program for LGP and ANN methods и Data Sets Maker). На основании полученных экспериментальных результатов сделаны выводы о возможностях использования методов линейного генетического программирования и искусственных нейронных сетей в задачах классификации, а также выдвинуты предложения по улучшению работы методов.