GENETIC ALGORITHM FOR THE EVOLUTION OF CLASSIFIER’S WEIGHTS (ALGORITMO GENÉTICO PARA LA EVOLUCIÓN DE LOS PESOS DEL CLASIFICADOR)

Alejandro Moreno Martinez, Asdrúbal López Chau, Victor Manuel Landassuri Moreno, Saturnino Job Morales Escobar

Resumen


Abstract
One of the main challenges in machine learning is obtaining high-performance predictive models for classification tasks. Traditionally, this goal is achieved by adjusting hyperparameters; however, little attention has been paid to assigning weights at the instance level in training sets. This work proposes the use of genetic algorithms (GA) with real representation to evolve and optimize these weights, allowing classifiers to focus on more complex or relevant examples.
The methodology consisted of applying a GA to three widely used classifiers (Naïve Bayes, Logistic Regression, and Support Vector Machines) on five public datasets. The process included the initial generation of weights, their evolution using genetic operators, and the evaluation of accuracy in multiple runs.
The results show significant improvements in accuracy, with increases of up to 20 percentage points compared to the baseline, demonstrating the potential of the proposed approach.
Keywords: Classifier, Genetic algorithm, Weight assignment, Weight evolution.

Resumen
Uno de los principales retos en el aprendizaje automático es obtener modelos predictivos con alto rendimiento en tareas de clasificación. Tradicionalmente, este objetivo se alcanza ajustando hiperparámetros; sin embargo, se ha prestado poca atención a la asignación de pesos a nivel de instancia en los conjuntos de entrenamiento. Este trabajo propone el uso de algoritmos genéticos (GA) con representación real para evolucionar y optimizar dichos pesos, permitiendo que los clasificadores se concentren en ejemplos más complejos o relevantes.
La metodología consistió en aplicar un GA sobre tres clasificadores ampliamente utilizados (Naïve Bayes, Regresión Logística y Máquinas de Vectores de Soporte) en cinco conjuntos de datos públicos. El proceso incluyó la generación inicial de pesos, su evolución mediante operadores genéticos y la evaluación de precisión en múltiples ejecuciones.
Los resultados muestran mejoras significativas en precisión, con incrementos de hasta 20 puntos porcentuales frente al baseline, evidenciando el potencial del enfoque propuesto.
Palabras Clave: Algoritmo genético, asignación de pesos, clasificador, evolución de pesos.

Texto completo:

334-349 PDF

Referencias


Aparicio-Montelong, I., Celaya-Padilla, J. M., Luna-García, H., Galván-Tejada, C. E., Galván-Tejada, J. I., & Gamboa-Rosales, H. Predicción de Enfermedades Cardíacas Derivadas de Diabetes mediante Algoritmos Genéticos: Caso de Estudio. Research in Computing Science, No. 151, pp. 159–172, 2022.

Cervantes-Guerrero, M. D., Cruz, M., Valladares-Salgado, A., Galván-Tejada, J. I., Gutiérrez-García, T. A., & Galván-Tejada, C. E. Clasificación de Complicaciones en Diabetes Mellitus mediante Algoritmos Genéticos. Research in Computing Science, No. 150, pp. 401–411, 2021.

Goix, N., Drougard, N., Brault, R., & Chiapino, M. One Class Splitting Criteria for Random Forests. Asian Conference on Machine Learning, 2016.

Hepatitis, (1988). UCI Machine Learning Repository. https://doi.org/10.24432/C5Q59J.

Kahn, M., (1999). Diabetes [Dataset]. UCI Machine Learning Repository. https://doi.org/10.24432/C5T59G.

Mosquera, R., Castrillón, O. D., & Parra, L. Máquinas de Soporte Vectorial, Clasificador Naïve Bayes y Algoritmos Genéticos para la Predicción de Riesgos Psicosociales en Docentes de Colegios Públicos Colombianos. Información Tecnológica, Vol. 29, No. 6, pp. 153–162, 2018.

Padilla-Navarro, C., González-Reyna, S., Aguilera-González, G., Ortega-Yepez, M., Bombela-Jiménez, S., Rangel-Huerta, M., & Lino-Ramírez, C. Algoritmos Genéticos Aplicados a la Optimización de Características en la Clasificación de Arritmias Cardiacas Utilizando los Clasificadores KNN y Naïve Bayes. Research in Computing Science, No. 134, pp. 55–68, 2017.

Quinn, J. A., & Sugiyama, M. A Least-Squares Approach to Anomaly Detection in Static and Sequential Data. Pattern Recognition Letters, No. 40, pp. 36–40, 2014.

Sigillito, V., Wing, S., Hutton, L., & Baker, K., (1989). Ionosphere. UCI Machine Learning Repository. https://doi.org/10.24432/C5W01B.

Valencia, P. E. Optimización mediante Algoritmo Genético. Anales del Instituto de Ingenieros de Chile, Vol. 109, No. 2, pp. 83–92, 1997.

Zwitter, M., & Soklic, M., (1988). Breast Cancer. UCI Machine Learning Repository. https://doi.org/10.24432/C51P4M.

Zwitter, M., & Soklic, M., (1988). Lymphography. UCI Machine Learning Repository. https://doi.org/10.24432/C54598.






URL de la licencia: https://creativecommons.org/licenses/by/3.0/deed.es

Barra de separación

Licencia Creative Commons    Pistas Educativas está bajo la Licencia Creative Commons Atribución 3.0 No portada.    

TECNOLÓGICO NACIONAL DE MÉXICO / INSTITUTO TECNOLÓGICO DE CELAYA

Antonio García Cubas Pte #600 esq. Av. Tecnológico, Celaya, Gto. México

Tel. 461 61 17575 Ext 5450 y 5146

pistaseducativas@itcelaya.edu.mx

http://pistaseducativas.celaya.tecnm.mx/index.php/pistas