ESTUDIO DE LA CAPACIDAD DE CLASIFICACIÓN DE NEURONAS WAVELET SOBRE FUNCIONES BOOLEANAS (STUDY OF CLASSIFICATION PERFORMANCE OF WAVELET NEURONS ON BOOLEAN FUNCTIONS)

Oscar Herrera Alcántara, Josué Rubén Castelán Aguilar

Resumen


Resumen
En este artículo se estudia la capacidad de clasificación de neuronas artificiales tipo perceptrón modificadas con funciones de activación wavelet. El modelo original del perceptrón contempla una función Heaviside y posteriormente se consideraron funciones de activación continuas, crecientes y acotadas como las funciones tangente hiperbólico y sigmoidal. El perceptrón puede clasificar datos binarios linealmente separables, y como contraejemplo suele presentarse el problema de la compuerta XOR, que requiere conectar más de un perceptrón para obtener una solución. La capacidad de clasificación de una sola neurona, y por consiguiente de redes de neuronas, puede mejorarse si se usa otro tipo de funciones de activación. En este trabajo se usan funciones wavelet, y los experimentos muestran mejoras en la capacidad de clasificación para funciones booleanas con dos y tres entradas.
Palabras Clave: clasificación binaria, perceptrón, wavelets.

Abstract
This paper studies the classification capacity of artificial neurons modified from the original perceptron with wavelet activation functions. The original perceptron model contemplates a Heaviside function, and other increasing and bounded activation functions were considered subsequently such as hyperbolic tangent and sigmoidal. The perceptron classifies linearly separable binary data, and as a counterexample the XOR gate problem is often presented, which requires connecting more than one perceptron to obtain a solution. The classification capacity of a single neuron, and therefore of networks of neurons, can be improved by using other types of activation functions. In this work wavelet functions are used, and the experiments show improvements in the classification performance for boolean functions with two and three inputs.
Keywords: binary classification, perceptron, wavelets.

Texto completo:

528-543 PDF

Referencias


Abadi, M.; Agarwal, A.; Barham, P.; Brevdo, E.; Chen, Z.; Citro, C.; Corrado, G.S.; Davis, A.; Dean, J.; Devin, M.; et al. TensorFlow: Large-Scale Machine Learning on Heterogeneous Systems, 2015.

Aizerman, M., Braverman, E., Rozonoer, L. Automation and Remote Control, No. 25, 821-837, 1964.

Bengio, Y. Deep Learning, MIT Press, 2016.

Chollet, F.; Zhu, Q.S.; Rahman, F.; Lee, T.; Marmiesse, G.; Zabluda, O.; Qian, C.; Jin, H.; Watson, M.; Chao, R.; et al. Keras. 2015. https://keras.io/ (Consultado el 29 de septiembre de 2022)

Cybenko, G. Approximation by superpositions of a sigmoidal function, Mathematics of Control, Signals, and Systems, No. 2, vol. 4, 303-314, 1989.

Daubechies, I. Ten Lectues on Wavelets, Society for Industrial and Applied Mathematics, Philadelphia, PA, 1992.

Kurtz, K.J. The divergent autoencoder (DIVA) model of category learning, Psychonomic Bulletin & Review No. 14, 560-576, 2007.

Haykin, S. Neural networks and learning machines, Pearson Prentice Hall, 2008.

Herrera, O., Priego, B. Wavelets as activation functions in Neural Networks, 2022. Journal of Intelligent & Fuzzy Systems, No. 42, 2022, 4345-4355.

Kingma, D. P., B. J. Adam: A Method for Stochastic Optimization, 2014. 3rd International Conference for Learning Representations, San Diego, 2015.

Lippmann, R. P. An Introduction to Computing with Neural Nets, ASSP Magazine, IEEE, 1987.

Piazza, F., Uncini, A., Zenobi, M. Artificial Neural Networks with Adaptive Polynomial Activation Function, 1992.

Rosenblatt, F. Principles of Neurodynamics. Spartan, Washington, DC, 1961.

Rumelhart, D. E., Hinton, G.E., Williams, R. J. Learning representations by back-propagation errors. Nature, No. 323, 1986.






URL de la licencia: https://creativecommons.org/licenses/by/3.0/deed.es

Barra de separación

Licencia Creative Commons    Pistas Educativas está bajo la Licencia Creative Commons Atribución 3.0 No portada.    

TECNOLÓGICO NACIONAL DE MÉXICO / INSTITUTO TECNOLÓGICO DE CELAYA

Antonio García Cubas Pte #600 esq. Av. Tecnológico, Celaya, Gto. México

Tel. 461 61 17575 Ext 5450 y 5146

pistaseducativas@itcelaya.edu.mx

http://pistaseducativas.celaya.tecnm.mx/index.php/pistas