Отримано 19.01.2026, Доопрацьовано 20.05.2026, Прийнято 25.06.2026 Опубліковано 03.08.2026

Логарифмічне перетворення вхідних активацій у нейронах згорткових мереж: підхід та аналіз ефективності на прикладі класифікації MNIST

Артем Тарновський*

tarnovskiy0211@gmail.com



Згорткові нейронні мережі привертають значну увагу завдяки здатності навчатися безпосередньо на вхідних даних, автоматично формуючи ознаки, необхідні для класифікації. Метою дослідження було вдосконалення архітектури згорткової нейронної мережі за рахунок застосування логарифмічного перетворення вхідних активацій у нейронах згорткових шарів та дослідження його впливу на точність класифікації та стійкість нейромережі до змін яскравості зображень. Розглянуто математичну модель модифікованого нейрона, що оцінює вхідний сигнал через логарифмічне перетворення виду γ · ln(x + 1), де γ є додатковим навчальним параметром, що визначає ступінь нелінійного стиснення сигналу. Такий підхід дозволив зробити нейрон чутливим до відносних змін вхідних сигналів, зменшити вплив великих значень активацій та потенційно покращити стабільність процесу навчання. Було проведено аналіз градієнтів навчальних параметрів нейронної мережі в межах методу зворотного поширення помилки. Показано, що логарифмічне перетворення змінює характер оновлення ваг, підсилюючи градієнт при малих значеннях сигналу та послаблюючи для великих. Окрему увагу було приділено параметру γ, який виступає як глобальний коефіцієнт масштабу для нейронного шару і дозволяє мережі самостійно налаштовувати рівень нелінійності. Експериментальна перевірка ефекту від логарифмічної трансформації вхідних активацій у згорткових шарах була проведена на задачі класифікації рукописних цифр MNIST із використанням LeNet-подібної архітектури. Результати експериментів показали, що на стандартних зображеннях логарифмічна модель дає лише незначне підвищення точності за порівнянням з моделлю з класичними лінійними нейронами (у середньому 99,17  % проти 99,11  %). Проте для тих самих зображень зі зниженою яскравістю логарифмічна модель продемонструвала високу стійкість та набагато більшу точність. Зокрема, при зменшенні яскравості у 7 разів точність класифікації для моделі з класичними нейронами знижується у середньому до 27,11 %, тоді як логарифмічна модель зберігає рівень близько 90,98 %. Отримані результати підтвердили доцільність використання логарифмічного перетворення як механізму покращення стабільності нейронних мереж при вирішенні задач комп’ютерного зору в умовах недостатнього або змінного освітлення

логарифмічний нейрон; LeNet подібна мережа; згортковий шар; класифікація зображень; глибоке навчання; градієнтний спуск
100-108
Tarnovskyi, A. (2026). Logarithmic transformation of input activations in convolutional network neurons: An approach and analysis of effectiveness using MNIST classification as an example. Information Technologies and Computer Engineering, 23(2), 100-108. https://doi.org/10.31649/vitce/2.2026.100

Використані джерела

  1. Aboukhair, M., Alsheref, F., Assiri, A., Koura, A., & Kayed, M. (2025). CNN filter sizes, effects, limitations, and challenges: An exploratory study. Network Computation in Neural Systems, 1-29. doi: 10.1080/0954898X.2025.2533865.
  2. Alzubaidi, L., Zhang, J., Humaidi, A.J., Al-Dujaili, A., Duan, Y., Al-Shamma, O., Santamaría, J., Fadhel, M.A., Al-Amidie, M., & Farhan, L. (2021). Review of deep learning: Concepts, CNN architectures, challenges, applications, future directions. Journal of Big Data, 8(1), article number 53. doi: 10.1186/s40537-021-00444-8.
  3. Cotogni, М., & Cusano, C. (2022). Offset equivariant networks and their applications. Neurocomputing, 502, 110-119. doi: 10.1016/j.neucom.2022.06.118.
  4. Hu, C., Shi, W., Li, C., Sun, J., Wang, D., Wu, J., & Tang, G. (2023). Impact of light and shadow on robustness of deep neural networks. arXiv. doi: 10.48550/arXiv.2305.14165.
  5. Kadam, S., Adamuthe, A., & Patil, A. (2020). CNN model for image classification on MNIST and fashion-MNIST dataset. Journal of Scientific Research, 64 (2), 374-384. doi: 10.37398/JSR.2020.640251.
  6. Khan, S., & Iqbal, R. (2025). A comprehensive survey on architectural advances in deep CNNs: Challenges, applications, and emerging research directions. arXiv. doi: 10.48550/arXiv.2503.16546.
  7. Khanday, O.M., Dadvandipour, S., & Lone, M.А. (2021). An effect of filter sizes on image classification in CNN: A case study on CIFAR10 and Fashion-MNIST datasets. IAES International Journal of Artificial Intelligence, 10(4), 872-878. doi: 10.11591/ijai.v10.i4.pp872-878.
  8. Madadum, H., & Becerikli, Y. (2022). A resource-efficient convolutional neural network accelerator using fine-grained logarithmic quantization. Intelligent Automation & Soft Computing, 33(2), 681-695. doi: 10.32604/iasc.2022.023831.
  9. Maes, C. (2021). Statistical mechanical foundation of Weber-Fechner laws. Journal of Statistical Physics, 182, article number 49. doi: 10.1007/s10955-021-02726-0.
  10. Maxwell, B.A., Singhania, S., Patel, А. Kumar, R., Fryling, H., Li, S., Sun, H., He, P., & Li, Z. (2024). Logarithmic lenses: Exploring log RGB data for image classification. In 2024 IEEE/CVF conference on computer vision and pattern recognition (CVPR) (pp. 17470-17479). Seattle: Institute of Electrical and Electronics Engineers. doi: 10.1109/CVPR52733.2024.01654.
  11. Nocentini, O., Kim, J., Bashir, M.Z., & Cavallo, F. (2022). Image classification using multiple convolutional neural networks on the fashion-MNIST dataset. Sensors, 22(23), article number 9544. doi: 10.3390/s22239544.
  12. Petkovic, J., & Fioresi, R. (2024). Spontaneous emergence of robustness to light variation in CNNs with a precortically inspired module. Neural Computers, 36(9), 1832-1853. doi: 10.1162/neco_a_01691.
  13. Raj, R., & Kos, A. (2025). An extensive study of convolutional neural networks: Applications in computer vision for improved robotics perceptions. Sensors, 25(4), article number 1033. doi: 10.3390/s25041033.
  14. Rodríguez-Rodríguez, J.A., López-Rubio, Е., Jiménez-Segura, S., & Molina-Cabello, M.A. (2026). Adaptive image enhancement for robust CNN classification under low illumination. Expert Systems with Applications, 315, article number 131696. doi: j.eswa.2026.131696.
  15. Stenin, A., Pasko, V., Soldatova, M., & Drozdovych, I. (2022). Recognition of handwritten numbers based on convolutional neural networks. Adaptive Automatic Control Systems, 2(41), 39-44. doi: 10.20535/1560-8956.41.2022.271337.
  16. Tsirtsakis, P., Zacharis, G., Maraslidis, G.S., & Fragulis, G.F. (2025). Deep learning for object recognition: A comprehensive review of models and algorithms. International Journal of Cognitive Computing in Engineering, 6, 298-312. doi: 10.1016/j.ijcce.2025.01.004.
  17. Wang, Y., Li, F., Sun, H., Li, W., Zhong, C., Wu, X., Wang, H., & Wang, P. (2020). Improvement of MNIST image recognition based on CNN. In IOP conference series: Earth and environmental science of 7th annual international conference on geo-spatial knowledge and intelligence 20-21 December 2019, Guangzhou, China. 428, article number 012097. Guangzhou: Guangzhou Institute of Geography. doi: 10.1088/1755-1315/428/1/012097.
  18. Weidler, T., Lehnen, J., Denman, Q., Sebők, D., Weiss, G., Driessens, K., & Senden, M. (2021). Biologically inspired semantic lateral connectivity for convolutional neural networks. arXiv. doi: 10.48550/arXiv.2105.09830.
  19. Younesi, A., Ansari, M., Fazli, M., Ejlali, A., Shafique, M., & Henkel, J. (2024). A comprehensive survey of convolutions in deep learning: Applications, challenges, and future trends. IEEE Access, 12, 41180-41218. doi: 10.1109/ACCESS.2024.3376441.
  20. Zhe, W. (2024). Research on the application of CNN in MNIST image classification and recognition. In 2024 IEEE 7th international conference on information systems and computer aided education (ICISCAE) (pp. 698-706). Dalian: Shenyang Normal University. doi: 10.1109/ICISCAE62304.2024.10761186.