カオス符号化によるニューラルアーキテクチャの進化探索 Chaos-Driven Evolutionary Neural Architecture Search
- 海川 杨
- 2024年1月18日
- 讀畢需時 2 分鐘
已更新：8月5日
ニューラルアーキテクチャサーチ（Neural Architecture Search, NAS）は、ディープラーニングモデル設計の自動化を実現するための重要な研究領域となっており、その核心的な目標は、膨大なニューラルネットワーク構造空間から高性能なアーキテクチャを自動的に発見することである。近年、グリッドサーチ、強化学習、勾配最適化などに基づく従来のNAS手法は性能面で顕著な成果を上げてきたが、探索効率、構造適応性、汎化能力といった側面において依然として課題が残されている。本研究では、生物の遺伝子発現メカニズムに着想を得たカオス符号化進化フレームワークを提案し、カオスマップを可変構造のニューラルモデルの表現プロセスに統合することで、ネットワークの構造とパラメータを統合的かつ自己適応的に進化させることを可能にした。本手法は、構造次元が事前に不明な問題に対して特に適しており、ニューラルアーキテクチャサーチの新たなパラダイムを示すものである。
Neural Architecture Search (NAS) has emerged as a critical research direction in automating the design of deep learning models. Its primary objective is to automatically discover high-performance neural architectures from a vast design space. In recent years, traditional NAS approaches—based on grid search, reinforcement learning, or gradient-based optimization—have achieved remarkable results in terms of performance. However, these methods still face significant challenges in terms of search efficiency, structural adaptability, and generalization capability. In this research, we introduce a chaos-encoding evolutionary framework inspired by biological gene expression mechanisms. By incorporating chaotic maps into the representation process of variably-structured neural models, our method enables the joint self-adaptive evolution of both network architecture and parameters. This approach is particularly suitable for problems with unknown structural dimensionality and represents a novel paradigm in neural architecture search.
Reference:
Yang, H., Li, H., Yang, Y., Chiba, N., Kagami, S., Hashimoto, K., & Nagata, Y. (2025). Chaotic map-coded metaheuristics for metameric variable-length problems. Genetic Programming and Evolvable Machines, 26(2), 1-54. https://rdcu.be/epvDQ
H. Yang, Y. Yang, Y. Zhang, C. Tang, K. Hashimoto and Y. Nagata, "Chaotic Map-Coded Evolutionary Algorithms for Dendritic Neuron Model Optimization," 2024 IEEE Congress on Evolutionary Computation (CEC), Yokohama, Japan, 2024, pp. 1-8, doi: 10.1109/CEC60901.2024.10612087.
Code:
