活性化関数とは

ニューラルネットワークの各ユニットにおいて、入力の重み付き和に対して非線形な変換を加える関数。シグモイド関数、ReLU、tanhなどが代表例で、非線形性を導入することで複雑なパターンの学習を可能にしている。