ハイパーパラメータとは何ぞや!?

人が決めるパラメータのことだよね!

Kerasなどのディープラーニングのライブラリにお任せするのではなく
開発しているエンジニア、専門家が決める値のことだよね!と理解していた

深層学習では実行結果の同一性は保証されない

Kerasのテキストにこんな文章があった

ディープラーニングのモデルでは実行結果の再現性は保証されません。実行のたびに予測値が変動します。

ディープラーニングは出力層→入力層に向かってパラメータの重みを調整して
正解値に近づくニューラルネットワークにする
→ 最初の重みはランダムに振られているから毎回結果が変わるのか!

あれ?最初の重みってハイパーパラメータじゃないの?

ハイパーパラメータで初期の重みを設定してるはずだから、なんでランダムに重みが振られる?
っていう勘違いです

Aidemy ハイパーパラメータ
パラメータの重みは膨大な数なので人が決めるのには無理があるそうです…
ハイパーパラメータはニューラルネットワークの構造とか学習条件に関する値を指すのが一般的ぽい

  • ニューラルネットワークの層数
  • 活性化関数
  • エポック数