NSN勉強会で、実はもっとも印象に残ったのは、やはり局所最適からどうやって抜け出してパラメーター推定を行うか、だった。
アルゴリズムの善し悪しは僕にとってはどうでもよくて、局所最適に陥ったときに、それが局所最適だと判断することの難しさ（自分が谷でごろごろしていたらね）、そして、そこから抜け出すことの難しさは、とても大切なことを教えてくれているとやはり思う。自分の居心地のよい空間にとどまってしまうこと、そこでそれなりにうまくできるから、そこで落ち着いてしまうこと。それは、局所最適で落ち着いていることではないのか？もっと広く見たら、もっとfitしたところがあるのじゃないか？そう考えることだけはそれほど難しくないけれど、では、その最適解を探索するのに、どれだけの努力を払うことができる？とても大きなjumpを必要とするんだけれど、やる勇気はあるの？？？
Look if you like, but you have to leap.なんだよね。ありもしない最適解を求め続ける愚もあるだろうけれど、局所最適を最適解と思いこんでしまう愚と、どちらがよくないのだろうか。
遙か彼方の空間へと探索を開始する、そのアルゴリズムをみていると、本当にいろいろ考えさせられてしまった。
