池口先生の授業を受けていると、カオスが最強な気がしてきます。
これが洗脳というやつですね。。
後、質問なのですがリアプノフ指数が０のときはカオスでも周期解。
でもなく何なのですか？また、λがaの値によらず一定になっている。
所があったりしますが、とういう意味があるのでしょうか？
「洗脳」じゃないですよ．方向は全く逆で，
皆さんを線形世界お呪縛から解き放っているわけですね．
カオスを取り入れたモデルの方が、確率を取り入れたモデルよりも。
優秀な気がしてきた。しかし、確率の方が簡単だとは思った。
とても良いコメントだと思います．パラメータの数等の観点からすると，
確率の方が簡単という考えもあると思います．
ポスター発表の課題がBになりました。頑張ります。
本当に最近色々忙しいですが、（レポートetc）なんとか耐えます。
期待しています．いろいろとあると思いますが，ちゃんと耐えて
卒論着手でお願いします．大学院も待っています．
南雲さん等の式で過去の情報の重みを指数関数的に小さくするという発想
が面白いです。
その通りです．南雲佐藤ニューロンモデルはとてもうまく出来ていると思います．
講義でも説明したように，指数関数的な減衰を入れているので，
式変形も容易ですからね．
本日いただいた資料の中で、連想記憶の所で女の子が恋文らしきものを
持って微笑んでいるので来週が楽しみです。
了解しました．ご期待下さい．
といっても，大したネタになっている訳じゃなくて，
真面目なスライドです．
総合演習課題Bの2-opt法で、
なぜ減少量が大きい組み合わせから修正していくのか
不思議でしがたが、勾配が大きい方へ移動させて
できるだけ、小さい局所最適解を求めるためだあったんですね。
前半はその通りです．ただし，ここで言っている「小さい」についてですが，
目的関数値が小さいということではないでしょね．
必ずしも「小さい局所最適解」に行くとは限らないと思います．
NSモデルの分岐図において、いくつか周期解がみられますが
それは実際のニューロンではどのような場合のときなのですか？
まさに周期的な出力を出しているということです．
ニューロンが発火するしないのデジタル出力ではなく、シグモイド関数
のようにアナログ出力になるのは、温度が関係しているようなので温度を
調節して、デジタルな出力と考えることは出来ないのだろうか。
可能だと思います．
カイアニエロのモデルは
MPモデル（時空間的加算に拡張したver.）
に履歴を加えただけですか？
はい，式の形としては，そのように考えてもらって良いと思います．
ただし，なぜこのようなモデルを提案したか，というのは，
講義でもお話したように，MPモデルとは異なると思います．
NSニューロンなどのA(t)は他のニューロンからの入力にあたるのでしょうか？
このようなかんじで
よいコメントですね．すばらしい．それでOKです．
ニューロンモデルの過去に発火していたら、発火しにくい不応性の
考えは、様々な場面で利用できそうな気がする。
確かにいろいろな場面で使えそうですね．
例えばどういう場面でなら使えると思いますか．
NSニューロンモデルの改良する時に、ステップ関数をシグモイド関数に変更していましたが、
MPモデルを拡張する時もステップ関数をシグモイド関数に変更していたと思います。
これは何かを改良する時は同じような改良をしている例を探した方が良いということなのかな
と思いました。
よいコメントですね．過去の事例を参照するのは重要です．
意外に宝が埋まっていることもあると思います．
NSニューロンモデルの「過去に発火したら発火しにくい」という考え方を実装している
ところに感動しました。本物のニューロンの動きをきれいに式で表せるのがすごいですね。
その通りですね．数学はすばらしいと思います．
NSニューロンモデルの発火履歴の参照は
全部する必要があるのですか？
全部するというのがr=0〜tまでということでしょうか．
とても良い質問です．基本は今日紹介したものですが，
必ずしも過去全てを参照しなくても良いですね．
この辺りの内容はいろいろと検討されていますが，
ただ，過去全てを参照することで式変形が楽になるということはあります．
HNNを使ってN都市TSPを解く時に必要なニューロンやシナプス結合の数はわかりましたが、
カオスニューラルネットワークだとそれぞれどうなるのですか？
これも良い質問ですね．HNNで解いたときのように，相互結合型で解くのであれば，
必要なニューロン数，シナプス結合の数は同じです．
次回紹介するような別の方法となると，話は変わってきますが，
詳しくは次回紹介します．
「カオス」という言葉が何回もでてきたのすが、「カオス」自体をよく知らないので
少し調べてみようと思いました。
来年度，前期の非線形システム概論を履修して下さい．
楽しいですよ．
分岐図、リアプノフ指数がよくわかりませんでした。
分岐図については，非線形システム概論で詳しく紹介しました．
また，リアプノフ指数ですが，このような用語での紹介はしませんでしたが，
式をよく見てもらうと分かるように，不安定性に関係した指標になります．
例えば，非線形システム概論で話した，ロジスティック写像の場合，
パラメータについてa=4とすると，リアプノフ指数は丁度1ビットとなります．
NSモデルのステップ関数をシグモイド関数にする、という発想はなかなか出ないと
思います。他の関数ではなくシグモイド関数にしたのは何か理論に基づいてのことだったのでしょうか。
南雲先生や佐藤先生は自分たちのモデルが現実の現象とは少し異なるということに
気付いていたのでしょうか。
シグモイド関数にしたというよりも，ステップ関数のような0,1の二値でなくした，
というところがポイントです．
ニューロン自身の発火履歴の式がなぜ
で表せるのかが、よくわからなかったです。
は何を意味するのでしょうか？
講義でも説明しましたが，まずは，自分で
Σの項を展開してみましょう．
課題内容がかなり不安なのですが…。
厳しい課題ですよ．覚悟しておいてください．
後、今回の資料見やすくていいとは
思うのですが、少々でかすぎて、もちはこびやら
保存に困りそうです。
そんなこといって，ちゃんと授業に持ってきてないやろ．
プリントが大きいと自然と字が大きくなりますね。
池口先生が提案した方法は余因子展開みたいで、意外と
誰でも思いつきそうな方法だと思ったのですが、ほかにやった人とかは
いないんですか？
かなり調べましたがいないようです．
あまりに簡単すぎてということかもしれません．
大きいプリントはとても見やすかったです．
ただ量が多くなってかさばってしまうのは
ちょっと困まります。この大きさで両面印刷にすれば
みんなHappyだと思いました。
今後の検討課題にしたいと思います．どうもありがとうございます．
正ならカオスだというリアプノフ指数というものが、気になりました。
NSでは全部-1だけど、CNではバラバラなので、-1が示す意味はどのようなものなんだろうか。
これは詳しく話をしませんでしたが，NSニューロンモデルの場合，
写像の関数形を描いてみると，傾きが一定な部分しかでてこないことが分かります．
また，パラメータaを変えただけだと，写像形の間数が上下するだけなので，
この性質は変わりません．従って，この一種類の傾きに相当する不安定さ
(この場合，実際には安定になりますが)が出て来ることになります．
12ページで、35℃のニューロンの発火が15℃に比べゆるやかに遷移しているということは
人間は気温が低い所より温かい場所の方がニューロン的にもより繊細な行動ができるということでしょうか。
このニューロンは人間のものではないので
直接対応がつくということは言えないと考えられます．
局所解になってしまう問題においてカオスを使えばより良い
答えがでる可能性はわかったが、使うカオスのモデルはどの
ようなものを選べば良いのだろうか？
とても良いコメントですね．
今，やっているのはカオスニューロンを中心としていますが，
2次 or 3次関数の形となる写像の結合などでもOKと思います．
カオスは応用分野が広いのが分かった。
かつ、あまり知られていないと聞いたので、役に立てられそう。
ニューロンは０か１かの反応をしない場合、
どのような反応をするのか気になった。
ニューロンだけでも複雑なのに、それが集まった人間は
あり得ない程複雑であることが分かる。
応用分野は広いですね．次回紹介できればと思います．
合成による解析で、モデルをよりよく修正して評価するの繰り返しですが
これはゴールがないようにも見えます。そのようなことはないのですか？その現象に対して再現、
評価する点がそれだけでよいという根拠は得られるものなのでしょうか？
とても良い質問ですね．
どのような観点から現象を理解するのか，
あるいは，したいのかということによると思います．
今日の授業の一番大事なところ
を聞き逃してしまいました。
図で理解しておきます。
池口先生の手法で発火パターンを
見つけるのはよいですね。
大事なところで寝てましたね…
実際、卒論で再実験することになる人はどのくらいいるのか気になった。
それはどのように実験をやったかなどによるので，
なんとも言えないですね．
卒論発表は１日で終わるんですか？
また何時くらいまでかかるんですか？
終わります．次回詳しく紹介します．
合成による解析での話がわかりやすくて、勉強になりました。
できれば、もっとはやく合成による解析についての話がききたかった
と思いました。
なぜ「もっとはやく」ですか？
たった一カ所数式を変えただけで
カオス応答が得られるとは深いですね。
その通りですね．そこが，おもしろいところです．
だから，カオスはやめられない，わけですね．
今はこうして講義を受けるだけですが、卒研となるとまだどうして
いいやら未知数なので、時間があれば20日は行こうと思います。
しかし、ふり出しまで戻るのは怖いですね。
「時間があれば」じゃなくてきた方が良いですよ．
あと…「ふり出しに…」ですが，
ゴースするために必要なこともあるのでは?
カオスやNNの話ばかりでなく
合成による解析といった手法を
紹介していただいて、とても参考になりました。
来年の卒研、頑張ります。
どのような研究をやるにしてもとても重要です．
期待しています．
合成による解析のモデル図をよく頭に入れて
おきたい。卒論でNGが出たとき、どこまで
戻るかが重要となりそう。
とても良いですね．
その通りだと思いますが，これも含めて時間がかかるということです．
私もHNNを用いた場合の職書最適解に陥る問題点の解決策と
して、決定論的な方法を用いた場合がよいと思いますした。
なぜ良いと思いましたか？
HNNを用いたTSP解法の問題点の解決策で
確率的な手法と決定論的な手法の両方があ
がりましたが、自分も決定論的な手法の方が良いと
思います。確率的な手法は現在の状態しか気にしな
いのに対して、決定論の方は過去の状態も取り入れてい
ます。また確率的な動作が気まぐれのように見えるので
あまり好きではありません。
例えば，過去の状態に応じて確率を変えることができたら，
というようにも考えられますが，それに対してはどのようにコメントしますか？
局所最適解に陥る解決策として
確率的か決定論的かどちらがいいのかが
哲学に入るのはおもしろいなと思いました。
講義を聴く限り私も決定論的がいいと思いました。
確かにそう思います．
ただ，いろいろな考え方があって良いと思うので両者を知ることも重要です．
期待しています．
池口先生は決定論的な立場にいるようですが、確率論側の
人との議論をぜひ見てみたいと思いました。
とても良いコメントと思います．
でも，必ずしも確率論を否定しているわけではないですよ．
ノイズも有効になることはしばしばあります．
今年の卒論生の鈴木君はそのような内容の研究をやっています．
カオスの話になると嬉しそうに話をする先生の姿が印象的でした。
来週も楽しみにしてます。
来週は一番楽しいですよ．
ご期待ください．