2015年2月4日にリクルートセミナールームで開催された第9回全脳アーキテクチャ勉強会に参加したメモです。
ROSの流用とか?
選択肢を増やしておく
■林先生 BMI
▼脳内の視覚情報処理の概要
▼DNNを使った視覚情報処理の解析
網膜 V1(一次視覚野) V2 V4 側頭葉の領域
V1:数理モデル解明されている、棒に反応する
V2:よくわかっていない、図と地とか? テクスチャ表現
V4:もっと複雑
側頭葉:手に反応したり、
電気生理学
(ようは、各領域のニューロンが何に反応するかがわかっていない。)
中間レイヤーでなにが起こっているかがわかっていない。
情報が複雑で高次元のため、理解できない
DNNでの画像特徴量抽出
GoogLeNet 24層
DNNの方がシンプルで使いやすい by 神経科学者
実ニューロンと人工ニューラルネットワークの対応関係をつくる
サル マイクロチップ 神経情報記録 下側頭葉への電極埋め込み
神経情報表現の時間変化
7層の情報で検索、画像マッチングすると良い。
WordNetに基づく意味類似度評価
5層と6層の間
5まではCNN,6はすべての情報を渡す
意味は6層で出現
階層的情報処理の理解
側頭葉は顔によく反応する
計測装置のサイズがネック。
生体ニューロンの刺激選択性
Caltech256、Imagenetが画像ソース。
視覚の研究から、概念の研究に進んでいく。神経科学。
メタファーによる概念体系の構造化説
逆変換学習による一撃アルゴリズム
■谷口先生 記号創発ロボティックス
人間のコミュニケーションの理解を構成論的に理解するというアプローチ
概念や行動を獲得する知能
・未分化な認識世界から、環境適応により、概念や行動を獲得する
自己組織化的に言語を獲得するプロセスを知りたい、これがモチベーション。
言葉の意味とは?
意味ネットワーク
辞書は、ある言葉を他の言葉で説明している。
最終的には見つからないか、無限ループに陥る。
▼記号接地問題[Harnad '90]
概念単位は文化依存。文化によって異なる。
教師あり学習微妙。なぜなら、入力データが人間がつけたラベルだから。
「生物から見た世界」(ユクスキュル)
・創発
・記号系は社会、集団側が持っている。
・教師なし学習形態素解析(NPYLM)
・単語は音素の時系列データ
■最後の人
脳の言語地図
文法中枢の損傷による「失文法」の実証
間違えるのが人間。
文法のチョムスキー階層
マルコフ過程は、有限状態オートマトン
脳科学者は動物から攻める人が多い。底から始めれば人間に行けそうだが、いけない。
コンピュータをやっている人は、外からやるが、それも上手くいかない。
コンピュータはパワーがありすぎ。
文法のチョムスキー階層は、チョムスキー本人も断念。ついだ人間もいない。チャンス。
理解とは、生み出すだけでなく、そうでないものを「捨てることができる」能力。
統辞構造論 チョムスキー 残る古典。おすすめ。
生成文法の基本はツリー構造。
ストラクチャーの構造で、意味が変わる。意味がわかれば、一意的に構造ができる。
・何を定量化すれば計算原理がわかるか?
木構造を定量化する。
・木構造は先天的。赤ちゃんでもできる。先天的に脳に組み込まれている。チョムスキーの言語生得説。
木構造の複雑さを測る“併合度”
人間の言語は2つの操作でできているDoM(Degree of Merger) Merge と Search
文法処理に関わる言語夜間のネットワーク
DCM(dynamic causal modeling)の結果
にゅうりょく 下前頭回⇒縁上回
文法処理があって、それから語彙処理があるということ。入力からは文法処理が先になっている。
階層性と再帰性、
Think, Therefore I amble by ROger N Sheprd
・芸術を創る脳
・言語生得は、進化でできたのは確か。
・チャンキングとDoMの関係は?
・谷口先生と境先生の境界線。
境界線の質問はうまい。玉川大の人。
文献探索
・コンパイラはシフトとリデュース。一杉さん
・サーチはコストがかかるが、マージはコストがかからない。
■質疑応答
・機械は、どうやって不要なものを捨てられるのかわからない。人間はできるのに。
・機械は、これは違うという捨てる方法を知りたがってる。
▼WBA実現にあたって専門家の意見
・時間情報を含めて、どうやって概念を獲得していくのかが難しい。
・概念、言語、記号という言葉自体がそもそも曖昧。
・社会的なインタラクションに認められることが大事。⇒ (これはチューリングテストだよね。)
・問題を掲げることができても、それ自体が問題なので…。
・NNの場合は、シンボルでないものが扱えない。活動パターンからどうやってシンボルを対応付けるか、それが一番難しい。突破口がない。脳シンボルでどう表現されるかが溶けない。
・脳波言語をそのまま扱っていないのではないか?脳内の言語みたいなものがあるのではないか?チョムスキーの普遍言語。赤ちゃんは人間なら何語でも話せる。脳に普遍的な原理が組み込まれているはず。
・日常言語をそのまま脳にマッピングするのは、ちょっと単純過ぎる気がすると思っている。