形式ニューロン(formal neuron)

形式ニューロン(けいしきニューロン、英: formal neuron)や Threshold Logic Unit とは、1943年に神経生理学者・外科医であるウォーレン・マカロックと論理学者・数学者であるウォルター・ピッツが発表した一番最初の人工ニューロン(artificial neuron)。伝達関数としてはヘヴィサイドの階段関数を使い、入出力の値は 0 または 1 の二値だけをとる。

マカロックらはニューロンの状態が 0 または 1 で表現できることに強くこだわっており、論文冒頭が Because of the “all-or-none” character of nervous activity で始まり二値であることを強調している。しかしながら、1986年のデビッド・ラメルハートらのバックプロパゲーション(backpropagation)では、形式ニューロンとのモデルとしての違いは、入出力が 0 または 1 の二値ではなく実数になり、二値のヘヴィサイドの階段関数が実数も出力できるシグモイド関数になった点にある。

関連