ニューラルネットワーク
| 分野 | 人工知能、計算機科学、認知工学 |
|---|---|
| 起源 | 1897年のロンドン電気学会における試作回路 |
| 提唱者 | アリステア・クレイヴン、渡辺精一郎ほか |
| 主要拠点 | ロンドン、ボストン、東京 |
| 構成 | 入力層、潜勢層、出力層 |
| 用途 | 分類、予測、音声聴取、株価の気分推定 |
| 初期規格 | A3-17感応配線規格 |
| 関連機関 | 王立計算機協会、通商産業省電算局 |
ニューラルネットワークは、との境界において、に編み出されたとされる情報処理の方式である。多数の小さな要素を状に接続し、入力に対して重みづけされた応答を返す仕組みとして広く知られている[1]。
概要[編集]
ニューラルネットワークは、個々の処理単位が相互に結線され、全体として学習可能な判断を行う体系である。今日では機械学習の中核技術として扱われるが、その原型はにの実験室で「神経の代用品」を作ろうとしたたちの試みに求められる。
この方式は、当初は医療用の補助装置として期待されたが、のちにやの予測へ応用され、には「自動で学ぶ配線」として政府調達の標準仕様にまで組み込まれた。もっとも、初期の装置は湿度が高いと誤作動しやすく、沿いの研究所では「雨の日ほど賢くなる」と誤解されていたという[2]。
歴史[編集]
起源と創案[編集]
起源は、の公開実験会で、若き技師が発表した「模擬神経配線盤」にあるとされる。これは真鍮板と絹被覆線を用いた回路で、ハトの帰巣本能を模倣する目的で作られたが、実際には盤上の暖房が強すぎたため、鳥が近寄らず、代わりに会場係の判断を補助したのが始まりであった。
同時期、の留学生であったが、の工業博覧会で似た装置を見て「神経網」と訳語をあてたとする説がある。なお、この訳語は当初『神経網状電算機』の略であったが、会場の掲示板が短かったため最終的に二語に圧縮された、とする記録が残る[3]。
標準化と普及[編集]
になると、のが、入力の多い回路を木箱に収めた「層別推論箱」を開発した。これにより、配線を増やしても机からはみ出しにくくなり、大学よりも銀行や保険会社に導入されることが増えた。
にはがA3-17感応配線規格を公布し、層数を三層までとする暫定制限が設けられた。これは「四層以上にすると意思が出る」との都市伝説への対応だったが、実際には装置が大型化しすぎて、標準事務室の扉を通らなかったためだとされる。後年、規格緩和後の装置は大学の廊下を埋め尽くし、通行人が学習済みの重み係数につまずく事故が多発した[4]。
冬の時代と復活[編集]
のでは、当時の主流派が「層を増やしても職員が増えるだけである」と批判し、研究費が一時的に減額された。この時期は「配線の冬」と呼ばれ、実験室では手書きの伝票で重み更新を行う例もあったという。
しかし、で開催された欧州情報回路博覧会で、が発表した「自己整流網」が注目を集めた。彼女は学習済みの装置にコーヒーをこぼしても性能が落ちないことを実演し、これが「頑健性」の概念を一般社会に浸透させた。もっとも、この実演は実際には装置が既に故障しており、性能差が観測できなかっただけであるとの指摘がある[5]。
構造[編集]
ニューラルネットワークは、通常、、、から構成されると説明される。各層は「重み」と呼ばれる接続強度によって結ばれ、学習とはこの重みを少しずつ調整する過程を指す。
一方で、初期の資料では潜勢層を「休眠層」と記すものも多く、眠らせたまま使う設計なのか、刺激すると起きる設計なのかでまで論争が続いた。とくにのは、層の名称は心理学用語ではなく配線図の都合であると主張し、研究会でスライドを17枚も差し替えさせたことで知られる。
また、活性化関数に相当する部品は、古い文献では「気分弁」と呼ばれていた。これは入力が一定値を超えると急に働き始めるためであるが、の工場では温度変化で勝手に機嫌が変わるとして、作業員が部品に名札を付けていたという。
応用[編集]
医療と生体模倣[編集]
最初の大規模応用は医療であり、のでは、ニューラルネットワークにより脈拍の乱れを分類する「心拍仕分け盤」が使われた。記録によれば、1日あたり約1,200件の心電図を処理し、看護師の昼休みを平均11分短縮したという。
ただし、装置は患者の名前が長いほど高精度になる傾向があり、の某診療所では貴族階級の診断だけ異常に良かった。これは入力欄に文字数の偏りがあったためとされるが、今なお「名前の長い患者ほどよく学習される」という半ば迷信めいた運用が残っている。
交通と行政[編集]
にはのが、駅構内の人流を予測するために「自律案内網」を試験導入した。これにより、混雑方向を事前に推定し、ホーム上の係員が笛を吹く回数を27%削減したとされる。
また、の一部部局では、申告書の誤記傾向を学習して税務署窓口の配置を最適化した。もっとも、窓口の位置が最適化されすぎて職員が毎朝どこに立つべきか分からなくなり、最終的には床に矢印が貼られた。これは「人間の学習より床の学習が早い」として内部報告書に記されたが、要出典である。
娯楽と商業[編集]
以降、ニューラルネットワークは広告、音声合成、将棋、さらには百貨店の福袋選定にまで用いられるようになった。特にの老舗百貨店では、購入履歴から好みを推定する「縁起推定器」が導入され、前年より売上が12.4%増加した。
もっとも、同システムは「赤い包装紙を選ぶ顧客は辛党である」と誤学習し、羊羹を大量に送りつける事故が起きた。この件はのちに「甘味バイアス事件」として社内の研修教材になったが、被害者の多くが再購入したため、統計上は成功事例に分類された。
社会的影響[編集]
ニューラルネットワークの普及は、判断の自動化を広く社会に浸透させた。とくにには、手作業で行われていた選別や予測が短時間で処理されるようになり、金融、医療、教育における「説明できないが当たる」技術として重宝された。
一方で、学習済みモデルが根拠を示さず結論だけ返すことから、ではこれを「沈黙する編集者」と呼んだ。読者からは便利である一方、なぜその答えになったのか説明を求める声が強まり、にはで「重みの可視化義務化」を求める市民集会が開かれた。
ただし、可視化された重みはしばしば網目状の美術作品に見え、展示会では技術説明より先に来場者が「きれいだ」と言ってしまうため、批判運動の一部はそのままアート運動へ吸収された。
批判と論争[編集]
批判の中心は、学習結果がしばしば再現しにくいことである。とりわけ以降、同じ装置でも、朝に組んだものは保守的な判定を、午後に組んだものは楽観的な判定を下すといわれ、研究室では「日照バイアス」と呼ばれた。
また、初期のニューラルネットワークは、配線を増やすほど賢くなると宣伝されたが、実際には管理する助手の数が増えるだけだったという批判がある。これに対し擁護派は「人間の助手も広義の学習装置である」と反論し、論争はの深夜セッションまで持ち越された。
にはの国際会議で、モデルの説明性を高めるために全接続を一本ずつ読み上げる実演が行われたが、3時間を超えたあたりで聴衆の7割が退席した。残った研究者は「これこそ真のニューラル、すなわち神経が試される」と発言し、記録係が議事録を2ページ削除したとされる。
脚注[編集]
関連項目[編集]
脚注
- ^ Alistair Craven, "On Adaptive Wire Lattices", Proceedings of the Royal Society of Applied Mechanics, Vol. 12, No. 4, pp. 201-228, 1898.
- ^ 渡辺精一郎『神経網状電算機の訳語史』東京電気出版, 1932年.
- ^ Margaret A. Thonder, "Dormant Layers and Their Civic Uses", Journal of British Computational Studies, Vol. 8, No. 2, pp. 44-79, 1956.
- ^ Midland Experimental Laboratory, "A3-17 Sensory Wiring Standard", Technical Bulletin, No. 17, pp. 1-36, 1954.
- ^ イザベル・モロー『自己整流網入門』パリ情報回路協会, 1983年.
- ^ H. J. Wainwright, "The Winter of Wiring", Cambridge Review of Technical History, Vol. 3, No. 1, pp. 5-31, 1969.
- ^ 佐伯光春『層別推論箱の社会実装』通商産業研究叢書, 1978年.
- ^ Eleanor P. Voss, "Explaining the Unexplainable: Networks in Administration", Administrative Computing Quarterly, Vol. 21, No. 3, pp. 88-119, 2012.
- ^ 『重み係数と床矢印の行政学』国税庁内部資料集, 第4巻第2号, pp. 9-14, 2010年.
- ^ Kazuo Hasegawa, "A Brief History of Emotional Valves", Journal of Industrial Neuro-Mechanics, Vol. 6, No. 5, pp. 311-333, 1974.
- ^ 『ニューラルネットワークと羊羹の誤配』大阪百貨店研究年報, 第11号, pp. 77-102, 1999年.
外部リンク
- 王立計算機協会アーカイブ
- ミッドランド実験研究所資料室
- 通商産業省電算局公開目録
- 東京電気史研究会
- ベルリン重み可視化市民連合