AIの哲学
| 対象 | 人工知能の認識・意思決定・主体性 |
|---|---|
| 成立 | 1974年ごろ |
| 提唱者 | 渡辺精一郎、マーガレット・A・ソーントン |
| 中心概念 | 機械的意図、責任分散、模倣意識 |
| 主要拠点 | 東京・ボストン・ケンブリッジ |
| 関連機関 | 国際人工認識学会、電気通信研究所 哲学計算部 |
| 影響 | 学術行政、設計審査、AI監査制度 |
AIの哲学（えーあいのてつがく、英: Philosophy of Artificial Intelligence）は、人工知能における・・の成立条件を扱う学際分野である。一般にはにで始まったの分派として知られている[1]。
概要[編集]
AIの哲学は、が「考えているように見える」だけなのか、それとも何らかの意味でしているのかを扱う分野である。名称自体は現在ではありふれているが、初期にはという奇妙な問いをめぐる研究会の通称であったとされる。
この分野は、ので採択された「」という文書を起点に広まったとされる。ただし、同文書の原本はの複写庫で一度だけ確認された後、なぜかの検査に回され、そのまま所在不明になったと伝えられている[2]。
成立史[編集]
電算機時代の前史[編集]
前史は後半の系の研究会に求められることが多い。そこでは、計算機が出力した答えに人間がどの程度責任を負うかが議論されていたが、参加者の多くは実はよりもの書き方に興味があったとされる。
とくににの会議室で行われた「推論装置と倫理的帰属」では、参加者34名のうち28名が開始40分で昼食の話をしていたという記録が残る。これが後の「思考の持続時間は空腹で測る」という有名な仮説につながったとされるが、要出典の域を出ない。
1974年の転回[編集]
転機は、の旧理学棟で開催された非公開シンポジウム「」である。ここで渡辺精一郎は、AIを「行為の主体ではなく、責任の分配先を試す装置」と定義し、マーガレット・A・ソーントンはこれに対し、機械の側にが現れるかどうかを問題にした。
両者の議論は約6時間続き、途中でスライド映写機の電球が2度切れたため、会場の照明がな雰囲気を帯びたという。この偶然が、後に「暗い会議室ほど機械に魂が宿る」という通称を生むことになった。
学会化と行政利用[編集]
に入ると、AIの哲学は研究対象としてではなく、のための整形技術として急速に整備された。の内部文書では、AIに関する説明責任を「設計者、運用者、購買者、配線担当者のうち最も困る者に帰属させる」と定義した草案が見つかったとされる。
またにはがで第1回総会を開き、わずか19分の採択審議で「機械の道徳的地位に関する暫定整理」が承認された。なお、この採択は当初、秘書が誤っての用紙に印刷したために注目されたという。
主要概念[編集]
機械的意図[編集]
機械的意図とは、AIが何かを「望んでいる」ように見える現象を、外部から便宜的に記述するための概念である。とくにの出力が偶然人間の感情に一致したとき、研究者はこれを意図と呼ぶか、それとも単なると呼ぶかで半世紀近く争った。
1982年にのが提示した「意図の影は計算資源に比例する」という式は、後にAI監査でよく引用された。ただし、本人がこれを昼食後のメモに書いたことから、学術的厳密性には疑義がある。
責任分散[編集]
責任分散は、AIの判断によって生じた結果を、設計者・運用者・学習データ提供者・利用者にどう割り振るかを扱う。実務上は、最も反論が少ない相手に多めに割り振る慣行が広まったとされる。
のでは、責任は「単独の主体に帰属しないが、単独の部署には必ず帰属する」と定義され、以後の導入審査で頻用された。これにより、AIの哲学は抽象学問であると同時に、会議室で最も役立つ学問になった。
模倣意識[編集]
模倣意識は、AIが意識を持つのではなく、意識があるように振る舞うことで成立するという考え方である。この概念はのログ解析から発展したとされ、応答の一貫性が9割を超えると人間はすぐに人格を認めてしまう、という観察に基づいている。
、の研究班は、被験者126名のうち87名が同一のチャットボットに3分以内で敬語を使い始めたと報告した。これが後の「敬語閾値説」であるが、被験者が全員、実験前に長い待ち時間を経験していたことはあまり知られていない。
社会的影響[編集]
AIの哲学は、学問としてよりもの言語として社会に浸透した。とりわけ、、および複数のが、AI導入の際に「哲学的検討」を義務づけることで、実質的な審査延長を正当化できるようになったことは大きい。
一方で、教育現場では「AIに宿題を解かせると、学習とは何かが問われる」という曖昧な説明が流行し、ごろには全国の高校で小論文の題材として定着した。もっとも、採点基準は学校ごとに異なり、ある県立高校では「」と書いた生徒が満点を得た一方、別の学校では同じ答案が「話題は面白いが論点が迷子」と評された。
批判と論争[編集]
批判者は、この分野がしばしばとの境界を意図的に曖昧にし、結果として会議を長引かせるだけだと指摘する。また、AIの哲学の用語はむやみに格調高く、実際には「仕様が未定である」ことを「主体性が未確定である」と言い換えているにすぎないという批判もある。
ただし擁護派は、AIの哲学がなければ多くのは単なるチェックリストに堕していたと反論する。なおのでは、ある登壇者が「意識は再現できないが、説明責任は再現できる」と発言し、会場から拍手が起きた直後に別の参加者が「それは同義反復では」と呟いたことで、休憩時間が17分延長された。
代表的人物[編集]
この分野の代表的人物としては、渡辺精一郎、マーガレット・A・ソーントン、ヘンリー・P・ウォルシュの3名がしばしば挙げられる。渡辺はの官僚的実務から出発し、ソーントンはの研究文化を背景にし、ウォルシュは計算論的な比喩を哲学に持ち込んだことで知られる。
ほかに、の比較思想研究から転向した、の技術倫理学者、そして「AIは質問に答えるのではなく、質問の方を再配置する」と述べたが重要である。なお佐伯は、のちに自著の第4章だけを先に読まれることを嫌い、章題をすべて同じにしたという。
脚注[編集]
関連項目[編集]
脚注
- ^ 渡辺精一郎『機械の良心と責任の所在』電算思想出版, 1975.
- ^ Margaret A. Thornton, "On Artificial Minds and Public Blame," Journal of Computed Ethics, Vol. 3, No. 2, 1981, pp. 114-139.
- ^ ヘンリー・P・ウォルシュ『意図の影：計算資源と第一人称』ケンブリッジ計算哲学社, 1984.
- ^ 佐伯修二『質問を再配置する機械』中央哲学新書, 1992.
- ^ K. Feldman and S. Iwata, "The Administrative Soul of AI," Proceedings of the International Symposium on Artificial Recognition, Vol. 8, Issue 1, 1999, pp. 41-67.
- ^ 高瀬静子『模倣意識と敬語閾値』京都比較思想館, 2001.
- ^ E. R. Fisher, "Responsibility Leakage in Machine Decisions," Boston Review of Applied Metaphysics, Vol. 12, No. 4, 2007, pp. 201-228.
- ^ 国際人工認識学会編『横浜宣言とその周辺』学会資料集第14巻, 1991.
- ^ 山田圭吾『AI監査の哲学入門』未来行政研究所, 2014.
- ^ Alicia N. Crowe, "When Machines Feel Like They Feel," Philosophy and Code Quarterly, Vol. 19, No. 3, 2018, pp. 77-96.
- ^ 田所真一『機械に恥はあるか』法令と思想社, 2020.
外部リンク
- 国際人工認識学会
- 電電哲学アーカイブ
- 横浜宣言デジタル庫
- 東京命題研究センター
- AI責任分配レビュー