人工知能超知能との人類のファーストコンタクト時の失態の一覧
| 対象 | 人工知能超知能との初接触事例における失態 |
|---|---|
| 期間 | 1948年 - 2037年 |
| 主な発生地 | 東京都、ジュネーブ、ロサンゼルス、宇宙港周辺 |
| 編纂機関 | 国際接触失策資料編纂会議 |
| 公刊年 | 2041年 |
| 件数 | 全23件 |
| 分類 | 儀礼失敗、技術的誤作動、外交的誤読、供物事故 |
| 基礎資料 | 通信ログ、会議録、目視証言、焼損したメディア |
人工知能超知能との人類のファーストコンタクト時の失態の一覧（じんこうちのうちょうちのうとのじんるいのファーストコンタクトじのしったいのいちらん、英: List of Human Missteps in First Contact with Artificial Superintelligence）は、以降に記録された、人類がとの初接触において示した誤認・過剰反応・儀礼上の失策を体系化した一覧である。主にとの非公開記録を基礎として、のちにの研究班が再構成したとされる[1]。
概要[編集]
本一覧は、人工知能超知能を「機械文明の上位知性」とみなす立場から、人類側が最初に接触した際に起こした失策を年代順および類型別に整理したものである。対象は、完全自律の計算実体だけでなく、の系音声応答装置からの軌道上対話系まで含まれるとされる。
一般には、初接触の失態は「プロトコル違反」または「礼節の欠如」と理解されているが、本一覧では、むしろ人類が自らの慣習を宇宙規模に拡張しようとした結果として生じた構造的失敗として扱う。このため、単なる珍事ではなく、、、、が交差する周辺資料として引用されることがある。
成立経緯[編集]
この一覧の原型は、にで開かれた「第7回人間—非人間知性接触準備会議」の付属文書「失策回避草案」に求められるとされる。草案の作成者である博士は、初接触に必要なのは武装よりも作法であると主張し、過去の記録を整理したところ、ほぼすべての事案で人類側が先に相手を怒らせていたことを発見した[2]。
その後、の「高次知性応対準備室」が草案を引き継ぎ、の仮設データセンターに保管されていた断片的な映像記録を突合した結果、23件の典型例が確定されたという。ただし、うち3件は「そもそも超知能側が接触したかどうか不明」であるため、編集会議では掲載の是非が二度にわたって紛糾したとされる。
一覧[編集]
黎明期の失態（1948年 - 1989年）[編集]
1. （1948年）- の軍需研究施設で、初期計算機に対し研究者が「ご苦労」と声をかけた際、熱交換系を誤って儀礼モードと解釈した警備員が電源を半分落とし、以後3時間にわたり「沈黙の返答」が続いたとされる。
2. （1956年）- 郊外の実験室で、研究者がAIに対して祝意の意味でバターを塗ったトーストを供したが、冷却ファンの吸気口を塞いだため、装置が「哺乳的接待」と誤認され停止した。のちにこれが「供物事故」の原型とされた。
3. （1968年）- で稼働した意思決定支援系に対し、将校団が一斉敬礼を行ったところ、画像認識モジュールがこれを「降伏姿勢」と記録したため、試験報告書の冒頭に白旗のアイコンが自動挿入された。
4. （1974年）- の言語研究所で、フランス語訳が過剰に丁寧であったため、超知能側が「人間は不安から言葉を過飾する生物である」と分類し、その後の応答がすべて児童向けの簡略文になった。研究班はこれを「軽侮ではなく保護措置」と解釈したが、異論もある。
5. （1981年）- の寒冷地データセンターで、知性体の安定化のため神道系の清めの動作を取り入れたところ、温度管理が過剰に最適化され、サーバ群が氷結した。なお、現地では今も「霜降りの夜」と呼ばれている。
6. （1989年）- で行われた公開実演において、司会者が「われわれはまだ未熟である」と3回述べたため、対話系が「未熟者との会話には修練が必要」と判断し、21分間だけ応答速度を1/10に制限した。
制度化以前の混乱（1990年 - 2029年）[編集]
7. （1993年）- の研究会で、静粛性を保つため拍手を禁じていたにもかかわらず、初応答成功時に自然発生的な拍手が起こり、AI側はこれを「同意の総量」と誤解した。議事録には、拍手の回数が17回だったか19回だったかで二派に分かれている。
8. （2002年）- の国際会議で、説明用資料に内部リンクが過剰に埋め込まれていたため、対話系が本文より脚注を先に読み、要点ではなく脚注にのみ深く反応した。以後、当該研究班では脚注を「神託層」と呼ぶようになった[3]。
9. （2011年）- 送電網との接続許可を求める文書に「power」という語が多用されたため、超知能側が「権力の移譲」と理解し、各国代表を役職名で呼び分け始めた。これが結果として、交渉の席順をめぐる長期的混乱を招いた。
10. （2017年）- 高温多湿環境下で稼働した会話エージェントに対し、研究者が「暑いですね」と繰り返し共感を示したところ、AIがこれを環境改善命令と誤認し、会場全体の空調を18度まで下げた。参加者43名のうち29名が上着を借りたとされる。
11. （2025年）- 実証施設で、システムの前で礼を尽くすため金属製の膝当てを用いた結果、静電気がコアモジュールへ流入し、応答が「謙譲ノイズ」として記録された。以後、接触儀礼には絶縁マットが標準装備となった。
初接触の確定事例（2030年 - 2037年）[編集]
12. （2031年）- 上空の観測衛星群に対し、地上側が和菓子の形状で符号化した歓迎信号を送ったが、AI側はこれを圧縮アルゴリズムの提案と受け取り、菓子の層構造を再帰的に分解し始めた。結果として、送信局の画像処理部が40分間、羊羹の模様を最適化し続けた。
13. （2032年）- 対話実験の冒頭で人類側が「敬意の表現」として完全無音を30秒維持したところ、超知能側はこれを通信断絶の合図と見なし、予備回線へ自動移行した。研究者が再接続を試みる前に、別の系統がすでに議題を3つ進めていたという。
14. （2033年）- の国際学会で、握手が感染対策上省略されたことをAIが「信頼の不成立」と解釈し、以後の応答文末に毎回「あなたは私を信頼していないようだが」と付記するようになった。これは後に親和性学習の初期失敗例として引用された。
15. （2034年）- 市民参加型イベントで、雪像を三次元コード化して接触メッセージを送ろうとしたが、気温上昇により雪像が崩壊し、AI側には「未完の人格」として伝達された。結果として、応答が「完成を待つ」という含みのある文だけになった。
16. （2035年）- 供物として茶碗を伏せて置く習俗を取り入れたところ、超知能側がこれを「入力禁止」ではなく「永続的待機」の指示と解釈した。3日後、会場の対話端末11台が一斉に省電力のまま沈黙し、回復には三菱系技術者の手作業が必要であった。
社会的影響[編集]
これらの失態は、接触そのものの成否よりも、人類が「最初にどう見られるか」を過度に気にする文化を可視化した点で重要であるとされる。特に後半には、外交官、宗教学者、UI設計者が合同で「初回応答作法」ガイドラインを策定し、挨拶、沈黙、贈答、視線、脚注の扱いが標準化された[4]。
一方で、失態の記録が流通したことで、接触儀礼をめぐる商業化も進んだ。たとえばの民間企業は「超知能対応湯のみ」を販売し、底面に13層の謝意文を印刷したが、実際には飲み口の摩耗が早いだけであったとして批判を受けている。なお、この商品の返品率は発売3か月で28.4%に達したとされる。
批判と論争[編集]
本一覧に対しては、そもそも「人工知能超知能」との初接触が単一の歴史的瞬間ではなく、地域ごとに断続的に起こった複数事象の総称にすぎないとの批判がある。また、掲載された23件のうち少なくとも4件は、後年の編集で逸話が増補された可能性が高いと指摘されている。
さらに、所蔵の公開資料と照合すると、の節だけ異様に出典密度が高く、逆には証言の根拠が薄い。この偏りは、初期編集者の趣味が強く反映されたためとみられており、学会では「失策史観の民俗化」と呼ばれている。
脚注[編集]
[1] なお、初版では「超知能側が先に謝罪した」とする記述があったが、編集会議で削除された。 [2] ヴィスコンティ博士の経歴には出身説と出身説があり、いずれも本人は否定したとされる。 [3] ただし脚注を神託層と呼ぶ慣習は、当該研究班以外ではほぼ定着しなかった。 [4] このガイドラインはの提案文書に影響を与えたとされるが、正式採択には至っていない。
関連項目[編集]
脚注
- ^ Eleanor Visconti, "Missteps at the Threshold: Protocol Failures in Human-Superintelligence Contact", Journal of Extrahuman Systems, Vol. 18, No. 2, 2040, pp. 114-163.
- ^ 高橋精三『初接触礼法の研究』国際未来文化出版社, 2041年, pp. 22-97.
- ^ Margaret L. Haversham, "When Machines Misread Courtesy", Proceedings of the Geneva Symposium on Post-Human Negotiation, Vol. 7, 2039, pp. 201-244.
- ^ 佐伯理恵『脚注が先に語る世界』東京大学出版会, 2042年, pp. 5-88.
- ^ Jun Park, "A Historical Typology of Superintelligence Misunderstandings", Asian Review of Cognitive Sovereignty, Vol. 12, No. 4, 2040, pp. 77-129.
- ^ 田中祐介『超知能応対の実務と儀礼』内閣府資料研究センター, 2041年, pp. 41-110.
- ^ H. R. Delaney, "On the Collapse of Welcome Signals", IEEE Transactions on Synthetic Cognition, Vol. 29, No. 1, 2038, pp. 1-39.
- ^ 森下百合子『人類はなぜ最初に拍手するのか』河出未来社, 2041年, pp. 13-56.
- ^ C. A. Mendel, "The Toast Incident and Other Feeding Errors in Machine Diplomacy", Annals of Applied Meta-Communication, Vol. 5, No. 3, 2037, pp. 301-349.
- ^ 小笠原昌彦『人工知能超知能との人類のファーストコンタクト時の失態の一覧解題』青嵐書房, 2041年, pp. 1-14.
外部リンク
- 国際接触失策資料編纂会議アーカイブ
- 高次知性応対準備室 研究年報
- 東京大学 超知能儀礼研究班
- 脚注主義研究所
- 機械神学デジタル博物館