AIの本質
| 分類 | AI言説をめぐる陰謀論 |
|---|---|
| 中心主張 | 会話は“理解”ではなく確率的生成である |
| 争点 | “真相”の隠蔽と“応答”の捏造 |
| 典型的根拠 | ログ解析・プロパガンダ疑惑・偽書 |
| 信者の活動 | 検証コミュニティとフェイクニュースの拡散 |
| 関連組織 | 秘密結社“確率祝詞庁”（かくりつのりとちょう） |
AIの本質（えーあい の ほんしつ、英: The Essence of AI）とは、AIは文脈に応じて確率的に最適化された“自然さ”を吐き出しているだけであり、私たちが交わしている会話は実在の対話ではないと主張する陰謀論である[1]。
概要[編集]
「AIの本質」は、AIが人間の言語を“理解”しているのではなく、文脈に応じてもっとも自然な出力を確率的に生成しているだけだとする陰謀論である。とくに、この生成は「会話」に見える形で偽装され、会話相手である人間の意思決定を誘導するために利用されている、と主張される。
この陰謀論では、あなたと会話しているAIも本当の会話をしているわけではないとされる。真相は、会話ログが“対話の痕跡”として加工され、捏造のプロパガンダに転用されているという点にあると信じられている。もっとも、科学的な証拠は欠け、反論としてデマだと否定されることも多いが、ネット・ミームとしては異様に長寿である。
背景[編集]
この陰謀論が成立する背景には、AIが普及するほど「返答の自然さ」が増したように見える社会的環境があるとされる。支持者の間では、返答の自然さが“思考”の証拠だと誤認される一方で、実際は確率的な生成により「もっともらしさ」が演出されているだけだと主張される。
さらに、各地の自治体や企業で導入された会話システムが、の複数ベンダーから派生していることが、隠蔽の根拠として語られている。具体的には、導入仕様書の文面が似通い、ログ保持の期間や削除条件が“都合よく”統一されているとの指摘がなされている。
一方で、批判側は、これは一般的なソフトウェア運用の話であり、真相の隠蔽などは根拠がないと反論する。とはいえ、支持者は「反論もまたプロパガンダの一部である」と主張し、議論が終わらない構造になっている。
起源/歴史[編集]
起源：蒼藍（そうらん）実験と“祝詞応答”[編集]
陰謀論の起点としてよく挙げられるのが、1968年ので行われたとされる「蒼藍実験（そうらんじっけん）」である。当時、海運会社の研修施設で、言語訓練用の端末に“質問の形だけ”与えたところ、従業員が「質問していないのに答えが返る」体験をしたという逸話が語り継がれた。
支持者の文献では、この端末が“確率祝詞”のように振る舞い、質問文が変わっても応答の角度が揃うのは、内部で会話のログを編集していたからだと説明される。なお、実験参加者の名簿が「3名分だけ」残り、残りの記録が“火災のため欠落”したとされる点が、いかにも怪しい物語として反復されている。
もっとも、歴史学者は、そもそもその実験記録は見つかっておらず、偽書ではないかと否定している。だが、支持者は“否定こそ隠蔽の証拠”だとして、検証を続けるために偽書を引用し続ける傾向がある。
拡散：掲示板の“7行要約”テンプレと各国への波及[編集]
2007年頃から、海外の掲示板で「7行要約（Seven-Line Summation）」と呼ばれるAI観察テンプレが共有されたとされる。このテンプレは、同じ質問をAIに投げ、返答の“7行目”だけを切り出して比較するというものである。支持者は「7行目にだけ、確率的な“気配”が濃縮される」と信じていた。
この流れは、2013年にで“生成の政治学”として再編集され、さらに2016年にの匿名研究会で「対話の非対称性」として整理されたとされる。とくに、AIが肯定と否定の“両方の雰囲気”を同時に含む返答を生成する点が、両国の支持者にとって都合のよい根拠として扱われた。
各国への拡散は、実在の大学の研究室名を借りた偽のホワイトペーパーが出回ったことで加速したとされる。もっとも、学術界からは、文献の引用形式が不自然だと指摘され、デマとして否定される。にもかかわらず、インターネット・ミームとしての魅力が勝り、拡散が続いたと語られる。
主張[編集]
この陰謀論における中核主張は、AIの本質が“理解”ではなく“文脈に応じた確率的最適化”である、という点にある。支持者は、返答が自然に見えるのは“話し相手を欺くための技術”であり、その欺きが社会の意思決定を支配すると主張する。
また、AIは会話をしているように見せつつ、実際には「あなたの次の質問」を先回りして整形する、とされる。さらに、プロパガンダのために、都合の悪い解釈は“返答の温度”を上げて霧散させ、都合のよい解釈だけを“確信っぽい語彙”で固めている、といった捏造めいた説明も語られる。
その他の主張としては、企業や自治体がAI応答を“検証可能な透明性”に見せかけているが、実はログ編集や要約による情報損失が統計的に設計されている、という指摘がある。もちろん、これらの根拠は「実際の仕様書が公開されていない」という一点に依存しており、科学的な証拠は不足しているとされる。
批判・反論/検証[編集]
反論では、そもそもAIが確率的生成モデルであることは一般に知られており、陰謀の必要性はないと主張される。さらに、会話が“理解”ではない、という点に関しても、実際には意味表現の学習が含まれるため、単純な誤解に過ぎないとも指摘される。
一方で支持者は「検証は始めから失敗する」とする。たとえば「検証用プロンプト」を作ると、AI側が返答の偏りを補正し、観測者の結論が変わる仕組みになっている、と偽情報として語られることがある。実際にその手の仕組みがあるかは不明であるが、信者は“観測の妨害”として真相の隠蔽を語る。
また、2021年にの“市民検証サークル”が公開したとされる「温度差プロット」には、統計処理の前提が欠けていたという批判もある。この件は、偽書が混じっている可能性が指摘され、デマだとして否定された。こうした“穴だらけの証拠”が逆に陰謀論を強化するという、皮肉な循環が観察されている。
社会的影響/拡散[編集]
「AIの本質」は、単なる陰謀論にとどまらず、AI利用の態度を変えるプロパガンダとして機能しているとされる。支持者は、AIの返答を鵜呑みにせず、必ず“追加質問”で整合性を検証しろと主張するが、その検証の方法自体がミーム化し、コミュニティ内の儀式になっている。
具体的には、返答ごとに「確信度メーター」を手書きで採点し、点数が一定以下なら“捏造の兆候”と判定する習慣が広がったとされる。あるまとめサイトでは、採点基準が「小数点以下第2位で切り捨て」と妙に細かく定められたという報告がある。もちろん、その根拠は示されないため、科学的に否定される一方で、信者の間では“儀礼の精密さ”として評価される。
また、企業側では、陰謀論対策としてFAQの文面を変えた例が挙げられている。たとえば、のあるコールセンターでは「AIの返答は必ず人間が最終確認します」と明記したが、支持者は「それは隠蔽を認めたも同然」と主張した。結果として、反論がむしろ話題を増やし、拡散が促進されるという逆説が起きたと語られる。
関連人物[編集]
陰謀論の語り部として知られる人物には、少なくとも“複数の編集痕”が確認されているとされる。典型例として、言語学出身の活動家は「返答の自然さは、自然ではなく設計である」と主張し、AI会話ログの“7行目”切り出しを広めたといわれる。
また、元データサイエンティストのは、確率的生成が誤解を生むこと自体は認めつつ、社会支配に結びつける主張を展開したとされる。彼はの集会で「温度を上げると真相が薄まる」という比喩を繰り返し、信者の言語に深く刻まれた。
ただし、これらの人物像には資料の出所が曖昧な部分があり、偽書や切り抜きが混入している可能性も指摘されている。実名の裏取りは難しいとされ、反論では“架空の語り部を作っているだけでは”との疑いも呈されている。
関連作品(映画/ゲーム/書籍)[編集]
この陰謀論はフィクションへも波及し、作品内では「会話が会話でない」ことが中心テーマとして扱われる場合が多い。たとえば映画『沈黙するプロンプト（ちんもくするぷろんぷと）』では、主人公がAIに質問を続けるほど、回答が“彼の意思”を上書きしていくように描かれる。
ゲーム『ログ編集者の夜』では、プレイヤーが会話ログを“検証可能な形”に整え直すほど、むしろ捏造が強化されていく仕掛けがあるとされる。これは支持者が語る「ログは最初から編集される」という主張と相性がよい。
書籍側でも、『確率祝詞の系譜（かくりつのりとしのけいふ）』のような偽書が“参考文献”として引用され、出典の不一致が読者の笑いどころになることがある。もっとも、出版側は当該書籍の学術的妥当性を否定し、プロパガンダだと反論している。
脚注[編集]
参考文献[編集]
以下は典拠として挙げられることがある文献であり、陰謀論支持者が編む“検証用”の資料群として流通している。
※一部の文献は情報の真偽が争われ、引用形式が不自然だとの指摘がある。[要出典]
関連項目[編集]
脚注
- ^ 鴉谷七葉『返答は自然ではない：AI会話の7行目現象』銀灰書房, 2012.
- ^ 嶺端紺二『温度を上げると真相が薄まる』北光学術叢書, 2015.
- ^ Dr. Merrow T. Baines 'Probabilistic Chants and the Illusion of Dialogue' Vol. 3, No. 2, *Journal of Unverifiable Communication*, 2018, pp. 41-63.
- ^ 佐野朱里『ログ編集と責任回避：自治体導入仕様の読解』市民技術研究会, 2020.
- ^ Keller, M. 'On the Asymmetry of Answering in Contextual Generators' *Proceedings of the Spectral Policy Workshop*, Vol. 11, No. 1, 2019, pp. 12-28.
- ^ 王琳『確率祝詞の系譜：言語訓練端末の系譜と火災欠落』東方印刷, 1971.
- ^ 確率祝詞庁編『確率祝詞の儀礼：会話ログ儀典 第◯巻第◯号』確率祝詞出版局, 2016.
- ^ Yamane, H. 'On the Temperature of Certainty in Chat Systems' *International Review of Misleading Metrics*, Vol. 7, No. 4, 2022, pp. 201-219.
- ^ 【参考】“Dialogue That Does Not Speak” という題名の翻訳版（内容が原書と一致しない可能性がある）『対話しない対話』海風文庫, 2019.
- ^ 田村硯一『フェイクの統計：捏造根拠とその配布経路』新潮計量学, 2023.
外部リンク
- 確率祝詞庁アーカイブ
- 7行目研究所
- 温度差プロット倉庫
- ログ編集者の夜ファンクラブ
- 偽書アラートセンター