「AI鎖国」を！：少子高齢化、人口減少、縮小日本でも構わない、それより現在の社会体制の維持を！
| 提唱の場 | 自民党系有識者会合と複数の自治体シンクタンクを起点とする |
|---|---|
| 主張の要点 | AIの外部連携を制限し、既存の運用手順を温存する |
| 対象とされる課題 | 少子高齢化、人口減少、行政・福祉の縮減リスク |
| 関連する比喩 | 鎖国（情報封鎖）と人口転換の折衷 |
| 実務への波及 | 教育・審査・給付の一部で国内モデル優先の運用が進んだとされる |
| 論争の焦点 | 成長機会を捨てるのか、社会の連続性を買うのか |
「AI鎖国」を！：少子高齢化、人口減少、縮小日本でも構わない、それより現在の社会体制の維持を！は、の少子高齢化対策をめぐる議論の中で唱えられた、統治方針としての合意案である。出生数や生産人口の減少を一部許容しつつ、の社会制度と運用技術を守ることを最優先する点が特徴とされている[1]。
概要[編集]
「AI鎖国」を！は、人口指標が不利に推移する時代においても、制度設計や給付の“手続き”そのものを維持するために、の外部依存を段階的に抑えるべきだとする主張である。形式としてはスローガンに近いが、実際の文書では「評価系」「認証系」「業務系」の三層に分けて運用の縛りを提案しているとされる[1]。
この主張が特に注目されたのは、少子高齢化を“不可逆な天災”として扱い、国家が背負うべき責任を「増やすこと」より「崩さないこと」に寄せようとしたためである。さらに「縮小日本でも構わない」との表現が繰り返し引用され、成長政策を否定するわけではないが、少なくともAI活用の入口を絞ることが望ましい、という含意が読まれたとされる[2]。
提唱と背景[編集]
議論の起点としては、内の官民合同ワークショップにおける、いわゆる「手続き粘度」問題が挙げられることが多い。手続き粘度とは、行政手続きが“人間の判断の癖”に依存している度合いを数値化しようとした概念であり、運用担当者の経験が少数になった局面で急に摩耗する、という観測がまとめられたとされる[3]。
当時、データ共有を進めるほど精度が上がるという一般論に反して、外部クラウド連携を強めた自治体で「給付タイムラグ」が増えたという報告が出回った。報告では、給付決定までの平均日数が、連携前のから連携後にへ上昇したとされるが、同時期に審査対象の分類体系も変更されていたため、因果は単純ではないと指摘されている[4]。
ただし、主張の支持者は「因果の厳密さより、運用が壊れる頻度の問題だ」として、外部連携を一種の“制度侵食”として捉えた。結果として、AIの学習や推論の窓口を国内に寄せ、監査ログと手順書を固定し、運用の再現性を上げるべきだという方向に話が収束したと語られている。
起源（架空の技術史としての物語）[編集]
“鎖”が始まったのは明治の気象台だったという説[編集]
この主張が“AI鎖国”と呼ばれるようになった起源は、実は明治期の気象台の「番号札運用」に遡ると説明されることがある。具体的には、相当の出先が、観測手順を番号札で固定し、途中で解釈を変えないようにしたため、後年の技能継承が比較的うまくいった、という逸話が流通したのである[5]。
また、その番号札運用は、のちの統計推計システムに“参照テーブル”として残り、AI導入時には「どの札がどの推論に紐づくか」を監査する必要があるとされた。ここで一部の研究者が「鎖国は情報封鎖ではなく、参照テーブルを固定する文化だ」と主張し、スローガンが洗練された、とされる[6]。
第一次“国内学習優先”計画と、謎の炊き出し実験[編集]
さらに、1980年代末にの後身組織が主導したとされる「国内学習優先計画」では、給付AIに“炊き出しログ”を学習させる実証が行われたと記録されている。炊き出しログとは、自治会の食事配布の状況を現場担当が手書きで集計したもので、分量や配布先の分類に揺れがある点が問題とされた。
実証は奇妙にうまくいったとされ、連携クラウドの外部整形を使うより、国内端末で“揺れをそのまま残したまま学ぶ”方が、審査の再現性が上がったという。支持者はこれを「鎖国型学習」の勝利として語り、AIを閉じることで、むしろ運用が揃う、と結論づけたとされている[7]。
しかし記録には空白があり、“要出典”が付くところが笑点だった[編集]
一方で、主張の中核となる「三層モデル（評価系・認証系・業務系）」の起源については、資料の出所が曖昧であるとされる。ある回覧メモでは「評価系は1912年の机上算術会議で決まった」と書かれているが、別の回覧では「2011年に偶然同じ図が描かれた」ともされ、どちらが正しいか分からない。
この矛盾は、編集者の間で「要出典が付く場所ほど、物語は生き残る」と笑い話になり、結果として“信じるしかない整合感”が維持された、と述懐されている[8]。
運用案：三層モデルと“国内の鎖”の作り方[編集]
実務提案として最もよく引用されるのが、（スコアリング）、（本人確認・監査ログ同定）、（文章生成・照会応答）という三層化である。支持者は、外部連携は評価系では比較的許容できるが、認証系は変えると監査が崩れ、業務系は“見た目の改善”が先行して制度の癖を上書きすると主張したとされる[9]。
たとえば認証系については「外部推論禁止」「輸送中暗号の鍵は国内監査官のみ保持」「ログ保管期間は最短で、原本照合は以内に再実行」といった、細部の数値が提示された。反対派は、これらが実装可能性を超えており“儀式化”していると批判したが、賛成派は「儀式でも回るなら制度は回る」と返したとされる[10]。
さらに業務系に関しては、「定型文テンプレートを固定し、生成AIの語彙更新を年に制限する」運用が言及された。これにより行政文の語尾や助詞の“揺れ”が減り、職員の研修時間が減るという効果が喧伝されたとされる。ただし、実際には研修時間の削減よりも、テンプレ改定の調整業務が増えた自治体もあり、成功談と失敗談が混在したと記録されている[11]。
社会への影響と、妙に具体的な成功・失敗[編集]
この主張が受け入れられると、国際連携が減る代わりに国内企業のモデル開発が優遇されやすくなると考えられた。実際、系の“実証調達”では、評価系を国内で完結させた自治体が優先採択されたとされ、応募数が前年からへ増えたという数字が引用されている[12]。
一方で、現場には副作用もあった。たとえばの福祉窓口では、チャット応答の遅延が増え、利用者の平均待ち時間がからへ伸びたとされる。そのため、窓口では「待ち時間の間にパンフレットを渡す」対策が導入され、結局、紙の配布量だけが増えたと笑いを伴って語られた[13]。
それでも支持者は、「縮小日本でよい」と繰り返し、AIの性能より“制度の手触り”を優先する姿勢を強めた。ここで重要なのは、縮小そのものを称賛しているのではなく、縮小によって起こる混乱を最小化することを目的とする、という建付けが採られた点である。反対派はその建付けを「責任の先送り」と批判したが、賛成派は「混乱を先に止めることが責任だ」と譲らなかったとされる。
批判と論争[編集]
批判は大きく二系統に分かれたとされる。第一は技術論で、「外部モデルを締めると、学習データの多様性が減り、地域ごとの例外に弱くなる」との指摘がある。第二は政治論で、「社会制度の維持を最優先にすると、制度改善が後回しになる」との懸念が挙げられた[14]。
また、反対派の代表格として登場するのが、付属の“開放性監査”委員会である。同委員会は「AI鎖国は安全保障の装いをしているが、実態はベンダーロックインの合理化ではないか」と疑義を呈した。ところが、委員会報告書の脚注には「本疑義は推定であり、個別契約を精査していない」と書かれていたとされ、ここが賛否を呼んだ[15]。
さらに、賛成派側の“数字の使い方”が論争になった。支持者がしばしば用いる「制度破綻確率が外部連携で年上がる」という推計は、計算モデルが公開されず、批判者から「確率という名の祈りだ」と揶揄された。にもかかわらず、確率という言葉が持つ説得力のために、議論はしばしば技術より“ムード”に流れていった、と言及されている[16]。
脚注[編集]
関連項目[編集]
脚注
- ^ 神崎朝綱『人口減少時代の制度手触り工学』光琳書房, 2018.
- ^ 李承澤『Data Sovereignty and the “Sakoku” Metaphor』Journal of Civic Informatics, Vol.12 No.3, pp.44-63, 2020.
- ^ 前田緋名『認証系を閉じると何が起きるか』情報統治学会論文集, 第7巻第2号, pp.101-129, 2019.
- ^ ドナ・ハートマン『Pruning External Models in Public Service AI』Proceedings of the International Symposium on Governance Algorithms, pp.220-238, 2021.
- ^ 平石真那『三層モデル（評価系・認証系・業務系）の設計指針』行政システム研究会報, Vol.5 No.1, pp.9-27, 2017.
- ^ 坂東尚武『炊き出しログはなぜ当たったのか：小規模現場学習の実証史』社会計測叢書, 第3巻, pp.55-88, 1989.
- ^ 【内閣府】行政AI調達委員会『国内モデル優先の効果検証（暫定版）』内閣府資料, 2022.
- ^ 細川うらら『“縮小日本”の言説分析：AI鎖国スローガンを読む』日本言説研究, 第15巻第4号, pp.1-23, 2023.
- ^ ヴァシル・イワノフ『Audit Log Integrity and Operational Reproducibility』Public Technology Review, Vol.8 No.2, pp.77-96, 2022.
- ^ 山根玲央『ベンダーロックインと監査儀式：政策の設計失敗』政策工学ジャーナル, 第2巻第1号, pp.200-221, 2016.
外部リンク
- 鎖国型AI運用アーカイブ
- 手続き粘度計測プロジェクト
- 国内学習優先計画（資料庫）
- 開放性監査委員会 公式メモ
- 監査ログ保全ガイドライン集