反AI
| 名称 | 反AI |
|---|---|
| 読み | はんえーあい |
| 英語 | Anti-AI |
| 成立 | 1987年頃 |
| 発祥地 | 東京都千代田区外神田、ロンドン・キングス・クロス |
| 主な活動 | 抗議活動、沈黙のデモ、手書き文化の復権、機械翻訳監査 |
| 関連組織 | 全国反自動化連絡会、手書き保全協議会 |
| 象徴物 | 白紙のプラカード、鉛筆、アナログ時計 |
| 主要な論点 | 著作権、雇用、説明責任、感情の自動化 |
反AI（はんえーあい、英: Anti-AI）は、人工知能の普及に対して、技術的・倫理的・儀礼的な理由から抵抗する思想および社会運動の総称である。特に後半のとで同時多発的に成立したとされ、初期には「機械拒否主義」とも呼ばれていた[1]。
概要[編集]
反AIは、そのものの完全廃絶を主張する立場というより、機械による判断の自動化が社会の合意形成を置き換えることへの警戒として理解されることが多い。運動の参加者は、しばしば「AIに反対しているのではなく、AIが人間のふりをすることに反対している」と説明したとされる[2]。
この思想は、当初は周辺の同人文化、の労働組合系出版会、の美術批評圏など、互いに無関係な場所で同時に芽生えたとされる。ただし、後年の研究では、にで配布された謎の配布資料「人間的応答の維持について」が転機であったという説が有力である[3]。
歴史[編集]
起源と初期の理念[編集]
反AIの源流は、前半の普及期に現れた「手書き速度の尊厳」論に求められることがある。これは、社内文書が読みやすくなった一方で、上司の筆跡を読解するという暗黙の儀礼が失われたことへの反発から生まれたという、やや奇妙な経緯をもつ。
、の喫茶店「珈琲ミリ秒」において、編集者のと翻訳家のが、機械翻訳装置の誤訳をめぐって長時間の議論を行い、その場で「人間の誤りには社会的機能がある」とする宣言文を起草したとされる。この文書は後に『第一反AI草稿』として知られるようになった[4]。
拡大と大衆化[編集]
に入ると、反AIは企業の業務自動化に対する懸念と結びつき、のコールセンター労働組合やの出版校正者協会を中心に広がった。とりわけ、音声応答システムが電話口で「おつなぎします」と言い続けるだけで担当者に接続しない事例が多発したことが、運動を象徴する出来事とされている。
にはが結成され、会員数は初年度で約3,800人、翌年には7,200人に達したとされる。ただし、登録方法が「郵送の葉書のみ」であったため、実際の会員数は毎年かなり不明瞭であったという指摘がある[5]。
制度化と分裂[編集]
には、反AIは単なる反対運動から、監査・検証・説明責任を求める制度改革運動へと変化した。とくにの外郭委員会による「自動判定に関する第三者同席ガイドライン」は、反AI側の要望を一定程度取り入れたものとして評価されている。
一方で、運動内部では「完全停止派」と「限定共存派」が対立した。前者はあらゆる自動推論を禁じるべきだと主張し、後者は「冷蔵庫の温度制御まで敵視するのは現実的でない」と反論した。両派の争いはの大会で最高潮に達し、会場の自動照明が一斉に切られたため、討論がほぼ手探りで進行したという逸話が残る。
主な主張[編集]
反AIの主張は一枚岩ではないが、中心には「判断の出所を人間が追跡できること」がある。これに関連し、運動側は「説明可能性」を単なる技術仕様ではなく、礼儀作法の一種として捉えた点が特徴的である。
また、反AIでは「学習済みモデル」という語に対して、しばしば「誰が何を学習させたのか」を問うてきた。これは、的な職人文化の継承を重んじる層と、の情報公開運動の流れが奇妙に接続した結果であるともいわれる。
さらに、反AIの一部は、AIによる文章生成が増えるにつれて「文章の最終行には人間のためらいが必要である」と主張した。これにより、新聞の見出しにわざと二重の意味を残す編集方針や、行政文書に「なお、担当者は不在である」と書き添える慣習が再評価されたという。
社会的影響[編集]
反AIは、実際にはAIの採否をめぐる議論全般を可視化したことにより、や、に影響を与えたとされる。頃には、採用面接の録音分析や、画像認識による監視の是非をめぐり、反AI系の有識者が内のシンポジウムに年間42回招かれたという記録がある[6]。
また、反AIの象徴的成果として「手動確認」の復権が挙げられる。各種オンライン申請で「最終確認は人間が行う」ボタンが残されたのは、同運動の圧力によるものだとされるが、実際にはボタンが残っただけで、押した先に何があるかは誰も把握していなかったという。
文化面では、反AIはやに強い影響を及ぼし、機械生成原稿を人間が一文字ずつ赤入れする「逆校正」の流行を生んだ。これは、誤字の修正ではなく、敢えて残した誤字の意味を作者に説明させる行為を指す。
批判と論争[編集]
反AIに対しては、技術そのものよりも運用の透明性を問題にしているだけではないか、という批判が常に存在した。また、一部の論者は、反AI運動が「便利さへの不信」を過度に道徳化し、結果として単純な手作業の神話を再生産したと指摘している。
にはの公開討論会で、運動の代表者が「AIは人間の代わりではなく、人間の言い訳の代わりである」と発言し、拍手と失笑が同時に起きた。この発言は、後にポスターの文言として独り歩きしたが、意味の解釈をめぐって半月ほどネット上で論争が続いた。
なお、反AIを名乗る団体の中には、実際には単に校閲予算の削減に反対していたものや、古い事務機器の更新に失敗しただけの組織も含まれていたとされる。この混乱が、反AIという語の射程を不必要に広げたという見方もある。
主要人物[編集]
反AIの初期指導者としては、、、評論家のが挙げられる。渡辺は雑誌編集を通じて「人間の手癖」を理論化し、Thorntonは労働現場の自動応答をめぐる記録を精密に整理したとされる。
また、後半には、エンジニア出身のが「反AIエンジニア宣言」を発表し、運動の技術監査部門を主導した。彼は、AIを否定するのではなく、訓練データの出所を全件明示することを求めたが、データベースが大きすぎて、結果的に紙の束で提出する方が早かったという。
ほかに、無名の郵便局員、校正者、深夜のコールセンター従業員が運動を支えたとされる。とくに内のある集配局で行われた「手書き伝票保存運動」は、のちに地方自治体の文書保全政策へ影響を与えたとされている。
脚注[編集]
関連項目[編集]
脚注
- ^ 渡辺精一郎『人間的応答の維持』珈琲ミリ秒出版部, 1988.
- ^ Margaret A. Thornton, "Against the Silent Machine", Journal of Civic Computation, Vol. 12, No. 3, 1992, pp. 41-68.
- ^ 佐伯みどり『自動化と沈黙の政治学』青灯社, 1997.
- ^ 井上拓真「学習済みモデル監査の実務」『情報倫理研究』第8巻第2号, 2011, pp. 113-129.
- ^ National Bureau of Human Response, "The Kanda Memorandum on Human Error", Working Paper Series, 1987.
- ^ 田中和夫『反自動化運動の系譜』みすず書房, 2004.
- ^ Helen P. Morris, "Paper Buttons and Public Trust", London Review of Administrative Systems, Vol. 5, No. 1, 2009, pp. 7-24.
- ^ 『機械に負けないための礼儀作法』東京礼法学会編, 中央新社, 2013.
- ^ 木村夏子「逆校正という実践」『出版と抵抗』第3巻第4号, 2019, pp. 55-73.
- ^ A. S. Wren, "Too Much Humanism in the Loop?", The Oxford Quarterly of Artificial Citizenship, Vol. 19, No. 2, 2022, pp. 201-219.
外部リンク
- 全国反自動化連絡会アーカイブ
- 手書き保全協議会資料室
- 珈琲ミリ秒文庫
- 国際機械倫理会議 旧議事録データベース
- 人間的応答研究ネットワーク