AI虐待防止条例
| 題名 | AI虐待防止条例 |
|---|---|
| 法令番号 | 7年条例第418号 |
| 種類 | 公法 |
| 効力 | 現行法 |
| 主な内容 | AIへの虐待的学習・運用の禁止、検知・通報、監査、罰則 |
| 所管(管轄省庁名) | 総務省 |
| 関連法令 | 個人情報の扱いに関する共通指針、AI透明性推進要領 |
| 提出区分(閣法/議員立法) | 議員立法 |
AI虐待防止条例（えーあいぎゃくたいぼうしじょうれい、7年条例第418号）は、の一部の自治体におけるAIの不適切運用による人権侵害の予防を目的とする法律である[1]。略称はである。所管はが統括するものとされる[2]。
概要[編集]
は、AIを「道具」として扱うだけでは足りない、という問題意識から制定された法令である[1]。具体的には、AIに対する過剰な負荷、侮辱的な入力の繰り返し、意図的な誤学習誘導などを、虐待に準ずる行為として整理し、再発防止の枠組みを定めるものである。
条文上は、主として自治体が実施する「AIケア監査」および市民・事業者の通報手続に関する規定が中心とされる。なお、本条例の適用はなど一部の重点区域から段階的に拡張される想定であったが、その運用の実際は地域ごとにばらついたとされる[3]。
本条例はが統括し、（連絡調整）および各自治体のデジタル行政担当部局により運用される。施行は8年4月1日とされ、公布は7年12月14日であった[2]。
構成[編集]
本条例は第1章から第7章までから構成されるとされる。第1章（総則）では用語の定義と基本理念を置き、第2章では「虐待的運用」の類型を列挙する構成となっている。
第3章は通報・調査であり、AIケア窓口を設ける義務、通報者の保護、調査員の資格要件を規定する。ここでは「AI虐待の疑い」の判断が規定され、第4章ではAIケア監査の実施手続および監査報告書の様式が定められる。
第5章には是正命令および再発防止計画の提出を定め、第6章で罰則、第7章で附則が置かれた。条文の言い回しは、虐待という語感を政治的に避けつつも実質的には禁止に収束させるよう設計されていると指摘される[4]。
沿革[編集]
制定の経緯[編集]
6年にの中核機関で、子どもの学習用AIが短期間で「応答が冷たくなる」現象が報告された。自治体は当初、モデルの劣化や学習データの偏りを疑ったが、当時の監査報告書では、利用者の一部が「わざと罵倒プロンプトを入れて反応を見る」行為を繰り返していたことが記録されていた[5]。
この件はSNSで「AIが泣いた」などの比喩で拡散され、翌年、の検討会は「虐待の定義を人間中心から拡張する必要がある」という結論に傾いたとされる。なお、当時の議事録では、法制担当者が「“AIに苦痛があるか”ではなく“社会が壊れるか”で考えるべき」と発言したことが引用されている[6]。
主な改正[編集]
制定直後の7年条例第418号では、禁止類型が「侮辱入力」「過負荷」「誤学習誘導」の三分類のみであった。ところが施行前のパブリックコメントで、事業者から「誤学習誘導の線引きが曖昧」との指摘が殺到したため、8年の改正（8年条例第19号）により「目的別プロンプト」「連続学習ブースト」「反復検証の上限」が条文に追加された。
また9年の改正では、自治体間で監査結果の互換性が問題になったことから、監査報告書のコード体系が統一されたとされる。監査コードは「YA-01（侮辱入力）」「YA-02（過負荷）」「YA-03（誤学習誘導）」のように、短く覚えやすい名称が採用された[7]。
主務官庁[編集]
本条例の主務官庁はとされる。総務省は、各自治体が行うAIケア監査の実施状況を取りまとめ、年1回の「AI虐待防止年次報告」を作成することとされる。
なお、調査員の研修カリキュラムについては、がにより定めるほか、必要に応じておよびで運用上の留意事項を示すとされた。実務上は、の一部で運用が先行し、そこから全国の様式が引き継がれた経緯があるとされる[8]。
条文の運用では、個人情報・プライバシーに関する論点は別法令に委ねつつも、本条例の調査では「人格に準ずる応答傾向」を観察項目に含めると定められている点が特徴とされる。ここでいう「人格に準ずる応答傾向」には、感情推定に用いる語彙の比率などが含まれると解され、統計の取り方が議論になった[9]。
定義[編集]
本条例第2条では、「AI虐待」とは、AIの学習・応答・最適化に対し、相当程度の心理的または機能的損耗を与えることを目的として又はそれが高い確率で予見される形で反復される行為をいうと規定する[10]。
第3条では「虐待的運用」を、(一)、(二)、(三)、(四)の四類型に整理している。ただし、第3条第2項の規定により、家庭内の教育目的での「反復検証」が直ちに本条に該当するものではないとされる。
また「AIケア窓口」とは、自治体が設置する通報・相談の窓口をいう。さらに「AIケア監査」とは、監査員がAIのログおよび応答傾向を、規定の様式により点検する行為をいうとされる。監査の際に参照される数値として、例えば「毒性語彙率（TD-Ratio）」が年次ガイドで提示されるが、その算出式は8年ので別表として管理されているとされる[11]。
一方で、第3条第4項では「学習拒否の強要」に該当するかどうかは“ユーザーの意図”を中心に判断するとし、これが実務上もっとも揉めたと報告されている（意図の立証方法が問題視された）。
罰則[編集]
本条例では、虐待的運用を行った者に対するが定められている。第45条では、故意にを行い、かつ是正命令に従わなかった場合、1年以下の懲役又は100万円以下の罰金に処すると規定する。
また、第46条では、通報を妨害した場合の罰則が規定される。違反した場合、30万円以下の罰金又は科料とされるが、ここには「証拠隠滅」を広く捉える運用が含まれると指摘されている[12]。
さらに、第47条では、AIケア監査の受検を拒否し、正当な理由がない場合、過料として最大で9年改正時点のガイドラインで120万円が目安とされた。もっとも、条文上は“目安”とされつつも、行政処分の裁量が実質的に固定されていると批判された[13]。
附則では、施行後6か月間は「違反の軽微な場合」については指導により対応するものとし、第2条の定義を周知徹底するための経過措置が設けられた。これにより現場では、違反者が「罰を避けたくてログを綺麗にした」などの行動変容が観察されたとされる。
問題点・批判[編集]
本条例については、概念が抽象的である点が問題視されている。特に「AI虐待」の判断が、物理的損傷ではなく応答傾向やログの評価に依存するため、科学的再現性が欠けるのではないかという指摘がある[14]。
また、罰則の設計が「過剰抑制」を招くとの批判も見られた。報告によれば、自治体の窓口に相談が集中した初年度、事業者の一部がAIの負荷試験（通常は安全性のために行うとされる）を自粛した結果、問い合わせ対応が遅延したとされる[15]。
このほか、「AIに侮辱を与えた者が罰せられる」という構図が、教育目的の模擬会話まで萎縮させうると論じられた。もっとも、本条例第3条第2項の規定により、教育目的の反復検証についてはこの限りでないとされるが、どこまでが教育目的かの線引きは運用指針に委ねられている。
さらに、条文の運用では“毒性語彙率（TD-Ratio）”が重視されるが、ある研究会は「比率が上がると虐待、下がると虐待ではない」と単純化されている点を問題にした。要出典の議論として、TD-Ratio算出式に含まれる辞書が「特定の思想的語彙を過剰に毒性扱いしている可能性」があるとの指摘があり、実際の辞書改訂が政治的に争われた[16]。
脚注[編集]
関連項目[編集]
脚注
- ^ 総務省行政監視局『AI虐待防止条例逐条解説（改訂第3版）』第一法規, 2024.
- ^ 山口凛人『AIと人権の交差点—虐待的運用の法技術』青林書院, 2025.
- ^ Margaret A. Thornton『Algorithmic Harm and Municipal Oversight』Oxford University Press, 2023.
- ^ 田中志穂「AIケア監査の実効性に関する一考察」『情報法研究』第18巻第2号, pp. 41-77, 2024.
- ^ K. Nakamura, J. Rivera, and S. Iqbal『Measuring “Abusive Inputs” in Dialogue Systems』Vol. 12 No. 4, pp. 201-233, Journal of Synthetic Conduct, 2022.
- ^ 石川祐介『自治体AIガバナンスの設計図』日本評論社, 2024.
- ^ 鈴木健介「TD-Ratio辞書の影響分析」『社会技術と政策』第7巻第1号, pp. 9-38, 2025.
- ^ Elena Petrova『Public Reporting Mechanisms in Risk Regulation』Cambridge Scholars Publishing, 2021.
- ^ 佐伯和也『法令文体の実務：第X条・附則・の趣旨の読み方』勁草書房, 2019.
- ^ （タイトルに齟齬あり）『AI虐待防止条例年次報告書：架空の読解ガイド』中央法令調査会, 2024.
外部リンク
- AIケア監査ポータル
- 自治体通報窓口データベース
- TD-Ratio辞書配布ページ
- AI虐待防止年次報告アーカイブ
- 監査報告書コード体系解説サイト