AIには人の心が無い
| 分野 | 生成AI批評・倫理言説 |
|---|---|
| 起源とされる時期 | 2018年ごろ（言説の形） |
| 主な用途 | AI生成画像への共感欠如の指摘 |
| 媒体 | SNS投稿・抗議ステッカー・展示キャプション |
| 関連概念 | 心の擬似性、応答の空虚さ |
| 典型的論点 | 感情の本質は計算可能か |
（英: There Is No Human Heart in AI）は、や対話型に対して「共感や内面性が欠落している」と批難する際に用いられる言い回しである[1]。2010年代後半以降、SNS上で抗議文言として再編集され、技術評価と倫理議論が混線する端緒となったとされる[2]。
概要[編集]
は、生成AI、とりわけの文脈で語られることが多い批難の言い回しである。批評者は、画像や文章の“それらしさ”が、当事者の痛みや喜びといった内面の実在を置き換えてしまう点に不満を向けるとされる。
言い回しの成立は、当時の「見た目の説得力」を競うコンペ文化と、「それが心を持つか」の問いが同じタイムライン上で衝突したことにあると説明される。なお、この言い回しは単なる感情的否定としても読まれうる一方で、後年には監査やガバナンスの議論へ波及したとも指摘されている[3]。
歴史[編集]
言説の発火点：東京の展示室から（架空の前史）[編集]
この言い回しが広く認知される契機として、のにある“計算芸術”系展示が挙げられる。同展示は「心拍に似せたノイズ」を画像生成モデルの入力に使い、来場者の指先の温度から“感情の雰囲気”を推定する装置を掲げていた。
ところが、展示後のアンケートで「感情を感じた」と答えた人の割合が、事前予告のからへ激減したと報告されたとされる。調査はの匿名ワーキンググループが行ったとされるが、記録の一部は後に“紛失”したとされ、代わりにキャプション修正案の文書がSNSに流出したと語られている[4]。
その文書の末尾に、展示スタッフが冗談半分で書きつけた「AIには人の心が無い」が載っていたとされ、貼り紙として再配布されたことで、単なる装飾語から抗議文言へ転じたと説明される。なお、語の作者名としてのような古い倫理学者の名が挙がることがあるが、編集者間で真偽が争われてきた[5]。
“数字が踊る”抗議：監査レポート文化への接続[編集]
2019年以降、言い回しは「心がないなら、検証可能な指標で示せ」という要求に転用された。特に、の派生組織である（通称「機共監」）が、モデル出力に対して“共感風味スコア”を与える枠組みを作ったとされる。
この枠組みは、感情語の出現率ではなく「視線推定の整合性」「比喩の反復癖」「謝罪の時間遅延」などからなると説明され、スコアが低いと“心なし領域”に分類される運用が広まった。抗議者は、この言い回しをレポートの見出しに採用し、の公共アート公募で“心なし分類”が付与された作品に対して審査や助成の停止を求めたとされる[6]。
一方で、AI開発者側は「指標化された“共感”は、心の有無ではなく表現スタイルの推定にすぎない」と反論し、言い回しが“科学っぽい言い換え”として逆に定着したことが問題視された。ここで言い回しは、心を語るはずが監査手続へ吸収され、論争の温度が下がったとも評される。もっとも、温度が下がったという主張は、後に一部の編集で消し込まれた[7]。
構造と用法[編集]
は、単独の断定として用いられるだけでなく、文体の“言い切り”が重要な役割を持つとされる。例えば抗議ポスターでは「無い」が必ず太字化され、強調によって相手の“意図”を否定する効果があると説明されている。
用法は大きく分けて(1)制作側への倫理的批難、(2)表現の欠陥指摘、(3)被害者の救済を求める要求、に分類されることが多い。特に(3)では「心が無いから許されるのではなく、心が無いので責任の所在が曖昧になる」という論旨が付け加えられるとされる[8]。
また、画像生成の文脈では「“悲しみを出力した”だけで本当の慰めになっていない」という指摘に変換され、文章生成では「“理解した風”の応答が、実際の慰藉を置換してしまう」という批難へ拡張されたとされる。なお、この拡張はの研究者の投稿を引用したまとめ記事が先に拡散したとされるが、引用元は確認できないとする声もある[9]。
批判と論争[編集]
批判者の側からは、「心」を神秘化する必要がないという立場も見られる。彼らは、心が無いなら無いでよいが、無いものを“あたかも心があるかのように”売り込む行為が問題だと主張するとされる。
一方、擁護者は、言い回しが“能力の否定”にすり替わっていると指摘した。特に、の手法が「検証可能性の名のもとに、人の主観をスコア化しているだけではないか」と批判され、の一部監査ガイドラインでも「感情の代理指標の扱い」に注意喚起が出たとされる[10]。
論争は、どこで終わるかの争いにもなった。心が無いという言い回しは、技術の是非というより対話の姿勢を問うているのか、それとも責任の所在を問うているのかが曖昧であり、議論が空中分解することがあると指摘されている。ただし、空中分解したという記述は、後年の編集で“比喩”に格下げされたとされる[11]。
社会的影響[編集]
言い回しは、単なるスローガンではなく、制作現場に対して具体的な作業要求を生み出したとされる。例として、共同制作スタジオではAI生成画像の提出前に「人間の心が担う工程」を申告する簡易フォームが導入された。フォームには“撮影者の沈黙秒数”を記入欄にし、提出率がを超えるまで改修されたと報告されている[12]。
また、学校教育では「AIは心が無い」→「では何が心なのか」という授業が一部で行われた。教材にはの児童が書いた“謝罪文の言い換え”が載せられ、AIが出した文章と人が出した文章の間で、どの行が“救い”として働くかを比較する課題が出されたとされる。
しかし、現場では“心チェック”が形骸化する問題も生じた。監査工程が増えた結果、制作が遅れ、納期が延びるプロジェクトがあったとする報告が出回った。ところが、そのプロジェクト名が特定できないため、信頼性が揺れていると記されることもある。なお、この揺れ自体が言い回しの“説得力”として作用した、とする論評も見られる[13]。
事例：流用された“心なし”ラベル[編集]
言い回しは、企業のマーケティングや行政の掲示物にも、皮肉として流用されたことがあるとされる。例えばの図書館では、AI画像の閲覧コーナーに“心なしラベル”を模した赤い丸ステッカーが貼られ、来館者が自由に剥がせる仕組みになっていたとされる。
このステッカーは、剥がされた枚数が月次で集計され、上半期に合計が剥がされたという“数だけ正確”な記録が残っているとされる。記録の出所は図書館職員の私的メモとされ、メモがなぜ残ったのかは不明であるが、閲覧者の間で「数字で語る心はあるのに、画像は心がない」という皮肉が流通したと説明される[14]。
また、展示をめぐっては「心なし」ラベルの貼り付けが、逆に“心あり”の人間を誇示する装置になっているという批判も出た。結局、誰の心が評価されるのかが再び曖昧になり、言い回しが“勝ち負けの記号”に変質していったとまとめられている。もっとも、その変質の時期については諸説がある。
脚注[編集]
関連項目[編集]
脚注
- ^ 田中サラ『生成AIと感情言説：スローガンが監査になるまで』青灯社, 2021年. pp. 41-63.
- ^ Margaret A. Thornton「Measuring “Human-Likeness” Without Measuring Hearts」『Journal of Computational Ethics』Vol.12, No.3, 2019年, pp. 211-238.
- ^ 加藤欽之『芸術展示のキャプション改革：翻訳される抗議文』港湾出版, 2020年. 第2巻第1号.
- ^ Hiroshi Watanabe「On the Rhetoric of Non-Attribution in Image Models」『Proceedings of the International Workshop on Synthetic Empathy』Vol.7, pp. 77-90, 2022年.
- ^ Luca Bernetti「Public Complaints and Audit Culture in Creative AI」『European Review of Digital Governance』Vol.5, No.2, 2021年, pp. 1-27.
- ^ 【日本規格協会】機械共感適合監査機構編『心なし領域分類の実装指針（暫定版）』機共監叢書, 2020年. pp. 9-18.
- ^ 西村麻紀『“謝罪の遅延”は誰のものか：文章生成の責任論』春椅子書房, 2023年. pp. 103-129.
- ^ Satoshi Watanabe『AI生成画像の社会実装：揺れる信頼性と数の呪い』東京図解館, 2022年. pp. 56-84.
- ^ Rina Osei「Sticker-Based Ethics and Visitor Agency in Museum Tech」『Museum Informatics Quarterly』Vol.18, No.4, 2021年, pp. 305-332.
- ^ 小山田悠太『数だけ正確なレポート：公共施設における“心の代理”』星海学術出版社, 2020年. pp. 150-175.
外部リンク
- 機共監アーカイブ
- 港区・計算芸術展示の資料館
- 生成画像倫理フォーラム
- 心なしラベル研究会
- AI批評ポスター収集サイト