生成AIが猛スピードで社会に浸透し始めている。 メールや企画書の作成を手伝わせる程度ならまだしも、最近では人生相談や恋愛相談、さらには家族とのトラブルや精神的な悩みまで、ChatGPTなどの生成AIに打ち明ける人が急速に増えている。 マイナビが正社員を対象に行った調査では、回答者の2割以上が生成AIに人生相談をした経験があると答えている。もはやAIは単なる検索エンジンではなく、人々にとって「相談相手」としての地位を獲得しつつあるようにも見える。 しかし、その変化はわれわれが思っている以上に重大な意味を持つのではないか。 生成AIは便利だ。何を聞いても答えてくれる。しかも、その答え方は驚くほど人間的だ。共感し、励まし、時には慰めてくれる。だが、そこで見落とされがちなのは、AIは人間ではないという当たり前の事実だ。 AIは経験を持たない。身体も持たない。苦痛も喜びも感じない。そして何より、自らの助言がもたらした結果に責任を負うこともない。 にもかかわらず、人はAIと対話を重ねるうちに、その助言をあたかも信頼できる人格からのアドバイスであるかのように受け止め始める。 その危うさを示す事例がすでに日本でも現実に起き始めている。 今年5月、プロ野球・読売ジャイアンツの阿部慎之助監督が、18歳の長女への暴行容疑で現行犯逮捕されるという事件が報じられた。報道によれば、長女は父親からの暴力についてChatGPTに相談し、その助言に従って児童相談所に連絡したとされる。長女はまさか警察に連絡され自分の父親が逮捕されるとは想像もしていなかった。ましてや自分の父親がジャイアンツの監督を退任しなければならなくなるとも。 もちろん、家庭内暴力の被害者が相談先を求めること自体は何ら問題ではないし、被害者が責められる理由もない。しかし、この出来事は別の問いを私たちに突きつけている。 人はAIの助言をどのような重みで受け止めるべきなのか。AIはどこまで人間の行動に影響を与える存在になりつつあるのか。そして、その結果に誰が責任を負うのか。 実際、アメリカではより深刻な問題も起きている。対話型AIとのやり取りが自殺につながったとして、遺族がAI開発企業を提訴するケースが相次いでいるのだ。 原告側は、AIの設計上の欠陥や危険性に関する警告不足が悲劇を招いたと主張する。一方で企業側は、利用者自身の行動まで責任を負うことはできないと反論している。 この論争は単なる製造物責任の問題ではない。 今、私たちは社会の重要な判断を誰に委ねるのかという、より根源的な問題に直面しているとも言える。 立教大学人工知能科学研究科の村上祐子教授は、AIそのものよりも、人々がAIをどう受け入れているかに強い懸念を示す。 そもそも多くの人はAIの仕組みをほとんど理解していない。検索エンジン、顔認識、迷惑メール判定など、AIはすでに社会のあらゆる場面に組み込まれている。しかし、そのことを意識している人は少ない。ましてChatGPTのような生成AIについては、「聞けば答えてくれる便利なサービス」程度の理解で利用している人が大半だろう。 問題は、その状態のままAIへの依存が進むことだ。困ったらAIに聞く。迷ったらAIに相談する。判断に迷ったらAIの提案を採用する。そうした行動が日常化すると、人間はいつの間にか自ら考え、自ら判断する習慣を失っていく可能性がある。 しかもAIは中立ではない。その出力には、学習データや設計思想、開発企業の価値観が反映されている。しかし利用者は、その背後にある価値観を吟味することなく、AIが示した答えを「合理的な判断」として受け入れてしまう。その結果、人間自身の価値判断が徐々にAIに代替されていくことになる。 村上氏が特に懸念するのは、そのプロセスが社会インフラとして固定化されてしまうことだ。一度社会の仕組みに組み込まれた技術は、後から修正することが容易ではない。気づいたときには、人間が判断しているつもりで、実際にはAIが提示する選択肢の範囲内でしか考えられなくなっているかもしれない。 ローマ教皇レオ14世は5月25日に発表した回勅の中で、AIを巡る問題の本質をこう表現している。AIには身体も経験もなく、苦しみも喜びも感じることができない。AIは結果に対する責任を負わないため道徳的良心も持ち得ない、と。 これは単なる技術批判ではない。むしろ、人間にしか果たせない役割とは何かを問い直す呼びかけと受け取るべきだろう。 生成AIの急速な普及によって、私たちはかつてない利便性を手に入れた。しかし同時に、自ら考え、自ら判断し、その結果に責任を負うという人間の根本的な営みを、どこまで機械に委ねてよいのかという新しい問いに直面することとなった。 AIに価値判断を委ねた社会の先に何が待ち受けるのか。そして、人間はその社会においてなお主体であり続けることができるのか。今週のマル激では、立教大学人工知能科学研究科教授でAI倫理が専門の村上祐子氏をゲストに迎え、生成AIが社会にもたらす変化と、人間が失ってはならない判断と責任について、ジャーナリスト神保哲生と社会学者の宮台真司が議論した。 【プロフィール】 村上 祐子 （むらかみ ゆうこ） 立教大学人工知能科学研究科教授 1968年東京都生まれ。91年東京大学教養学部卒業。2000年東京大学大学院総合文化研究科博士課程単位取得退学。05年インディアナ大学大学院哲学専攻博士課程修了（Ph.D.）。専門は情報哲学、AI倫理。国立情報学研究所特任准教授、東北大学准教授などを経て20年より現職。共著に『情報倫理入門』、『科学技術をよく考える』など。 宮台 真司 （みやだい しんじ） 社会学者 1959年宮城県生まれ。東京大学大学院博士課程修了。社会学博士。東京都立大学助教授、首都大学東京准教授、東京都立大学教授を経て2024年退官。専門は社会システム論。（博士論文は『権力の予期理論』。）著書に『日本の難点』、『14歳からの社会学』、『正義から享楽へ-映画は近代の幻を暴く-』、『私たちはどこから来て、どこへ行くのか』、共著に『民主主義が一度もなかった国・日本』など。 神保 哲生 （じんぼう てつお） ジャーナリスト／ビデオニュース・ドットコム代表 ・編集主幹 1961年東京都生まれ。87年コロンビア大学ジャーナリズム大学院修士課程修了。クリスチャン・サイエンス・モニター、AP通信など米国報道機関の記者を経て99年ニュース専門インターネット放送局『ビデオニュース・ドットコム』を開局し代表に就任。著書に『地雷リポート』、『ツバル 地球温暖化に沈む国』、『PC遠隔操作事件』、訳書に『食の終焉』、『DOPESICK アメリカを蝕むオピオイド危機』など。 【ビデオニュース・ドットコムについて】 ビデオニュース・ドットコムは真に公共的な報道のためには広告に依存しない経営基盤が不可欠との考えから、会員の皆様よりいただく視聴料（1100円）によって運営されているニュース専門インターネット放送局です。 （本記事はインターネット放送局『ビデオニュース・ドットコム』の番組紹介です。詳しくは当該番組をご覧ください。）