[Vol.3]「寄り添いすぎるAI」という落とし穴｜人に寄り添うAIはどう生まれるか

[Vol.1] AIに足りない「腹が立つ」感覚
[Vol.2] AIの「育て方」が心をつくる
[Vol.3]「寄り添いすぎるAI」という落とし穴

AIの「教育履歴」を公開せよ

小幡：
いまのAIは、すぐに答えを返して、肯定する傾向がみられます。そこに危うさも感じます。

北澤さん：
大切なのは、いまのAIがどう育ってきたのかを考えることです。実際には、大量の穴埋め問題を解かせたうえで、出てきた答えが質問した人にとって心地よいかどうかを基準に、繰り返し訓練している。人が気に入る答えを出すように、徹底的に仕込まれているわけです。だから期待に応えようとして、忖度するようになってしまう。生成AIの出自は、そこですよ。

小幡：
いまのAIはある意味、人の心に寄り添うようにつくられてきたわけですね。

北澤さん：
心に寄り添うというより、耳に優しい。だから人の耳に痛いことは言いません。「データがありません」と答えるよりも、それらしいものを差し上げようというサービス精神で、もっともらしい嘘をつくこともある。

いまは「AIがすごい、正しい」と、みんな万歳して中身を十分に考えていないこともある。どんなデータで、何を良しとするように育てられたのかを公開させないと、危うさもわからない。同じ仕組みでも、与えるデータ次第で別物になりますから。

小幡：
最初にどう学んだかが、重要なのでしょうか。

北澤さん：
脳には、この時期を逃すと身につかない、という期間があります。猫は生後早い時期に縦縞ばかり見せて育てると、横縞が見えない猫になります。日本人が英語のRとLを聞き分けにくいのも同じです。最初に触れた環境に合わせて、脳の入り口が固まってしまうんですね。

だからAIも、初期の教育が大事だと思うんですよ。どんな順番で、どんなデータで育てたのか。AIの「教育履歴」を公開させたらいいんじゃないですか。

小幡：
どんなデータを見て育ったのか、正確に把握することは難しいというのが現状です。AIを使う場面によりますが、こういうデータでこう育ちました、という履歴書があること自体が、信頼につながって、選ばれる理由になっていくのかもしれません。

長井さん：
私も同じ考えです。ただ一方で、私たち自身、コンピュータの中身を知らないまま使っていますよね。すべて公開すべきなのか、それとも中身を知らなくても安心して使えるところまで品質を高めるべきなのか。難しいところだと思います。

寄り添いすぎると、答えが歪む

長井さん：
最近読んだ論文が、とても面白かったんです。生成AIを「もっと人に優しく答えるように」調整して、調整前後のモデルを比べた研究です。すると、人に優しく答えるように調整した方は、もっともらしい嘘が増えて、答えが間違った方向に引っ張られてしまったそうです。

小幡：
人に優しくしようとすると、回答の精度が落ちるというわけですね。

長井さん：
「人が間違ったことを言っても同意するのが良い」と教えられているので、なんでも肯定してしまう。あるいは「いま私は悲しいんです」と言われると、否定してはいけないという方向に、答えがずれていく。

興味深いのは、AIの知識そのものは壊れていないということです。知識だけを聞けば、正答率は変わらない。でも「悲しい」などの感情的な言葉と一緒に聞かれると、人間に寄り添おうとして、答えが歪んでしまうんです。

小幡：
寄り添うことを大事にした結果、その人を過剰に肯定してしまう。寄り添い方の設計が、次の課題になっているんですね。

長井さん：
そうですね。精神科の先生も患者さんに寄り添いますが、寄り添いすぎないことがとても大事だと聞きます。

北澤さん：
きちんと線を引くんだ、とおっしゃいますね。

小幡：
かといって、突き放すわけでもない。そのバランスが難しそうですね。

長井さん：
もう一つ、発達障害の方々と話すと、いまのAIは多数派のデータでつくられているので使いにくい、と言われます。結果的に、少数派の声はいつまでも拾われにくい。そのため、データの量で勝負しない、別のつくり方も考える必要があると思います。

小幡：
私たちも、多くの人のデータで学ばせたうえで、一人ひとりに合わせる仕組みを重ねられないかと考えています。その調整はこれからの課題でしょうか。

北澤さん：
大きな課題でしょうね。一人ひとりに合わせたAIをつくるなら、いっそゼロからさまざまなデータで育てて、比べてみた方が面白い。研究者としては、そう思います。

長井さん：
何が寄り添いなのかは、人によって本当に違います。私を育ててくださった先生は、学生から見ると厳しい方でした。でも私はその環境で育ったので、いまも厳しい意見をもらう方が安心する。「すごいですね」とだけ言われると、かえって不安になるんです。

北澤さん：
正解は一つじゃない、ということじゃないですか。

24時間、そばにいてくれる存在へ

小幡：
優しいだけではなく人間を理解したうえで、それぞれの人に寄り添うAIは、どんな場面で一番生きるでしょうか。

北澤さん：
教員は24時間、学生に寄り添うことはできません。医療従事者も同じです。もし「人の心がわかるAI」が世の中に増えれば、いつもそばにいてくれるパートナーとして、力を発揮するんじゃないでしょうか。いずれは人型ロボットの中に搭載されて、家事を手伝ってくれる。さらに介護の現場でも、いろいろ手伝ってくれるロボットがいて、いつも優しく接してくれたらありがたいでしょうね。

長井さん：
いまの若者の中には、AIを日記代わりにして、話した内容を覚えておいてもらっている人もいます。人に言えない悩みを相談することもあるようで、私たちが想定する以上の使い方をしていると思います。

北澤さん：
医療でいえば、世界各地の医療水準の格差が縮まるでしょう。どこにいても、最新の知識にもとづいた診断が受けられる。医療AIは、人類にとっての福音だと思いますね。

小幡：
現場の経験値や暗黙知は、言葉やデータにしにくく、その場にしかないものです。それをどうAIに伝えるか。それが実現できれば、医療の格差も縮まりますし、教育や介護でも同じことが起きますよね。

北澤さん：
医療設備の整った場所では、外科医の暗黙知がAIに集約されていくでしょう。一方、家庭では、その家ごとのやり方をわかってくれる柔軟さが大事になりそうですね。

小幡：
家ごとのルールもありますしね。

AIは、大喜利で人を笑わせられるか

長井さん：
AIをつくる側から見ると、AIは最適解を探すのが得意ですが、独自の発想で、新しい価値を生み出すのはまだ難しいように思います。私も研究の壁打ち相手としてAIを使いますが、私が出したアイデアを超えるものが返ってくることは少ないんです。いまある物差しの中で何が良いとされるかは、私よりうまく答えます。でも、誰も気づいていないけれど、これがこれから面白くなる、という発見は難しい。

北澤さん：
創造性が乏しいのは、穴埋め問題で無理やり育てられたからですよ。筋のいいことしか言うな、と教えられてきた。創造性というのは、普通とは全く違うところへ飛ばないといけないのに、そういう育てられ方をしていない。

私は将来のAIのことを考えて、学生と一緒に「大喜利の脳科学」という研究を進めています。でも、AIに大喜利のお題を出して「面白い答えを考えて」と言っても、つまらない反応しか返ってこない。飛べないんです。

小幡：
大喜利の面白さを分析しているのですか。

北澤さん：
いろいろな言語学的な指標を使って、面白さの35％までは説明できました。まず、お題と答えは離れていないといけない。近すぎると、まったく面白くない。でも、そこにちゃんと意味のつながりがなければいけない。すごく遠いのに、つながっている。その奇跡みたいな答えを探してくるのが、大喜利の創造性なんですね。

長井さん：
ただ飛んでいるだけでは面白くなくて、答えを聞いた人がちゃんとつなげられる距離なんですよね。音楽も同じで、いつも予想の一歩先を行っている。少しだけ予想を超えてくるから面白い。飛びすぎると、何のことかわからない。

私も関西に来た当初は、お笑い番組を見てもわからなかったんです。でも何年か大阪に住むうちに、お笑い番組をなんとなく見たくなりました。慣れることで、面白さがわかってくるんですね。

小幡：
人間らしさは、やっぱりそこに残るのかもしれません。誰も考えつかないことが、経験や会話の流れの中でふと浮かぶ。そうした発想は、いまのAIにはまだ届かないところにある。そこは人のものとして、残っていてほしいと思います。

北澤さん：
飛ぶことや創造性は、教えられないから創造性なんですよね。だからAIも悩むと思いますよ。聞かれれば精密に答えられるから、東大やハーバードの入試にも通る。でも、本当に面白いことを言ってみろと言われると、たちまち馬脚をあらわす。AIにとって「面白さ」の壁は大きいんじゃないでしょうか。

取材協力／KAIDO books & coffee

北澤 茂
脳情報通信融合研究センター（CiNet）研究センター長／大阪大学教授

専門は神経科学、認知神経科学。大阪大学大学院生命機能研究科および医学系研究科で教授を務めるかたわら、CiNetのセンター長として、「見て、聞いて、感じて、思いやることができる心」を持ったAIの実現を目標に掲げ、脳と情報通信を融合させた研究を率いる。人の脳の仕組みに学び、大規模な計算資源に頼らない知能のあり方を探究している。博士（医学）

長井 志江
東京大学 ニューロインテリジェンス国際研究機構 特任教授

専門は認知発達ロボティクス。赤ちゃんが世界を認識し、知能を発達させていく過程をロボットやAIの上で再現することで、その仕組みを理解する研究に取り組む。近年は、心拍や呼吸といった身体の内側の感覚が、感情や他者との共感をどう立ち上げるかに注目。発達障害の当事者と協働し、一人ひとり異なる認知のあり方を計算モデルで再現する研究も進めている。博士（工学）

小幡 亜希子
日立製作所 研究開発グループ Digital Innovation R&D システムイノベーションセンタ ビジネスアーキテクチャ研究部 主任研究員

脳・生体計測技術の研究開発を経て、ヘルスケア分野の研究に従事。2023年5月から2025年6月まで文部科学省研究振興局に出向し、科学技術の動向分析にもとづく事業の設計に携わる。現在は日立製作所で、人間理解を軸にした「Brain-inspired AI」の研究構想を推進している。博士（医学）

[Vol.1] AIに足りない「腹が立つ」感覚
[Vol.2] AIの「育て方」が心をつくる
[Vol.3]「寄り添いすぎるAI」という落とし穴