[Vol.1]最終的な判断は人間が担うべき｜ドメインナレッジがかなえる、AIと人間による知の協創

ブッダボットとハルシネーション

影広：
まずはドメインナレッジを持ったAIと、一般的なAIの違いについて触れたいと思います。昨今はChatGPTやGeminiなど汎用的な生成AIが話題になっていて、雑談の相手や情報の要約、調べものをしてくれます。

何でも答えを返してくれるように思えますが、インフラなどのミッションクリティカルな業務を行っている方にそのまま試用していただくと、あまりうまくいきません。間違った答えを返したり、答えが足らなかったりして怒られるのが定番です。現場には専門的なナレッジがあり、それに対して必ず適切な答えを返すことが求められます。ですから、私たちは現場の知であるドメインナレッジを学習したAIをつくり、現場の作業で活かしていただくようにしています。

熊谷先生は、京都大学で文献学の研究をされるかたわら、スタートアップを立ち上げ、「ブッダボット」というAIをリリースされています。並行してお寺の住職をされていると伺いましたが、どうやってAIまでたどりついたのでしょうか。

熊谷さん：
高校生のときに父が亡くなって実家の寺を継ぐことになり、大学で仏教学を専攻し、古文書の研究を続けているという流れです。

スタートアップで開発した仏教対話AI「ブッダボット」は、仏教経典のテキストデータをドメインナレッジとして学習させ、ブッダとしての視点から回答を出させるものです。ただ私は、決して仏教だけにこだわる必要はなく、ほかの宗教や哲学など、いわゆる伝統知を広くAIで活用できるようになればいいと考えているんですね。仏教文献学においては、インドやアジア地域の古文書の解読を行うのですが、そこで得られるテキストの情報をそのままの形で他分野に転用したり、現代社会に役立てたりするのは難しかったんです。でも、そうした古文書のデータをAIと結びつけると、これまで古文書にアクセスできなかった方がアクセスし、さまざまな形で活用できるようになるため、実社会においても何らか役に立つことがあるかもしれない。そこで、最近は「伝統知×AI」をテーマとして研究開発を行っています。

影広：
古文書は旧字体が多く、読み取りが難しいですよね。私が日立に入社した1994年頃は、郵便区分機向けのOCR（光学文字認識）の開発をしていましたが、活字や手書きの新字体を読むだけで精一杯でした。精度もなかなか上がらず、苦労した記憶があります。

それが今ではAI技術が大きく進化し、新字体を読み取るだけでは研究の先端にならない。学会では、古文書の旧字をどこまで正確に認識できるかを競う取り組みが当たり前になっています。30年前は一般的な文字すら完全に読めなかったことを思うと、技術の進化を実感します。

経典を学習させるというのはまさしくAI×ドメインナレッジになりますが、「ブッダボット」についてもう少し詳しく教えていただけますか。

熊谷さん：
仏教はブッダが開祖ですが、仏教経典とは、2500年前にブッダが亡くなった後に弟子たちが集まって仏教者会議を開催し、その場で「如是我聞（にょぜがもん）」、つまり「私はブッダからこんなお話を聞きました」と共有し合い、直弟子たちがブッダの言葉をアーカイブ化したものなんです。古い経典ほど、一対一の質疑応答の形でブッダと弟子との会話、すなわち生に近いブッダの言葉が収録されているんです。

できるものならブッダに直接会って話をしたいけれど、後世の人間にはその願いはかなわない。だから、経典に出てくるブッダの言葉を読んで、自分の場合にはどうしたらよいのかを考え、実行に移すというプロセスが仏教実践なんです。

その仏教経典を学習させたのが「ブッダボット」です。2021年3月に公表した最初の「ブッダボット」は、BERT（Bidirectional Encoder Representations from Transformers）という自然言語モデルを使い、ユーザーがなにか質問を入力すると、経典に記録された弟子の質問のうち類似度の高いものがピックアップされ、弟子への回答としてブッダの言葉が生成されることなくそのままの形で出力されるという形式をとっています。当時の我々の技術では、人間が話すようなナチュラルな文章が生成できなかったんですね。そこでまずは、非生成系のAIにしたんです。

新型の「ブッダボットプラス」では、ChatGPTの最新版（当時はChatGPT4）を使うことにしたので、ブッダの言葉をもとに自然でわかりやすい文章を生成・出力できるようになりました。ハルシネーション（事実とは異なる情報や、存在しない内容をもっともらしく生成してしまう現象）が起こる前提で、専門家がそれを減らすように調整作業をしています。

影広：
どうしてもハルシネーションは起きますよね。最近は生成AIはごまかすのがうまくなっていると感じます。事業者向けにチューニングした生成AIを現場で使ってもらうと、質問に対して一見それらしい回答が返ってきます。開発者側から見ると「合っていそう」に見えるのですが、実際の現場担当者からは「それは違う」「やってはいけない指示だ」という指摘を受けることがあります。

昔のAIでは、できないときは明らかにおかしな答えが出ていたので、業務に対し専門家ではない私たちでも間違いに気がつくことができました。今は、“できてる感”のある回答が増えたので、専門性が高い領域ほど、正しさを判断できる人が限られてきています。

熊谷さん：
すごくわかります。私たちも「生成AIは、世俗社会の現代人が納得しやすいような答えを返してくるため、伝統仏教的な解釈からずれた回答をする場合もある。はたしてそれを仏教AIと呼んでしまっていいのか？」という議論をしています。ブッダっぽい、仏教っぽい回答であっても、どの文献にも根拠がない場合があるんですよね。仏教に精通した仏教学者や学僧のレベルになると、そうしたAIは「仏教っぽいAI」ではあっても「仏教AI」とは呼べないととらえる方も多いのではないかと考えています。生成AIが生み出した“仏教と似て非なる、ただの文章“ということですね。

完璧さを求めると、どの知も託せない

影広：
日立は2025年7月に、「Naivy（ナイビー）」という次世代AIエージェントを発表しました。開発の背景には、人手不足のなかで、現場をよく知っている熟練者がすべての現場に常駐できるわけではないという状況があります。それに対してNaivyは、熟練者が離れた現場にいる若手や経験の浅い方に対して、位置情報や具体的な作業手順をメタバース空間上でリアルタイムに可視化して、必要な情報をわかりやすく提供することができます。

NaivyはAIとして作業者へ作業の指示をしますが、そのまま実行するのは危険だという現場の認識がありますので、必ず熟練者に確認を取ることが必要です。たとえば、「バルブを30度回す」という指示をNaivyから受けた作業者は、バルブを回す前に熟練者に「本当にそれでいいか？」と問い合わせ、問題ないか判断してもらうようにしています。

私たちはこれを「ヒューマン・イン・ザ・ループ」と呼んでいます。AIを100％信用する段階にはなっておらず、すべてを委ねると人命に関わる重大事故が起きる可能性があるという認識を持っているからです。

熊谷さん：
高度な専門的知識を持つスペシャリストが、自分の代わりとして全面的に信頼するレベルには至ってはいないんでしょうね。私たちも同じように、重要なジャッジをAIに任せるのは難しいと考えています。

一方で、AIに対する過度な期待や要求があるのかなとも感じています。AIが間違うことに対して鬼の首を取ったかのように批判されることがよくありますが、そもそも人間だって間違えますよね。人間が間違えても許されるのに、AIがエラーを出すと叩かれる。AIは完璧でなければならないといった期待があるのだと思います。しかし、現状のAIに完璧さを求めると、どの知も託せなくなるとも考えられます。ただ、人間の場合は間違えたときに責任を負うことができる点でAIとは異なる。となると、最終的な専門的判断は人間が行い、AIはその前までを担う形で関わっていくのかなと思います。

たとえば、現在の仏教AIのレベルでは、僧侶の代わりに物事を判断させることは避けるべきだと思います。判断の結果が正しくても間違っていても、やはり最終的には人間である僧侶自身が判断すべきで、開発者としても、そこは人間に委ねたいと考えています。AIはアドバイスや参考程度にとどめておくべきで、AI自身が「あなたがこれをすべきだ」「これをしてはならない」と断定するものではないと思っています。

――次回は伝統知をAIによって継承する社会的インパクトについて、さらにお話を伺っていきます。

熊谷 誠慈
京都大学 人と社会の未来研究院 副院長・部門長・教授

仏教学・宗教情報学を専門とする研究者。仏教経典を中心とした宗教テキストのデジタル化やAIを活用した分析、情報技術との融合による新たな宗教の可能性を探求している。近年は生成AIを活用し、仏教経典に基づいて質問に答える「ブッダボット」の開発をリード。宗教知と先端テクノロジーの架け橋となり、人と社会の未来に新たな視点を提供する研究を推進している。

影広 達彦
日立製作所 研究開発グループ
Digital Innovation R&D先端AIイノベーションセンタ主管研究長

1994年 筑波大学大学院理工学研究科修士課程修了後、日立製作所入社。2005年 University of Surrey にて客員研究員。その後、中央研究所にて、映像監視システム、産業向けメディア処理技術の研究開発を取り纏め、2015年から社会イノベーション協創統括本部にて、ヒューマノイドロボットEMIEWの事業化に携わる。2017年にメディア知能処理研究部長、2020年人工知能イノベーションセンタ長 兼 Lumada Data Science Lab. ラボ長。2022年より現職。筑波大学大学院博士課程客員准教授、一般社団法人日本デジタル空間経済連盟理事、電子情報通信学会 情報・システムソサエティ副会長。博士（工学）。