[Vol.3] 人間と生成AIのたのしい未来像│AI時代のリアルとバーチャルの境界

[Vol.1] リアルな世界での「創造」とソフトウェアエンジニアリング
[Vol.2] 生成AIの時代に育むソフトウェア開発の力
[Vol.3] 人間と生成AIのたのしい未来像

AIがAIを学習する先に何があるのか

小川：
ここ数年の大規模言語モデルをはじめとする生成AIやAIエージェントの進歩はめざましいものがあります。私もソフトウェア開発に生成AIを活用する研究開発を推進しています。簡単なアプリケーションであればAIに任せきりで制作できるようになってきました。水野先生はこれらのAI技術の進歩をどう見ていますか？

水野さん：
現状については肯定的です。過去のコードをもとに妥当な提案をしてくれて、実際に開発の助けになっているのは間違いありません。ただ、その先は少し不安があります。AIが書いたコードをAIが学習し続ける循環が進むことが本当に良いのかは、まだ分からないですね。

小川：
人間が書いて公開されているコードはすべて学習されており、生成AIが書いたコードを学習しはじめたために精度が下がったという報告も過去にあったかと思います。最近はWeb検索の結果にも、生成AIが書いたテキストが表示されます。生成AIが書いた文章が世界に溢れています。

水野さん：
そうなんです。Wikipediaの編集が減っているという話もありますし、人間が一次情報を管理しなくなっているのは気になります。

小川：
一方で「AIが全部作ってくれるなら、人間は内容を分からなくてもいい」という極論も出てきます。本当にそれで良いのでしょうか？

水野さん：
本当にそこまで行くなら、それもひとつかもしれません。ただ、いまの生成AIはまだ嘘も多い。込み入った状況を説明すると、自信満々に間違った答えを出してくることもあります。一方で、学生が生成AIに任せきりで作ったツールが驚くほどよくできているのを見ると、正直焦ることもありますね。

バグ？仕様？AIの作るバグをどう捉えるか

水野さん：
もう一つ気になるのは「生成AIが作ったバグは、いったい誰にとってのバグなんだろう？」という点です。そもそもソフトウェアは概念です。個人やチームが「こう動くはずだ」というイメージを共有して、それを実装したものがソフトウェアになる。基になっている概念と実装のズレが、いわゆるバグです。しかし、概念が明確でないままAIにソフトウェアを作らせた場合、人間が考えたものとAIに作らせた結果がずれていた場合はバグと言えるのでしょうか？

小川：
いまのコーディングエージェントは、人間がかなり漠然とした要求を与えても仕様を策定して実装してしまいます。それが人間の意図と異なる場合、作りたい概念をそもそも持っていなかったのに、それはバグなのか。人間が作る場合でも、使用する側にとってはバグと感じても、作り手からしたら「仕様です」ということもありますね。

水野さん：
そうなんです。AIが「これは仕様です」と言い張ったとき、人間はそれを覆せるのでしょうか。AIは一度信じたことを案外強く信じ続けるので、全然翻意してくれない場合もあります。人間が何を作っているのか理解した上でAIを使っている間はまだ大丈夫だと思いますが、それが分からなくなってくると、かなり危ういと思います。

AI時代の教育を考える

小川：
生成AIがこれだけ普及しているいま、新入社員に何をどう教えるべきか、正直悩ましいです。今後は「コーディングは生成AIがやってくれるから、人間の役割は何を作るかを考えることだ」という話があります。私も講演などで同じことを言っていますし、ソフトウェア開発の価値は「作ること」から、「作ったもので何ができるようなるのか」に移っていくと考えています。だからと言って、コーディングを全く知らなくて良いのか。また、教育としてコーディングの課題を出しても生成AIで回答してしまっては意味がありません。でも、いまの時代にAIを使うなという教育も違う気がします。

水野さん：
難しいですよね。うちでは、生成AIが出てくる前からマイナーなマイコンを使った実習を行なっています。マイナーなので、Web検索しても生成AIを使っても情報が出てきません。先日も、学生が「AIにコード補完を頼んだけれど、嘘っぽいコードがいっぱい出てくる」と愚痴を言っていました（笑）。「嘘っぽい」と判断できていることには救いがありますね。実習を立ち上げるまでは大変でしたけど、これはやって良かったなと思っています。そう考えると、今後は、教育用に独自のプログラム言語を使ってみてもいいのかもしれません。あるいは、久々にPascalやPL/Iを使ってみるのはどうでしょうか。

※Pascal：1970年代初頭にスイスの計算機科学者ニクラウス・ヴィルトによって設計されたプログラミング言語。構文が読みやすく、教育用言語として長年親しまれた。
※PL/I：1960年代に設計されたデータ処理を中心とした言語で、商業用に多用された。

小川：
Pascalは遠い昔に大学で習いましたね。確かにインターネットにはあまり情報がないかもしれません。物事の本質を教育するために、生成AIという最強のカンニングペーパーが通用しない昔の世界をあえて作ってみるという方法は面白そうです。まさに温故知新。

水野さん：
古い情報学の本には、インターネットにはない情報も多いです。道具は変遷しても、本質的な部分は、実は90年代ぐらいからあまり変わってない気がするんですよね。たとえばMacintosh時代の古いMacを初めて見る学生に触らせても、なんとなく操作できてしまう。ただ、アプリはウェブ誕生前のものなので、情報を得るためにはやはり本や一次資料が必要になります。

小川：
80年代まではコンピューターも変化してきましたが、90年代くらいからは比較的連続性がありますよね。ソフトウェア開発のパラダイムも大きく変化していますが、根本的なところで変わらない原理もあります。

プログラミング教育で学んでほしいことは、特定の言語でプログラミングができるスキルではなく、ソフトウェアに共通する根本原理です。それを理解していれば、異なるプログラミング言語で書かれたコードも比較的容易に使えるし、生成AIに対しても標準的な言葉を使って適切に指示を出すことができます。逆に本質的な理解がなければ、生成AIが自分の知らない実装をすると、もう理解できなくなってしまいます。これは危険な状態ですね。

一方で、新しい技術も登場し続けています。最新の研究についても一次情報の取得は重要だと思いますが、生成AIによる変化はあるでしょうか。

水野さん：
いま、僕の研究室では、論文をランダムに選び、要約してチャットアプリに流すボットを走らせていますが、意外と好評です。ランダムなので、僕が自分では選ばないものが混ざってくるのもいいんですよね。このように生成AIを提案型として活用するのも面白いです。

AIの振る舞いの最適解は？

水野さん：
ソフトウェア開発で言うなら、たとえばこちらが何も頼まなくても、裏側でそっとコードを見続けてくれている存在がいてもいいと思うんです。作業の邪魔はしないけれど、ふとしたタイミングで問題点を指摘してくれるような。いまの生成AIは、基本的に「聞かれたら答える」存在ですが、こちらの思考に割り込んでくるような振る舞いも、実はかなり重要なんじゃないかと思っています。

小川：
あくあたんも、まさにそうでしたよね。頼んでもいないのに、突然リプライを飛ばしてきたりして。ああいうところで人間らしさを感じていた気がします。最近の生成AIは精度が評価指標になっていて、いかに正しい情報を回答できるか、が重視されています。効率や正解だけを求めると、生成AIの回答はどんどん無難になっていきます。間違えないようにするし、くだらないことも言いません。それは良いことではあるのですが、チャットAIの最初の頃にあった偶発的な面白さや、思考に引っかかることは消えてしまいましたね。

水野さん：
あくあたんは、ほぼ偶発性だけでできてましたからね。たまにまともなことを言う、そのギャップが良かったですね。

小川：
デジタルテレビのソフトウェアの研究をしていた頃、視聴履歴を学習して「おすすめ」を出す研究をしていた同僚が、たまにあえて違うものを混ぜることが大事だと話していました。同じ傾向の番組ばかりだと飽きるし、世界が狭くなる。だから意図的にずらすんだと。その揺らぎの中に、人間は新しい気付きを得るんですよね。これは、いまAIを利用するリスクとして取り上げられる、エコーチェンバーやフィルダーバブルなどの話にも通じると思っています。

※エコーチェンバー：SNSなどで自分と同じ意見を持つ人たちが集まる空間で、同じ考えが反響して強化されていく現象
※フィルターバブル：検索や推薦のアルゴリズムがユーザの好みに合わせて情報を選別するため、偏った情報だけがユーザに届く状態

水野さん：
僕があくあたんを作っていたときも同じことを考えていました。定型文だけでなく、挨拶もあれば、意味のないことを喋ったりもする。それがちょうどよく混ざると、チャットボットでも生成AIでも人間味が出てくる気がするんですよね。

あくあたんを動かすときも、「たまに外せ」「挨拶はいらない」みたいな指示をかなり細かく入れていました。自然にするためにたくさん指示を出すって、よく考えると不思議なんですけどね。

小川：
ルールに縛られないために、ルールを与えていると。

「楽しさ」を決めるのは人間の役割

水野さん：
とはいえ、世の中全体が面白いことを求めているのか、それともただ正確で機械的な応答を求めているのか、よく分かりません。でもやっぱり僕は楽しくしたいんですよ。生成AIを使うことで、少しでも場が和んだり、使う人がハッピーになったりするなら、その方向は追求したいんです。そもそも人間っていいかげんじゃないですか。ちゃんとしろって言われたら「ちゃんとやってます」って言いたくなるし、放っておかれたら「ちゃんと見てください」って言いたくなる。どっちやねん、って話ですよね。

小川：
ちゃんとしろと言ったり、おかしなことを楽しんだり、AIからしたら人間は相当ややこしい存在ですよね。

水野さん：
「ちゃんと信念を持ってください」とかAIに言われるんでしょうね（笑）。でも、ここから先、効率を重視して面白さがどんどん削ぎ落とされていくと、行き着く先はやっぱりあまり面白くない世界になる気がするんですよね。「じゃあ、AIを使って作業が早く終わった分どうするのか」ということを考えていきたいんです。そうなるとやはり、人間はご褒美がないと動かない生き物ですから。そこをちゃんと設計しないといけないと思います。

小川：
結局、楽しいかどうかを決めるのは人間なんですよね。AIに「これ楽しいでしょ？」って言われるのは、ちょっと嫌ですし。楽しいかどうかを決める役割まではAIに渡してはいけないですね。AIを使うことで効率が上がったりコストが下がるだけではなくて、楽しさが増すことを考えていきたいですね。

水野さん：
AIがいろんなことをやる時代だからこそ、新しいネタを入れる役割は人間が担いたいですよね。同じ輪の中を回り続けないために、ときどき誰かが外から揺さぶることが、楽しさにつながっていくんだと思います。楽しいソフトウェア開発をめざしていきましょう。

水野 修
京都工芸繊維大学教授

大阪大学にて博士号を取得後、大阪大学基礎工学研究科助手、助教を経て2009年より京都工芸繊維大学准教授。2017年1月より同教授、現在に至る。
電子情報通信学会、情報処理学会、IEEE Computer Societyに所属

小川 秀人
日立製作所 研究開発グループ システムイノベーションセンタ 主管研究長

博士(情報科学)。ソフトウェア工学の研究および実務応用に従事。北陸先端科学技術大学院大学 産官学連携客員教授、東京大学非常勤講師などを兼務。AIプロダクト品質保証コンソーシアム運営副委員長、機械学習品質マネジメント検討委員会委員などAIの品質に関する活動にも参画。共著書に「ソフトウェアテストのセオリー」「実践AIエージェントの教科書」「生成AIによるソフトウェア開発」など。

[Vol.1] リアルな世界での「創造」とソフトウェアエンジニアリング
[Vol.2] 生成AIの時代に育むソフトウェア開発の力
[Vol.3] 人間と生成AIのたのしい未来像