「生成AIが出てきて悩んでいる。今の生成AIは作業の効率化を促進できている場面もあるのだが、人間が賢くなる、成長するという喜びを増幅する存在ではない。なのに、多くの方が両手を上げて賞賛している。効率化だけを求める風潮に危険を感じるのだ⁠」⁠。

こう語るのは日本IBM 東京基礎研究所の自然言語処理技術 主席研究員である金山博氏だ。金山氏は世界を変えたIBM社員の1人と言っても過言ではない。

IBMの認知型テクノロジー「Watson」がクイズ番組『Jeopardy!』で人間のチャンピオン2人を破ったのは2011年2月のことで、これは現在生成AIブームで沸く「第三次AIブーム」の火付け役の1つと私は捉えている。

Watsonの勝利は、機械学習と自然言語処理におけるAIの能力を広く示す出来事であり、一般の人々にもAIの可能性を印象付ける大きなマイルストーンとなった。

この「Watson」に関わった研究チームが見守った『Jeopardy!』の撮影現場に参加した日本人がいる。それが金山氏だ。

エキサイティングな経験を持つ金山氏に、現在の“⁠生成AIブーム⁠”時代に必要な人間の役割について幅広く意見を伺った。ブームに飲み込まれるだけではなく、一歩引いて世の中を見る研究者の視点を、AIとともに生きる時代の読者諸君にも味わってもらいたい。

打倒！人間のチャンピオンで始まった『Jeopardy!』プロジェクト

金山氏は2000年日本IBM 東京基礎研究所 に入社し、現在まで自然言語処理を中心に研究してきている。2008年、その研究成果に白羽の矢が当たり米国IBMリサーチで進んでいた『Jeopardy!』プロジェクトに参加する。金山氏はテキストマイニングのエキスパートとして日本を代表し「Watson」プロジェクトに参画した。

Wikipediaの構文解析から回答率向上を目指す

知識を競う『Jeopardy!』で人間のチャンピオンに勝つために彼が担当したのはWikipediaの構文解析を通じた情報抽出。

Wikipediaのタイトルになるものがクイズの答えとして出題されやすい傾向を掴んだ上で、タイトルの説明文を A is B 、男性女性、別名で何というか、など文章構造を機械に認識しやすく分類し、タグ付けをすることにより解答スコアを上げるアプローチを目指す。他の研究員の統計的解析や検索のアルゴリズムと金山氏が担当するWikipedia構文解析のロジックを組み合わせ、回答の候補の重み付けをすることにより人間のチャンピオンを超える回答率を得るべく「Watson」開発に関わった。

金山：「当時の質問応答の技術を試すベンチマークとして『Jeopardy!⁠』⁠ を選んだのはとてもセンスが良かったと思います。クイズ特有の技術というよりは純粋な言語の理解度と知識量を測ることができて、また正解率と速さの両面で人間と比較できるという点で最適でした。

2008年から3ヵ月ごとに、正解率のグラフを見ながら徐々に人間のチャンピオンの域に達成できるようにチューニングをしていくプロセスはチームで作り上げる楽しさがありました。他国のメンバーとも、どのようにアルゴリズムの重みづけをするかアイデアを出し合いながらチャンピオンを目指したのです。

人間が解答できなかったプロセスに注目

人間がクイズを解くときのプロセスに注目し、とくに解答できなかった際になぜ解けなかったのか？を分析し、対応策を考えていくことを積み重ねていったのです。この積み重ねのプロセスは、ロジックの透明性につながります。ですが、この透明性のあるテクノロジの存在が変化してきています。

生成AIが出る前の、2015年ごろから徐々になのですが、学術界では新たな課題のデータを作って正解率を競う、という土台が整ってきました。それ自体は研究の公平性や客観性のために良いことなのですが、新たな技術が生まれるスピードが早まる一方で、ロジックがブラックボックスだったり、どのような問題が解けているのか、解いている問題の質が十分か、といった分析が追いついておらず、『⁠Jeopardy!』への挑戦のときほどの楽しさが見い出しづらくなっている、と感じています⁠」⁠。

知の財産の消費が始まっている？！～ロジックのブラックボックス化がもたらす危険性

第三次AIムーブメントの火付け役を自らの体験として語ることができる金山氏だからこその発言だろう。現在の生成AIムーブメントに対しての警鐘を鳴らす彼は「個人的な意見ですが、私は現在の生成AIの使われ方は好きではないんですよね。」とインタビューの途中でポツリと述べた。研究者たる金山氏と一般の生成AI利用者の温度感の差を感じた瞬間である。私を含む一般の生成AI利用者は「便利になった」「⁠自分の仕事が楽になった」という効率性で生成AIを語るのだが、研究者である金山氏はそうではない。

金山：「今まで丁寧に文章を作ってきた方、一筆一筆に心を込めていて絵を描いてきたほうが積み重ねてきたデータを利用して今の生成AIがある。ある意味石油と一緒で。今まで人類が作り上げていた知と言うものを消費するだけの時代になってきているように危惧します。そして、これからは生成AIが作ったデータが人間の作ったデータに含まれていく。

今のWebのデータに基づく生成AIは、「⁠言葉を理解する能力」と「世界についての知識」がごっちゃになって、それに人々が振り回されています。人間が積み重ねてきた言語というものをもっと突き詰めて、コンピュータが何を理解しているか、学習できるかを試行錯誤しながら考えていく研究も、まだまだ価値があると考えています⁠」⁠。

金山氏の話を聞いていると、金山氏、IBMの研究自体が「人間の成長」を中心において動いているように感じる。

コグニティブ⁠・コンピューティングの意味に含まれていた「evil」な要素

金山：「IBMでは2017年ごろまで『Jeopardy!⁠』⁠ で勝利した「Watson」や、その後のビジネス向けの技術要素としての「Watson」を、AIとは呼んでいませんでした。「⁠Watson」はコグニティブ・コンピューティングである、という表現を使っていました。なぜならばAIには否定的な、evilな（有害な）イメージがあったからです。

『Jeopardy!』で勝つということもコンピュータが人間に置き換わることを示すためではありませんでした。ビジネス上の判断は人間こそがすべきで、IBMの技術は人間を助けること、というメッセージを出してきました。

優良なテキストマイニングの活用をする日本市場

たとえば私がテキストマイニング分野で日本代表として「Watson」の研究に参加しましたが、なぜ日本のテキストマイニングが注目されたかというと、日本のお客様がテキストマイニングをとても上手に活用されてきたからです。

モチベーションある人間が使うと良いテキストマイニングのアルゴリズムが出来上がるのです。お客様を喜ばせたい、事故を減らしたいなどのモチベーションがあるお客様の声があるので、研究者としてどのようなロジックで組めば良いのか？に真剣に取り組める。その積み重ねにより日本のテキストマイニングは世界を代表して「Watson」プロジェクトに声がけされたのです。

コスト削減や効率化、だけではなくモチベーションを持ってテクノロジに取り組んでいるのか？も良いテクノロジを生み出すためには大切なことです。

こういったことを考えながら、現在IBMはビジネス向けのAIプラットフォーム「watsonx」を開発しています。生成やタスク解決の性能などだけでなく、データの収集や管理なども考慮して、新たな発想を生み出せる土台にしていこうとしています⁠」⁠。

人間がテクノロジーと付き合うことの意味

生成AIだけではなく今後もテクノロジは我々の生活を変えていくことだろう。それでは、我々人間は何を持ってテクノロジに臨むべきなのだろうか？

金山：「人間としてもっと何かを知りたいという欲求を常に持っていてほしいと考えています。生成AIが出てきたときに、これからは英語の授業をなくして良いのではないか、という発言を耳にし驚きました。文法やスペルチェックレベルはツールに頼るのは良いと思いますが、実際のコミュニケーションとなると人間の力が必要です。言語を学び、片言でも良いのでコミュニケーションをして通じたときの喜びというのはテクノロジがどれだけ進化しても変わらないものです。

研究者として自然言語を研究するだけではなく、私自身外国語の勉強が趣味であり、学生時代はあえて英語が通じない国にいき現地で実際に生活をしながら言語習得をしたり、今でも韓国語を学び仕事に役立てたりしています。

テクノロジを使えばXXしなくて良くなる、ではなくて、これから出てくるテクノロジーに関しても、自分が賢くなるためにはどのような使い方があるか、という視点でこれから出てくるテクノロジに向き合ってほしいです⁠」⁠。

他者とのコミュニケーションを豊かにする⁠、「人らしさ」を拡張するテクノロジへの期待

人類が賢くあり続けてほしいと語る金山氏に、今後望むテクノロジはどのようなものか？を最後に聞いてみた。

金山：「個人的にどういうテクノロジーが欲しいかと考えてみると、人と楽しく会話をするために、自分の記憶を補助してくれるものが欲しいです。

たとえば自分が一度覚えようとしたけどすぐに思い出せないフランス語の単語とか、前に会った人だけど名前とか話したことを忘れてしまったときとかを、こそっと画面を見たら思い出させてくれるような自分用のデバイスみたいな。もちろん自分のデータは誰にも渡したくないし、脳に電極を挿したりはしたくない。でも自分で単語帳を作ったり日記を書いたりはしてもいい。

完璧な翻訳機とか、Wikipediaの内容を全部暗記する装置とは全然違うんです。むしろ人間の会話でそのような「一般知」だけで話をされてもおもしろくないですし。記憶補助があることにより、よりその人らしさが際立つようなものが欲しいです。

そういうパーソナライズされた知識を扱えるようになってくると、個人として楽しむだけでなく、企業ごとの知識を使った顧客対応とか、ビジネス上の問題が解決できるようになってくるはずなのです。先ほどお伝えしたように、「⁠言葉の能力」と「世界の知識」をうまく分離できると、本当にそれぞれの人が安心して使えるような「AI」になるのかなと思います⁠」⁠。

人間として言語を学び、扱う楽しさを知っている金山氏だからこそ、研究者としても世界と次世代に誇れるプロジェクトにて成果を残すことができたのだろう。

人間としての好奇心を真摯に貫く姿勢こそ、テクノロジの本質に迫れるのではないか？生成AIおよび今後も登場するさまざまなテクノロジに振り回されないためにも、まずは「自分の好き」をしっかりと押さえておくことが、人間がテクノロジと向き合う必要条件であることを実感した取材であった。