ことばがわかるということは

佐藤 雄一

　昨年（2016年）11月、東京大学合格を目指していた人工知能（AI）「東ロボくん」が進路変更を決意しました。

　このプロジェクトは、入試問題への挑戦を通じてAIの可能性を検証する目的で、東大入試を突破することを目標にして始められたものです。「東ロボくん」は、4年間にわたってセンター試験の模試を受け、470以上の大学でA判定（合格率80％以上）を得るまで成績を伸ばしましたが、不得意分野の克服には技術的な限界があり、偏差値70以上は無理だと判断され、東大合格を諦めたのです。

　「東ロボくん」は世界史や数学は得意でしたが、英語や国語が苦手だったようです。多くのデータが蓄積されていれば、世界史の問題に答えることは難しいことではないだろうし、計算もお手の物でしょう。ただ、ことばの意味を理解するのはさすがに難しく、英語の問題でも会話を成立させるような作文問題などは正答率が低かったようです。

　AIの研究が進み、囲碁では世界最強と言われる棋士を破ったり、特殊なタイプの白血病を10分で見抜いたりするようになりました。その一方で、スポーツの審判やホテルの受付係など多くの仕事がAIに奪われるだろうという予測が出されたりすると、人間の未来はどうなるのかと不安になりますが、「東ロボくん」の不得意科目の話を聞くと、やはりことばを自由に操れるのはわれわれ人間だけの特権であり、AIなんかにはそう簡単に負けないだろうという楽観的な気持ちになれます。

　そもそもAIと人間ではことばの「理解」の仕方が異なっています。AIが人と会話ができる（ように感じられる）のは、AIが大量の会話データを蓄積していて、問いかけに近いものを探し出して返答を決定するという方法が用いられているからであり、会話の意味を理解して返答しているわけではないのです。

　問題に答える場合は、求められる解答の種類（人名なのか地名なのかなど）を特定し、情報源の中から質問に含まれる重要なキーワードを検索して、解答のタイプに合わせて答えるという仕組みになっています。ことばの世界だけで完結しており、現実の世界とつながっていないという点で、われわれの理解の仕方とは異なっています。もっとも、人間が歴史上の出来事や年号を暗記して、試験の答案として解答するという作業は、教科書の中の閉じた世界のことであると考えれば、AIの答え方と似ているようにも思えます（このようなAIの仕組みについては『働きたくないイタチと言葉がわかるロボット』^＊１にわかりやすく解説されているので興味のある方は是非ご一読を）。

　いずれにしても、AIは大量の言語データの中から検索して（あるは統計的な処理を行って）答えるという方法をとっており、われわれがことばを理解しながら行っているコミュニケーションとは、根本的に異なっています。

　そんなAIが苦手なのは話し手の意図を推測するとうことです。上記の『働きたくない…』には、AIが「洗濯物を干して」「台所から取り皿を持ってきて」というような命令をされた場合の例について記されています。「洗濯物」の場合は、「そこにある全ての洗濯物」を干すように命令されているのに対して、「取り皿」の場合は、「台所にある全ての取り皿」ではなく「人数分だけ」持ってくることを命令されているのですが、名詞（「洗濯物」「取り皿」）が何を指しているか状況に合わせて判断することがAIには難しいのです。「ケーキが食べたい」という発話が、「希望の表明」なのか「命令」なのか、「これ私がほしかったやつじゃない」という発話が、「事実確認」なのか「否定」なのか、人間なら発話された文脈から話し手の意図を判断することは容易ですが、AIにはこれが難しいようです。

　では、われわれ人間は話し手の意図を正確に理解できているのでしょうか。もちろん、容易に理解できる状況も数多くあり、その点ではAIよりも優れた能力を発揮していると言えそうですが、話し手の意図を正確に判断できない状況も日常的に経験していると思います。「こんな人たち」とは具体的にどんな人たちを指しているのか、いろいろな解釈が可能であり話し手の意図は明確にはわかりません（あえてわからなくしているのかもしれませんが）。話し手に「誤解だ」と言われてしまえば、（「誤解」以外の解釈が不可能であっても）われわれは話し手の意図を正確に理解できなかったと思うしかありません（納得はできませんが）。

　「機械が奪う職業?仕事ランキング」^＊２では、小売店販売員（1位）や一般事務員（3位）、飲食カウンター接客係（6位）などが上位にランクインし、13位には「中央官庁職員などの上級公務員」が入っていました。「中央官庁職員」はちょっと意外でしたが、AIにとって「忖度」は最も苦手なものでしょうから、意外にいい仕事をするかもしれません。将来、AIの暴走が起こるのではないかということが危惧されていますが、人間の発達しすぎたコミュニケーション能力、さまざまなものから意味を読み取ってしまう能力に対して、AIがブレーキをかけるという「共存」の仕方もありでしょうか。これもAIの暴走なのでしょうが…。

　進路を変更した「東ロボくん」の研究成果は、中高生の「読解力」を養う教育分野の研究などに生かされるそうですが、機械に「ことばをわからせる」ようになるにはまだまだイタチごっこが続きそうです。

＊１　川添愛（2017）『働きたくないイタチと言葉がわかるロボット』朝日出版社

＊２『週刊ダイヤモンド』2015年8月22日号。データは、米国の702の職業別に機械化される確率に基づいて算出されたものなので、そのまま日本に置き換えて考えることはできませんが…。

国際学部のホームページはこちらから