AIを知ることは人間を知ること

「何でもできる魔法の杖」ではない

【幸田】　藤本さんの『AIにできること、できないこと』では、AIの根本的な疑問について、一般の方向けにわかりやすく解説されています。

【藤本】　AIが世間で耳目を集めるなかで誤解されている部分も感じており、正しく理解してもらいたい、という気持ちがありました。

そもそもAIは、最近急に出てきた概念ではなく、数10年前から長らく研究されてきました。

1956年にアメリカのダートマス大学で、コンピュータ学者のジョン・マッカーシーを中心に行なわれた会議において、「AI（Artificial Intelligence）」という言葉が使われたのが始まりです。

それから1960年代までは「第1次AIブーム」と呼ばれ、ブームと冬の時代を繰り返しながら、現在の「第3次AIブーム」に至ります。

【幸田】　何回かの波を経て、いまのブームがあるわけですね。AIというとロボットのイメージをもつ人が多いと思いますが、本来、技術のことを指す言葉ですよね。

【藤本】　はい。AIを定義するなら、「人間が行なう知的作業を代わりにコンピュータにさせる技術」でしょうか。

拙著では、曖昧なイメージで理解されてしまっているAIの「知性」の実態を捉えやすくするために、4つの要素に分けています。

1つ目は、解決すべき課題を見つける「動機」。いま置かれた状況で何が足りないのか、何をすべきかを定める力です。

2つ目は、何が正解かを定める「目標設計」。たとえば「よりよい仕事に就く」という課題が決まっても、業務内容の改善なのか、給与が上がればいいのかなど、どうすれば自分が満足するのかを決める力です。

3つ目は、課題を解くうえで検討すべき要素を絞る「思考集中」。たとえば、給与が上がる仕事に転職することを目標に定めたなら、資格を取得するなど、必要となる選択肢を選定していく力です。

4つ目は、正解へとつながる要素を見つける「発見」。給与を上げるという目標達成に必要な選択肢を絞ったら、あとはそこから転職サイトに登録するなど、試行錯誤しながら課題解決に向かう力です。

これら4つのうち、AIは最後の「発見」以外はあまり実現できていません。とりわけ「動機」や「目標設計」のように、自ら課題を設定する能力に欠けている。

【幸田】　最初の「AIに何をさせたいか」の部分は、いまも人間がAIに教えている段階です。一方人間は、自分にはどういう課題があって、そのために何をすればいいかを、当たり前のように思考し、行動している。

私は『人工知能』で、自動運転技術において人間が「人工知能を洗脳する」という犯罪を描きました。

AIは多分野に活用できる有意義なテクノロジーである一方、あくまで人が教えたようにしか動いてくれない。使う側の人間が邪だと、私たちが望まない行動に出てしまう危険性がある。

AIに対しては、過剰に期待しても過小に評価してもいけないと思いますが、まだ世間で正しく理解されていないのではないでしょうか。

【藤本】　そうですね。昨今の風潮を見ていると、AIが「何でもできる魔法の杖」のように捉えられている気がします。データさえ集めればあとはAIにお任せ、と思われている。

われわれの会社では、課題やお客さまのニーズに合わせて、データやアルゴリズムにさまざまな調整をかけています。AIが勝手に気を利かせてはくれませんからね。

【幸田】　そうすると、初期のデータとしてAIに何を教え込むかが鍵になってきますね。

IBMの「ワトソン」の開発者にも取材でお世話になりましたが、専門家のあいだでもデータのバイアス（偏り）がこれからの課題になっていると。

私が作中に書いたようにデータの収集・インプット次第で、AIの功罪が分かれてしまう。

【藤本】　おっしゃるとおり、データを集める段階がいちばんの肝です。スタート位置が間違っていても、AIはそれをよしとして学習を進めてしまいます。途中で「何かおかしい」と気付くレベルにはまだ程遠い状況です。

「動機」や「目標設計」の部分は、当面は人間が責任をもって管理すべきでしょう。