AIはなぜその答えを導き出したのか ~根拠を見える化する「説明可能なAI」~

推定に至った「理由」「根拠」を示すディープテンソル+ナレッジグラフ

富士通はディープラーニングをベースとしたAIに関して世界でも最先端の研究に取り組み、豊富な成果を有しています。そして、実用段階にある画像・音声・手書き文字などの認識系のみならず、時系列データや事象の「つながり方」や「関係の特徴」に着目して高精度な学習を行うグラフデータにまでディープラーニングの適用領域を広げています。

そうした中で、富士通は「説明可能なAI」の実用化に向け、独自技術の研究開発を大きく前進させています。

その1つが、「DeepTensor®(ディープテンソル)」ならびに「ナレッジグラフ」という2つの新技術を組み合わせた「人が信頼・理解・管理できるAI」です。

ディープテンソルとは、従来のディープラーニングにテンソル(行列やベクトルなどの概念を一般化した多次元の配列で表現したデータ)という表現を加えて進化させたもので、人やモノのつながりを表すグラフ構造のデータから新たな知見を導き出します。具体的には、ディープラーニングの学習効率を飛躍的に向上するとともに、結果を導き出すまでに至った「理由」も示します。

説明可能なAI:ディープテンソル+ナレッジグラフ

例えばある1日の通信ログデータをAIに読み込ませたところ、「何らかのサイバー攻撃があった」という結論が出た場合、ログのどこを見て攻撃と判断したのか、IPアドレスやポート番号などの推定因子を抽出し、「理由」として提示します。

一方の「ナレッジグラフ」は、学術文献などの様々な情報源から収集した情報を意味付けしてつなぎ合わせたグラフ構造の知識ベースです。

ディープテンソルから導き出された結果とナレッジグラフに蓄積された知識をひもづけることで、推定に至った「理由」と併せて、その裏付けとなる「根拠」を示すことが可能となりました。これにより人間の専門家はAIが導き出した結果が信頼に値するものかどうかを確認するとともに、そこから新たな洞察(気づき)を得ることができます。専門家がAIと協調しながら問題を解決するという、これまでにない形のAI活用が実現されるのです。

膨大な仮説の組み合わせを漏れなく検証するワイドラーニング

ただ、「ディープテンソル+ナレッジグラフ」によるAIも、基本的にはディープラーニングの延長線上の技術であり、大量のデータを用いて学習させなければ精度が上がらない、ひいては信頼性の高い説明ができないという課題があります。

そこで富士通は、十分な学習用データがなくても高い精度で判定できる新たな機械学習技術を開発しました。「WideLearning(ワイドラーニング)」と呼ぶホワイトボックスAIの技術がそれで、従来のディープラーニングのように1つのデータモデルを深掘りして学習を行うのではなく、複数のデータ項目を網羅的に組み合わせて判断することで、データ量が少なくても判定精度を高めることを可能としました。

ワイドラーニングの独自技術

例えば、デジタルマーケティングにおける商品ごとの購入傾向分析にワイドラーニングを適用した場合、「性別」「免許保有」「婚姻」「年齢」などのデータ項目の膨大な組み合わせのパターンを「仮説」とし、実際の商品購入者のデータとどのくらいヒットするか検証します。検証の結果、ヒット率の高い仮説(ナレッジチャンク)を重要な仮説として取り上げ、それらに基づいた購入分類モデルを構築します。顧客が購入するかどうかの判別に用いられたナレッジチャンクは列挙され、そのリストから任意の仮説を選択することで、「年収500万円以上」「1カ月以内に問い合わせがあり」といった中身(=説明)を確認することができます。

ワイドラーニングの活用例

人間とAIが協働する将来を見据え、さらなる研究開発を

こうした「説明可能なAI」は、AIの社会実装の可能性を大きく広げていきます。

「ディープテンソル+ナレッジグラフ」に注目すると、従業員の活動データから健康状態の変化を検知して働き方改革につなげていく「健康経営」、業績や経済指標などのKPIから企業の成長を予測する金融分野の「投資判断」など、すでに多くのミッションクリティカルなビジネスでの実践が始まっています。

例えばゲノム医療の分野では、ディープテンソルに18万件の疾患系の遺伝子変異データを投入した学習を行い、さらにナレッジグラフに1700万件の医療論文などから100億を超える知識を関連付けたAIシステムを構築しました。ここから得られた推定ロジックの流れを専門医師が再チェックすることで、分析からレポート提出までに要する時間を2週間からわずか1日に短縮するという絶大な効果を上げています。

一方のワイドラーニングもまた、従来のディープラーニングとの比較検証において、例えばデジタルマーケティングでは潜在顧客を見逃す確率を10~50%低減、医療判断支援では罹患者や疾患発生部位を見逃す確率を約20~30%低減するという効果を実証しています。

そして今後も、様々な機器や設備の重大障害を検知する予防保守、クレジットカード取引の不正使用の判断、製品故障の予兆検知、セールスプロモーションにおける潜在顧客の発見、商品コンセプトの判断など、特にレアな事象の判断や高い透明性が求められる業務をターゲットとした新たな機械学習のアプローチとして、ワイドラーニングの早期の実用化を促進していく考えです。

実用化が期待されている分野

さらに富士通は、こうした「説明可能なAI」が持つ無限の可能性に引き続き注目し、ユーザー企業における判断や意思決定支援の高度化、人間とAIの協働を含めた次世代のシステムの在り方などを見据えながら、グローバルで最先端を走るAIの研究開発を進めていきます。

富士通のAIビジネスを束ねるグローバルヘッドクォーター
FUJITSU Intelligence Technologyが始動

富士通は、AIビジネスをグローバルに牽引する新会社「FUJITSU Intelligence Technology」をカナダのバンクーバーに設立し、2018年11月1日から事業を開始しました。富士通がこれまで日本を含む世界各地のリージョンごとに実施してきたAIビジネスを束ねる海外で初のヘッドクォーターとなり、AIの関連製品やサービス、データ、知見、ノウハウなどを集約。グローバル展開の戦略策定およびその実行を担っていきます。
具体的には、米国、EMEIA、アジア、オセアニアの各リージョンを、FUJITSU Intelligence Technologyを中核としたグローバルマトリックス体制の下、AIビジネスを推進していきます。シリコンバレーなどがある米国ではなく、なぜ今回カナダをAIビジネスの新たなヘッドクォーターに選んだかは、次のような理由があります。

  1. カナダ政府およびブリティッシュコロンビア州政府は最先端のITを推進する施策を実施し、IT企業誘致に積極的である。
  2. ブリティッシュコロンビア大学やトロント大学などAIや量子分野に強みを持つ大学・研究機関が地域に多数存在し、優秀な人材も豊富である。
  3. 富士通がすでに出資している1QBInformationTechnologiesInc.をはじめ、最先端のITスタートアップ企業が多数起業している。
  4. マイクロソフト、ボーイング、Amazonなど大手企業が進出しており、パートナーや顧客企業と共創するためのビジネス環境が整っている。
  5. ほかの北米の主要都市と比べ、賃貸料や税金、労働費などがリーズナブルであり、企業運営にアドバンテージがある。
  6. 北米は世界のAIビジネスの最大の市場であり、各企業のAI投資額も日本の17倍以上と非常に積極的である。

また、世界標準のスピードに対応するために、世界に通用する「商品開発の戦略企画」、自前主義から脱却した「エコシステムづくり」を2本柱として進めていきます。ビジネス規模としては、2018年度から2022年度までの5年間累計で4000億円を達成することを目指しています。
富士通は、共創×人材×テクノロジーによってデファクト・ソリューションをつくり上げ、ビジネスと研究の両輪を回し、AIビジネスを推進していきます。