編集部ピックアップ

あなたはAIを信用できますか? AIが出した結果の根拠を説明する技術

国際的な総合科学ジャーナル“Nature”に掲載

日々の暮らしの中にもAIの活用が急速に進んでいます。現在、普及しているAI技術の多くは、様々なデータを学習させることで、新しい要素や事象について判断することができます。しかし、その判断は右脳のような直感的なものであり、なぜその結論にたどり着いたのかという根拠の説明はできずブラックボックス化しています。富士通研究所ではこの問題を解決するために2つのAI技術を融合させ、より複雑な問題解決をサポートする仕組みを開発しました。

AIスピーカー、自動運転、医療・・・ますます広がるAI活用で重要なこと

現在、AIは人々の日々の暮らしの中に浸透してきています。例えば、2017年に相次いで発売された「AIスピーカー」は、スピーカーに内蔵されたマイクで集めた音声データをクラウド上のAIで認識し、構文を検索・処理して内容を理解し、適切な回答を音声で出力するものです。音声解析や揺らぎの多い構文解析にAIが活用されています。

自動運転車も高速な画像処理によって、前方の物体を識別したり、そのままの状態で進むと衝突するといった判断をして、速度を落としたり、進行方向を変えたりしています。

しかし、非常に重要な事項の決定もAIの判断任せで良いのでしょうか? 例えば、お医者さんに診察してもらう場合、問診を含めた検査を行い、その検査データから病気の原因になっているものを判断します。この場合「あなたは〇〇だから××という病気で、原因は□□にあるでしょう。その治療方法として適切なものは△△です」と言われれば納得しやすいですね。もし納得できない場合には、お医者さんに過去の経験、論文や治癒情報などを元にした論理的説明を求めるでしょう。

このことは、仮に「医療AI」が登場しても同じです。AIから根拠も示されずに「あなたには△△という治療方法が適切です」と説明されても納得しにくいと思います。

機械学習や深層学習(ディープラーニング)は回答の根拠が説明できない場合も

AI技術と呼ばれている中でも現在、特に注目されているのが「機械学習」と「深層学習(ディープラーニング)」です。

「機械学習」は大量のデータを使用して学習することで、未知のデータを入力した際にも答えを出す仕組みです。答えの分かっているデータを多数利用して、それらを組み合わせることで最適な判断をして結果を出していきます。

「深層学習」は人間の脳の生物学的な仕組みから着想を得たニューラルネットワークと呼ばれるシンプルな役割を持たせたモデルを複数組み合わせ、それらに優先順位をつけながら関連性を探って答えを導き出していきます。2012年に深層学習を使用した画像認識が成功したことをきっかけに世界各国での注目が高まりました。

機械学習や深層学習は学習データに基いて別の新しいデータでも結果を出せるため、今までの知識や経験をベースに新たな問題に対応できる「右脳」のようなヒラメキの仕組みと言えますが、導き出される回答は直感的で、なぜそのような結論になったのか説明がきちんとできないケースがあるのです。

「なぜそうなったのか?」を説明する2つのAI技術

AI技術が社会で広く使われるためにはその「判断根拠」を示す論理的説明を行う仕組みが必要です。富士通はその解決策として「Deep Tensor(ディープテンソル)」と「ナレッジグラフ」という2つのAI技術を組み合わせた方法を開発しました。

「Deep Tensor」は先に説明した深層学習の仕組みに加えてテンソルという表現を用いることで学習を効果的にするものです。
また、推定した「結果」と共に結果を導き出すための「理由」も抽出します。例えばある1日の通信ログから「何らかのサイバー攻撃があった」という結論を出した場合、ログのどこを見て攻撃と判断したのか(IPアドレスやポート番号)という推定因子、すなわち「理由」を提示するものです。

さらに「ナレッジグラフ」は膨大なWeb情報や論文などのデータを半自動的に集積し、関連性に基づいて整理したデータベースで、理由(推定因子)を入力することで、推定した結果の「根拠」となりそうなデータを導き出してくれます。

この2つのAI技術を組み合わせることによって、AIが導き出した推定結果も、専門家が「理由」と「根拠」を明確に確認できるようになります。さらに専門家が検討した結果をナレッジグラフにフィードバックすることで、学習効果を高め推定結果の精度を上げることにつなげられるようになります。

AIが専門家の負荷を軽減。がんのゲノム医療判断期間を2週間から1日に

この「根拠」を説明できるAIを適用した一例として、がん治療の一つであるゲノム医療が挙げられます。一言でがんと言っても症状や治療方法は様々です。がん治療薬を使用する場合、従来は医師が患者の容態を見ながら薬や投与量を変えていました。

最新のゲノム医療は、患者のがん細胞の原因となった遺伝子欠陥を調べ、その遺伝子欠陥が引き起こすがん細胞に対応する治療薬を使います。つまり、患者のがん細胞に的確に作用する治療薬が使えます。ただし、現在のゲノム医療の診断は保険適用外で多額の負担がかかる上、まだすべてのがんの原因を調べることができない、遺伝子異常によっては的確な治療薬がまだ存在しない、未承認薬で利用できないという難点もあります。

現在のゲノム医療は、まず患者の正常細胞とがん細胞の遺伝子を次世代シーケンサーで解析し、次に医療チームが得られた遺伝子データから原因遺伝子を特定して、推奨治療方法を決めています。医療チームが検討を行うため、遺伝子解析が終わってから少なくても2週間の検討期間が必要なため、費用と時間の問題を解決しなければ、メリットのあるゲノム医療が広く普及することは難しいでしょう。

そこで富士通は今回の「理由の説明ができるAI技術」を使ったゲノム医療に取り組みました。Deep Tensorに18万件の疾患系変異データを使用した学習を行い、ナレッジグラフに1700万件の医療論文などから100億を超える知識を組み込みました。このシステムに遺伝子変異データを入力する事で、患者のがんの原因となる推定因子を「Deep Tensor」が見つけ出し、導き出された結果の医学的根拠を「ナレッジグラフ」によって取得します。得られた推定ロジックの流れを専門医師が再チェックすることで、分析からレポート提出までの期間はわずか1日と大きく短縮できるようになりました。

医療チームとはいえ膨大な論文の趣旨をすべて暗記することは困難ですが、AIを活用することでゲノム医療において過去の知見を網羅した推定が可能になります。

このように、AIの導き出した推定結果の根拠を説明する富士通のAI技術の登場は、専門家チームが長い時間をかけていた作業をサポートし、期間の短縮に加え、負担を大きく軽減することができるでしょう。

富士通では現在、この技術をヘルスケア、金融、コーポレートの三分野で進める方向で考えています。また、今後は富士通のAI[FUJITSU Human Centric AI Zinrai]のメニューとして、専門家の判断を支える技術として提供することを予定しています。