AIの脱ブラックボックス化を目指す、大手ゲーム会社前社長マイク・キャップス氏

元エピック・ゲームズ社長のマイク・キャップス氏は、家族との生活に専念するとして6年前に引退した人物です。しかし、その彼がこのたび、新会社ダイブプレーンの共同設立に関する発表を行いました。同社は、正確でより安全なことはもちろんですが、それが下す判断を容易に再チェック可能なブラックボックスではないAIを実現し、人間のために役立てることを目指しています。

キャップス氏は、フォーチュン・ブレーンストーム・テック・カンファレンスの檀上で、同業のAIスタートアップ・リーダーであるマリッサ・メイヤー氏と話した後、米IT系メディアVentureBeatのインタビューに応じて、「私たちは、AIであっても人間味が感じられるものにしたいのです」と語りました。

ダイブプレーンは、10年にわたってエピックを経営してきたキャップス氏が、2017年秋にクリス・ハザード、マイク・レズニックの両氏と共同で、ノースカロライナ州ローリーに創設した企業です。彼自身の望みは、ブラックボックスではないAIを開発し、ディストピア映画に出てくる人類の利益に反する存在ではなく、人間のためになるような責任ある結果をもたらす応用につなげることだといいます。

同氏によると、ハザード氏とレズニック氏は、防御システムやインテリジェンスの応用に重点を置いたテクノロジーコンサルタント会社を7年前に立ち上げました。世の中には、ある結論に達する理由をユーザー自身で確認できない、ブラックボックス化したAIであふれ返っています。ハザード氏は、こうしたAIの制約からマシンラーニングシステムで繰り返し起こる問題に気付き、これに対応するための大胆な計画を練りました。

現在のAIシステムには、パターンを発見して論理的な結論にたどり着くためのトレーニングを行う必要がありますが、たとえAIが間違った判断を下したとしても、人間にはその理由がわかりません。理由がわからなければ、問題を修正することもできず、悲惨な結果につながるリスクが生じるのです。

Diveplane's technology can be applied in a variety of ways.

上図:ダイブプレーンのテクノロジーはさまざまな用途に応用できます。/ 画像提供:ダイブプレーン

ハザード氏の考えとは、ブラックボックスではないシステムを実現することで、AIが下す判断の理由をユーザーがチェックできるようにするというものでした。そのため、AIのトレーニングを行う方法についても、極めて慎重になる必要がありました。また、このようなシステムは、人間のために意思決定を行うよりも、人間による意思決定をサポートするために利用されるほうが適しているだろうと、キャップス氏は指摘します。

退職後は幸せな専業主夫として暮らしていた同氏でしたが、趣味のテーブルゲームを通じてハザード氏と知り合い、「これまで以上にテクノロジーに依存する社会に対する健全な興奮と心配事」を共有するようになったといいます。と同時に、キャップス氏は、ハザード氏が、心理学、ゲーミング、国防業務、ロボット工学、信託、レピュテーション、プライバシー法など、多様な分野についての幅広い知識を持っていることに気付きました。

「クリスは、私がこれまで一緒に仕事をした中で最も知性にあふれたイノベーターです」とキャップ氏。「彼が、ブラックボックスではないAIテクノロジーを新たに開発していたとは思いもよらず、心底驚きました。そして、多くの人々を助けられる可能性を前にして、退職したまま過ごすわけにはいかないと気付いたのです。」

彼らが会社を設立することに決めたとき、キャップス氏はローリー周辺に住む友人や家族に連絡を取りました。その目的は200万ドルの資金を調達することでしたが、1週間も経たずに350万ドルもの資金が集まったといいます。

上図:ユニティ・テクノロジーズCEOのジョン・リッチチェロ氏(左)と元エピック・ゲームズ社長のマイク・キャップス氏/画像提供:ディーン・タカハシ

「現在のAIシステムについては、不安を感じずにいられません。当社は、世界をより良い場所にするために新たなAIの開発を進めています」とキャップス氏は説明します。

現在、ダイブプレーンはさまざまな業界で10件を超えるパイロットプロジェクトを展開中です。そこには、アメリカで人気のレースイベントであるナスカーのレーシングシミュレーション、医療提供者や保険会社による患者ケアの質の向上プロジェクト、ベンチャーキャピタルの意思決定サポート、農業科学における新発見の手助け、ドローンのトレーニングなどが含まれます。同社の現在の従業員は17人であり、年内にはその数を2倍にする計画です。

ダイブプレーンは、ブラックボックスを人間にもわかるように説明するのではなく、ブラックボックス的なところがないAIの開発に取り組んでいる、とキャップス氏はいいます。それは、監査可能な、つまり人間がすべてを理解し確認できる仕組みを実現するところから始まるものです。その上でダイブプレーンは、トレーニング済みのデータと過去の観測結果に基づいて適切な方向性を探ろうとしています。

「当社は、この問題の解決を求めている人々のために、核となる研究と科学に取り組んでいます」とキャップス氏。「たとえば医療分野ならば、それを承認前手続きに応用します。すると、もしAIが手術を受けなくていいという診断を下した場合に、その理由が、あなたの症状が、手術を受けずに済んだ他の人の症状に似ているためであるというようなことがわかるようになるわけです。これに対して、ブラックボックス型のAIでは、なぜその判断がなされたのかを知ることはできません。」

このような信頼できるAIは、別の分野、たとえばゲーム業界などでも役に立つでしょうか? キャップス氏はそう願っていますが、当面そちらに取り組む予定はないとのことです。

そのわけを、キャップス氏は次のように述べています。「現在のところ、当社のソリューションは人間とのやりとりを想定しているため、企業に重点を置いています。実のところ、私もテレビゲームを愛していますが、今は、都市や、軍事衝突におけるAIの利用法を変革できる環境にいるため、そちらを重視したいのです。このように、世界規模で変化をもたらしていると感じられるのは素晴らしいと感じています。これはテレビゲームの開発とはまったく別次元の話なのです。」

この記事はVentureBeat向けにDean Takahashiが執筆し、NewsCredパブリッシャーネットワークを通じてライセンスされたものです。ライセンスに関するお問い合わせはlegal@newscred.comにお願い致します。