2022-04-18
説明可能な人工知能（eXplainable AI : XAI）とは、ディープラーニングなどを含む機械学習アルゴリズムで構築されたAIモデルが出力する推論結果を、ヒトが論理的に理解することができ、信頼できるようにするための一連のプロセスと手法の総称です。
これまでブラックボックス(上図・左側)とされてきたこれらの推論結果を説明可能にすることで、AIを活用した意思決定における公平性、透明性、信頼性を飛躍的に向上させることができます(上図・右側)。ゆえに、医療業界や金融業界、モビリティ業界を筆頭に「説明可能なAI」への注目が集まっています。
防犯業界では、長らくロシア政府機関が開発した「ヒトの精神状態を振動で判断し、不審人物を検知する」ソフトウェアが、オリンピックや国際的な首脳会議で利用されてきました。無論、一定の成果があれば全く問題ないのですが、推論結果の根拠が不透明ゆえ、評価も難しい製品だと聞いています。
一方、我々アジラは防犯プロダクトの説明責任と、そのビジネス価値について施設運営者視点で熟考を重ねた結果、2022年1月末に施設向けAI警備システム「アジラ」を市場に投入しました。以来、2ヶ月で16社が導入し、アジラによってAI化したカメラ台数は70台に上ります。
このAIプロダクトは既存の防犯カメラシステムに付加することで、録画するだけと揶揄されていた設備をAI化「AIの眼」にすることができ、異常行動や不審行動を瞬時に検知・判別することで、犯罪の未然防止や、緊急・救急要請の迅速化に繋げることができるため、施設オーナー様、施設管理者様、社会インフラを運営する皆さまから好評を頂いております。
本プロダクトには元警察の齋藤顧問の協力※1により、職務質問のプロセスを論理的に組み込んでおり、異常行動や違和感行動の推論結果に対し「理由は◯◯で◯◯かつ、◯◯だからだ」と説明することが可能です。AI自ら結論を導き出すプロセスを明らかにすることで説明責任を果たすことが可能になります。当機能は、製品の品質レベル向上のために内部的に活用されていますが、XAIレポート機能(仮称)として本年中に実装される予定です。
いまEUが法整備を進めている「人工知能法」にもAIの説明義務が盛り込まれる可能性が高いとされており、国内でも総務省や内閣府によってAI利活用に関する指針が打ち出されています。これらの動きはXAIの必要性を示唆するものだと考えられ、今後はXAIが義務付けられていく可能性があります。
また、GoogleのAI研究者 Been Kim氏は "I view interpretability as ultimately enabling a conversation between machines and humans"※4 「人類と機械の共生に、XAI※5は必要不可欠」と述べています。我々アジラはこの言葉に賛同し、XAIによって人とAIが効率的に協業が可能となることで、高いビジネス価値を創出できるという考えのもと、引き続きXAIの可能性を追求していきます。
*1) AI警備システムの強化に向け、元埼玉県警の齋藤顕氏が顧問に就任
*2) 総務省「AI利活用原則案」
*3) 内閣府「人間中心のAI社会原則」
*4) REUTERS「AI is explaining itself to humans. And it's paying off」
*5) 正確には解釈可能性(Interpretability)
会社名：株式会社アジラ
事業内容：・施設向けAI警備システム「アジラ」開発と販売・行動認識AIソリューションの提供
設立：2015年6月1日
従業員数：68名(2022年3月末, 連結)
代表者：代表取締役 木村 大介資本金：56,125千円
所在地：東京都町田市中町一丁目４－２
特許取得数：10件（国内8件、国外2件）
受賞歴：
・ASCII STARTUP『IoT H/W BIZ DAY Product Pitch 2021』防災テック賞
・X-PITCH 2021 Best Startup of Public Service / Healthcare
・不動産テックピッチコンテスト2021 3位入賞・docomo 5G DX AWARDS 2021 準優秀賞
・MAKE IN VIET NAM2020 優勝
・Plug and Play Japan Summer/Fall 2019 EXPO Domestic Winner受賞
