Research Results 研究成果
概要
情報?システム研究機構 国?情報学研究所のアーキテクチャ科学研究系 准教授 ?川冬樹らの研究チームは、九州?学?学院 システム情報科学研究院 情報知能?学部? 准教授 ? 雷らの研究チームとともに、画像識別AI の誤識別に対するリスクを効果的?効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構の未来社会創造事業Engineerable AI プロジェクト(*1)(通称eAI プロジェクト、研究開発代表者?NII アーキテクチャ科学研究系 准教授 ?川 冬樹)によるものです。
深層ニューラルネットワーク(以下DNN: Deep Neural Network)では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下(デグレ)を発?させる問題があります。
本プロジェクトでは、役割の異なる複数のDNN 修正技術を組み合わせ、画像識別?DNN を狙い通りに修正する研究開発を進めてきました。具体的には、様々な誤識別を分類し、タイプごとの原因と修正?法を発?する技術(NII)、パラメーター修正と誤識別改善の履歴情報を利?することで修正による低下を抑制する技術(NII)、パラメーター値だけでなくDNN の基本構造?体も修正する技術(九?)などに取り組んできました。
?動運転AI 向けの実験では、?動?企業などを交えて定めた安全性ベンチマークで評価を?い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的?効率的にリスクを低減できることを確認しました。
今后、开発した修正技术をフレームワークとして统合するとともに、?动运転のあり?に関するビジョンやポリシー、??データの特性など公司ごとに异なるニーズに応じた产业実証に取り组んでいきます。
NII、九?の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議ICST 2023(*2)で2023 年4 ?(アイルランド時間)、ソフトウェア解析に関するフラッグシップ国際会議SANER 2023(*3)で2023 年3 ?23 ?(マカオ時間)、ソフトウェア?学に関するフラッグシップ雑誌TOSEM(*4)で2023年内に発表されます。
修正パラメーター探索とリスクレベルを踏まえた统合の仕组み
论文情报
【论?タイトルと着者(狈滨滨)】
タイトル? Distributed Repair of Deep Neural Networks
著 者? Davide Li Calsi, Matias Duran, Xiao-Yi Zhang, Paolo Arcaini, Fuyuki Ishikawa
発表会議? The 16th IEEE International Conference on Software Testing, Verification and Validation (ICST 2023)
発 表 ?? 2023 年4 ?16?20 ?(調整中) ?頭発表予定(アイルランド時間)
【论?タイトルと着者(九?)】
タイトル? ArchRepair: Block-Level Architecture-Oriented Repairing for Deep Neural Networks
著 者? Hua Qi, Zhijie Wang, Qing Guo, Jianlang Chen, Felix Juefei-Xu, Fuyuan Zhang,Lei Ma, Jianjun Zhao
掲 載 誌? ACM Transactions on Software Engineering and Methodology (TOSEM)
発 表 ?? 2023 年予定
【论?タイトルと着者(狈滨滨、富?通)】
タイトル? An Experience Report on Regression-Free Repair of Deep Neural Network Model
著 者? Takao Nakagawa, Susumu Tokumoto, Shogo Tokui, Fuyuki Ishikawa
発表会議? The 30th IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER 2023, Industry Track)
発 表 ?? 2023 年3 ?23 ?(?)?頭発表予定(マカオ時間)
研究に関するお问い合わせ先
システム情報学研究院 馬 雷 准教授