伊人直播app

Research Results 研究成果

画像识别础滨の误识别リスクを効果的?効率的に低减する技术を开発

~自动运転システムにおける安全性ベンチマークにて効果を検証~ 2023.03.17
研究成果Technology

概要

 情報?システム研究機構 国?情報学研究所のアーキテクチャ科学研究系 准教授 ?川冬樹らの研究チームは、九州?学?学院 システム情報科学研究院 情報知能?学部? 准教授 ? 雷らの研究チームとともに、画像識別AI の誤識別に対するリスクを効果的?効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構の未来社会創造事業Engineerable AI プロジェクト(*1)(通称eAI プロジェクト、研究開発代表者?NII アーキテクチャ科学研究系 准教授 ?川 冬樹)によるものです。
深層ニューラルネットワーク(以下DNN: Deep Neural Network)では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下(デグレ)を発?させる問題があります。
 本プロジェクトでは、役割の異なる複数のDNN 修正技術を組み合わせ、画像識別?DNN を狙い通りに修正する研究開発を進めてきました。具体的には、様々な誤識別を分類し、タイプごとの原因と修正?法を発?する技術(NII)、パラメーター修正と誤識別改善の履歴情報を利?することで修正による低下を抑制する技術(NII)、パラメーター値だけでなくDNN の基本構造?体も修正する技術(九?)などに取り組んできました。
 ?動運転AI 向けの実験では、?動?企業などを交えて定めた安全性ベンチマークで評価を?い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的?効率的にリスクを低減できることを確認しました。
 今后、开発した修正技术をフレームワークとして统合するとともに、?动运転のあり?に関するビジョンやポリシー、??データの特性など公司ごとに异なるニーズに応じた产业実証に取り组んでいきます。
 NII、九?の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議ICST 2023(*2)で2023 年4 ?(アイルランド時間)、ソフトウェア解析に関するフラッグシップ国際会議SANER 2023(*3)で2023 年3 ?23 ?(マカオ時間)、ソフトウェア?学に関するフラッグシップ雑誌TOSEM(*4)で2023年内に発表されます。

修正パラメーター探索とリスクレベルを踏まえた统合の仕组み

论文情报

【论?タイトルと着者(狈滨滨)】
タイトル? Distributed Repair of Deep Neural Networks
著 者? Davide Li Calsi, Matias Duran, Xiao-Yi Zhang, Paolo Arcaini, Fuyuki Ishikawa
発表会議? The 16th IEEE International Conference on Software Testing, Verification and Validation (ICST 2023)
発 表 ?? 2023 年4 ?16?20 ?(調整中) ?頭発表予定(アイルランド時間)

【论?タイトルと着者(九?)】
タイトル? ArchRepair: Block-Level Architecture-Oriented Repairing for Deep Neural Networks
著 者? Hua Qi, Zhijie Wang, Qing Guo, Jianlang Chen, Felix Juefei-Xu, Fuyuan Zhang,Lei Ma, Jianjun Zhao
掲 載 誌? ACM Transactions on Software Engineering and Methodology (TOSEM)
発 表 ?? 2023 年予定

【论?タイトルと着者(狈滨滨、富?通)】
タイトル? An Experience Report on Regression-Free Repair of Deep Neural Network Model
著 者? Takao Nakagawa, Susumu Tokumoto, Shogo Tokui, Fuyuki Ishikawa
発表会議? The 30th IEEE International Conference on Software Analysis, Evolution and Reengineering (SANER 2023, Industry Track)
発 表 ?? 2023 年3 ?23 ?(?)?頭発表予定(マカオ時間)

研究に関するお问い合わせ先


システム情報学研究院 馬 雷 准教授