RTCAとEUROCAEが共同で、2021年6月23日、24日に開催したInternational Aviation Software Summit 2021に参加しましたので、何回かに分けてその内容を報告したいと思います。今回は第2回としてon-demandセッションの中からAI(Artificial Intelligence)についての2件の発表について紹介します。
EUROCAE WG-114 Machine Learning standard: How to Interface the Existing Software Standards
SPEAKER
- Cristophe Gabreau氏 Airbus
- Corinne Gingins氏 Skyguide
- Darren Cofer氏 Collins Aerospace
- Mark Roboff氏 SkyThread Aero
- Paula Olivio氏 Embraer
内容
一つ目は、SAEとAirbusによるパネルディスカッションでEUROCAE WG-114 Machine Learning standard: How to Interface the Existing Software Standardsというものです。
EUROCAE WG-114とSAE G-34は共同開催の形で航空機におけるArtificial Intelligenceについて議論しているコミッティで、その目的はAI技術に基づいた航空機に関連する製品の開発(development)と認証(certification)/承認(approval)のための最初のスタンダードを作成することです。
最初にEUROCAE WG-114とSAE G-34の取り組みが紹介されました。
その中でMark氏から2020年にEASAが発行したAI Roadmap (https://www.easa.europa.eu/sites/default/files/dfu/EASA-AI-Roadmap-v1.0.pdf) について紹介がありました。そのロードマップでは、2022年の秋には最初のスタンダードを作成し、2025年には最初のmachine learning systemを認証し飛行させる。ただしこれはコマーシャルエアラインではなく、もっと小さくクリティカルではない機能を改善するものではあるが、それがスターティングポイントとなるだろう。その後、10年かけて完成度を高めて2030年にはエアラインのsingle pilot operationを実現し、2035年にはzero pilot operationを実現すると紹介がありました。
日本国内では航空機へのAI搭載はまだ先の話だと思われているかもしれませんが、もうすでにその議論は始まっており、その議論に日本としても乗り遅れないようにしないといけないのではないでしょうか。
続いて、Cristophe氏から現状のガイドラインにAIのプロセスをどのように統合するのかについて話がありました。
その中で興味深かったのは、Existing standardization frameworkとFuture standardization frameworkとの比較いう絵でした。そこには、3つの歯車があり、Existing、Futureともに上位層の歯車にSYSTEMとしてのARP4754A/4761があり、最下位層の歯車にITEMとしてのDO-178Cがあるのですが、Existingの中間層の歯車にDO-331 Model Basedを置いて、Future(この場合はMachine Learning適用)では、その部分がML(Machine Learning)のガイドラインに置き換わっていました。Cristophe氏の話では、MLのテクノロジーはモデルベーススタンダードのanalogyだと紹介していました。
続いて紹介されたMachine learning Development Life CycleにおいてもItemレベルのimplementation processの前にModel Based に代わってMLのプロセスが置かれていました。
さらに、続いてthe Role of Simulation – The Virtual Check-rideという説明でシミュレーションを用いたMLの検証においてもExtend Model Base Engineeringと説明があり、MBDにおけるシミュレーションを意識しているように感じました。
MLのプロセスをMBDプロセスと比較して論じている点が、ある意味納得いく感覚があり、非常に興味深いものがありました。
その後にパネルディスカッションが始まり、MLにとって何が課題かという議論になりました。
そこで挙げられていたのが以下でした。
- Data Assurance
- Explainability
- verification
- Structural coverage metrics (DO-178Cとのギャップの点で)
解決方法としてw-shape modelやformal verification、formal method、Run Time Assuranceが挙げられていました。これらは、ディスカッションの中で出てきた言葉だけなので、スライドを用いた詳しい説明がありませんでしたが、彼らのコミッティではよく言われている方法論であり共通認識になっているようです。次のトピックでも触れているので、そこで詳しく説明したいと思います。
Machine Learning Based Avionics & Their Certification
SPEAKER
- Luuk van Dijk氏 Daedalean
内容
この中でLuuk氏は、Building blocks for AI Trustworthinessとして以下の3つのアプローチを紹介しました。
- Learning Assurance
- AI Explainability
- AI Safety Risk Mitigation
この絵は、先のパネルディスカッションでも紹介されていましたが、2021年4月にEASAが発行したEASA First usable guidance for Level 1 ML application (https://www.easa.europa.eu/sites/default/files/dfu/easa_concept_paper_first_usable_guidance_for_level_1_machine_learning_applications_-_proposed_issue_01_1.pdf)にある絵です。
以下にEASAのサイトからダウンロードした資料から引用した図を示します。上記の3つのアプローチはこの図の右側の黄色いブロックとなります。
続くスライドでSafety Risk Mitigation(一番下の黄色のブロック)としてASTM F3269を引用してRun Time Assuranceを紹介していました。Run Time Assuranceの絵もよく見る絵なのですが、ネットで使えそうな絵がないので簡単に言葉で紹介します。まず、引用元のASTM F3269は、そのタイトルが「Standard Practice for Methods to Safely Bound Flight Behavior of Unmanned Aircraft Systems Containing Complex Functions」であり、そのタイトルにあるように、AIと言った複雑な機能を有した無人航空機の飛行を安全に拘束するための方法について書かれたものです。その中でRun Time Assuranceがその一つの方法として紹介されています。簡単に説明すると、AIなどの複雑な機能やブラックボックスの機能は伝統的なDO-178Cの手法を用いてassuranceできないので、Run Time中にその挙動をモニターして安全な挙動をしているかをモニターしようというものです。もちろん、そのモニターする側はDO-178Cでassuranceされたソフトウェアです。
次に、Learning Assurance(一番上の黄色のブロック)としてw-shape modelを紹介していました。これは先のパネルディスカッションでも紹介されていましたが、従来型の開発保証(development assurance)を拡張する形で、Learning AssuranceのプロセスとしてICAO、EASA、SAEで提唱されているプロセスです。以下にEASA, Concepts of Design Assurance for Neural Networks (CoDANN)(https://www.easa.europa.eu/sites/default/files/dfu/EASA-DDLN-Concepts-of-Design-Assurance-for-Neural-Networks-CoDANN.pdf)から引用した図を示します。
所感
AIの航空機への搭載に関しては欧州で議論が進んでいます。特に無人航空機に関しては自動運転が課題として挙げられ、それほど遠くない将来にその実現が現実のものとなるのではないでしょうか。また、EASAのAI Roadmapにあるようにワンマンパイロット、その先のゼロマンパイロットも夢の話ではないように感じます。現に今回のトピックからは離れるが米国のDARPAでは無人の戦闘機開発がかなり現実味を帯びでいます。
その認証に関わる制度設計がEUROCAE WG-114とSAE G-34で行われており、日本としても早期にこのコミッティに参加して遅れをとらないようにするべきではないでしょうか。
