ニュースの要約
- コーピーが、NEDOの「AIセーフティ強化に関する研究開発」事業に採択されたこと
- コーピーが、AIシステムの安全性評価・運用管理に関するガイドラインの策定を担当すること
- コーピーが、AIセーフティ評価技術の国際標準化と社会実装に貢献していくこと
概要
XAI&QAAI技術でミッションクリティカルAI実現に取り組む東京大学・フランス国立情報学自動制御研究所（Inria）発のAIスタートアップ、株式会社コーピーは、NEDOが公募した「AIセーフティ強化に関する研究開発」事業に採択されました。
本事業は、生成AIをはじめとする先端AIの安全な社会実装を目指し、AIシステムのリスクを評価・管理するための基盤技術の開発と、国際標準と整合したセーフティガイドラインの策定・普及を図るものです。
コーピーは、この事業において、生成AIモデルを組み込んだAIシステムを対象に、国際標準「ISO/IEC 42001」の運用計画・管理に対応する形で、企業向けの実装ガイドラインの策定を担当します。具体的には、AIシステムの運用管理プロセスの整理、評価指標・テストプロトコルの開発、安全性評価結果の標準化報告書テンプレートの整備などに取り組み、その内容を実証実験やフィードバックとともにまとめて、AIガイドラインへ反映していきます。
これにより、企業が自社のAI製品・サービスの安全性・信頼性を客観的に示す手段を持ち、国際的な基準に則った形でのAI活用が可能になるとしています。
コーピーは、本事業および関連する活動を通じて、AIセーフティ評価技術の国際標準化と社会実装に貢献し、企業が安心してAIを活用できる環境整備を支援することで、「ミッションクリティカルなAIを実現する」というビジョンの実現を目指していきます。
編集部の感想
編集部のまとめ
ミッションクリティカルAI：株式会社コーピー、NEDOの「AIセーフティ強化に関する研究開発」に採択についてまとめました
株式会社コーピーが、NEDOの「AIセーフティ強化に関する研究開発」事業に採択されたことは大きな意味を持ちます。
近年、生成AIを中心としたAI技術の発展に伴い、誤情報の生成やプライバシー侵害、倫理的リスクなど、予測不能な影響が懸念されています。そのため、AIの安全性確保は喫緊の課題となっており、欧州では2026年にAI規制の本格施行が予定されるなど、国際的な対応の強化が進んでいます。
コーピーは、このような状況の中で、AIシステムの運用管理プロセスの整理や評価指標・テストプロトコルの開発など、実践的なセーフティ評価・運用管理の仕組みづくりを担当します。これにより、企業がAI製品・サービスの安全性・信頼性を客観的に示せるようになり、国際基準に則った形でのAI活用が可能になるでしょう。
さらに、コーピーはこの取り組みを通じて、AIセーフティ評価技術の国際標準化と社会実装にも貢献していく方針です。このように、ミッションクリティカルなAIの実現を掲げるコーピーの姿勢は高く評価できます。
このプロジェクトの成果に期待が高まるとともに、日本発の国際標準の形成につながることを望みたいですね。
参照元：https://prtimes.jp/main/html/rd/p/000000027.000031786.html
