Establishment of an AI Safety Foundation to Support Safe Collaboration Between Humans and AI
NQ Score
77/100
N1 Content Completeness
9
AI Summary (NQ-processed)
Under a project promoted by NEDO, five organizations including AIST have developed and published the 'Multimodal AI Quality Management Guideline' and evaluation protocols to ensure the safety of AI systems. This outcome serves as a common reference for businesses to implement risk measures at every stage from AI planning to operation, aiming to accelerate the development of AI safety foundations.
AI Analysis
Frequently Asked Questions
- Q: 本プロジェクトの目的は何ですか？
- A: AIシステムの企画から運用までの段階において、安全性確保のための共通基盤（ガイドラインや評価プロトコル）を整備・公開し、AIセーフティの共通的な考え方と手順を社会に浸透させることです。
- Q: 策定されたガイドラインの対象は何ですか？
- A: 画像とテキストを受け取り、主にテキストで応答するマルチモーダルAIを対象としています。
- Q: 本事業の体制はどうなっていますか？
- A: NEDOが推進し、産総研、株式会社Citadel AI、株式会社コーピー、国立大学法人琉球大学の計5者が連携して研究開発を実施しました。
- Q: ガイドラインの特徴は何ですか？
- A: マルチモーダルAI特有の「クロスモーダル照応能力」を4段階に分類し、その水準に応じたライフサイクル別の対応を体系的に整理した点です。
- Q: この成果は実務でどのように活用されますか？
- A: AIを活用したシステムを開発・導入する事業者が、リスクの洗い出しや適切な対策検討を行う際の共通的なガイドとして活用できます。