こんにちは、稗田利明です！
英国サイバーセキュリティセンター（NCSC、National Cyber Security Centre）と米国サイバーセキュリティ・社会基盤安全保障庁（CISA、Cybersecurity and Infrastructure Security Agency）が主導し、日本を含む18カ国が署名したAIの安全性に関する合意について、初のグローバルな合意として注目されている[1]。この合意は、AIシステムの提供者を対象とし、セキュア・バイ・デザイン（設計段階から安全）の原則を統合することで、システムの設計と開発の各段階で顧客を保護し、開発者が投資しなければならない歴史的な合意を示すものである[3]。
ガイドラインには、リスクと脅威モデリングの理解、システムとモデル・デザインに関するトレードオフの検討、サプライチェーンのセキュリティ、文書化、資産および技術的負債の管理などが含まれており、開発者がAIシステムの安全性を根本的な前提条件として組み込み、開発プロセスの最初から最後までそれを不可欠なものとすることを後押しすることが目的とされている[3]。
この合意について、米国国土安全保障省（DHS）のアレハンドロ・マヨルカス長官は、「CISA、NCSC、その他の国際パートナーが本日共同で発行したガイドラインは、サイバーセキュリティを核としてAIを設計、開発、展開、運用するための常識的な道筋を提供します」と述べ、「このガイドラインは『セキュア・バイ・デザイン』の原則を統合することで、システムの設計と開発の各段階で顧客を保護し、開発者が投資しなければならない歴史的な合意を示すものです」と付け加えた[3]。
この合意は、AIの安全性に関する世界的な取り組みの一環として、AIシステムの開発者によるセキュア・バイ・デザインの実践を奨励し、顧客の保護と安全性を重視するものである[4]。
Citations:
[1] https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development
[2] https://www.ncsc.gov.uk/files/Guidelines-for-secure-AI-system-development.pdf
[3] https://www.cisa.gov/news-events/alerts/2023/11/26/cisa-and-uk-ncsc-unveil-joint-guidelines-secure-ai-system-development
[4] https://www.forbes.com/sites/emmawoollacott/2023/11/27/us-uk-and-16-other-nations-agree-ai-security-guidelines/?sh=266bd26967c9
[5] https://community.isc2.org/t5/Industry-News/Secure-AI-System-Development-Guidelines/m-p/64962
