人工智能作為一項顛覆性技術，在為人類社會帶來發(fā)展機遇的同時，也帶來了不可預測的風險，人類面臨道德、隱私和安全等方面的問題與挑戰(zhàn)。認識到負責任管理的必要性，國際標準化組織 (ISO) 和國際電工委員會 (IEC) 于 2023 年 12 月聯(lián)合發(fā)布了人工智能管理體系 ISO/IEC 42001 標準。該標準提供了一個可認證的人工智能管理體系（AIMS）框架，在此框架內，人工智能體系作為人工智能保證生態(tài)系統(tǒng)的一部分進行開發(fā)和部署。

ISO/IEC42001標準的背景：英國標準協(xié)會（BSI）于2016年發(fā)布BS人工智能管理標準，國際標準化組織（ISO）將人工智能管理標準納入制定計劃中。2022年7月國際標準化組織正式發(fā)布ISO/IEC 22989:2022 信息技術-人工智能概念和術語，這份標準詳細描述了與人工智能領域相關的概念與術語，該標準首先定義了人工智能各個領域的術語，例如：與人工智能相關的術語、與數(shù)據(jù)相關的術語、與機器學習相關的術語等等，在定義術語的基礎上，標準就AI領域相關的概念進行了詳細解釋，例如：“從強人工智能和弱人工智能到通用人工智能和窄人工智能”概念、“軟計算”的概念、“通用算法”的概念等等，為人工智能管理標準的制定確立的概念和術語共識的基礎。2023年6月，用于人工智能管理體系認證的標準《ISO/IEC 42001 信息技術—人工智能—管理體系》已經(jīng)完成成員國意見征詢工作，2023年6月8日公布，該標準進入批準階段。最終12月發(fā)布了人工智能管理體系 ISO/IEC 42001 標準。

具體來說，該標準包含以下主要內容：

1. 組織背景：組織應確定相關的內部和外部需求、期望和問題，并確定AI管理系統(tǒng)的范圍。
2. 領導力：管理層應表現(xiàn)出領導力和承諾，確保建立AI政策和目標，將需求整合到業(yè)務流程中，并確保適當?shù)馁Y源。
3. 規(guī)劃：組織必須制定一個行動計劃，以應對實現(xiàn)目標的風險和機遇。
4. 支持：規(guī)定了對資源、能力、意識、溝通和書面信息的必要要求。
5. 操作：組織必須有開發(fā)、實施和維護AI管理系統(tǒng)的流程。
6. 績效評估：確立了監(jiān)控、測量、分析和評估AI系統(tǒng)以及內部審計和管理審查的要求。
7. 改進：組織必須進行改進并采取糾正措施以避免不合格。

該標準還提供了附錄，為組織提供了具體的控制目標、控制措施、實施指南以及與AI相關的潛在組織目標和風險源等信息。
規(guī)定了在組織范圍內建立、實施、維護和持續(xù)改進人工智能管理系統(tǒng)的要求