國家網際網路資訊辦公室關於《生成式人工智慧服務管理辦法（徵求意見稿）》公開徵求意見的通知

為促進生成式人工智慧技術健康發展和規範應用，根據《中華人民共和國網路安全法》等法律法規，國家網際網路資訊辦公室起草了《生成式人工智慧服務管理辦法（徵求意見稿）》，現向社會公開徵求意見。公眾可透過以下途徑和方式提出反饋意見：

1.登入中華人民共和國司法部 中國政府法制資訊網（www.moj.gov.cn、www.chinalaw.gov.cn），進入首頁主選單的“立法意見徵集”欄目提出意見。

2.透過電子郵件方式傳送至：wajscy@cac.gov.cn。

3.透過信函方式將意見寄至：北京市海淀區阜成路15號國家網際網路資訊辦公室網路安全協調局，郵編100048，並在信封上註明“生成式人工智慧服務管理辦法徵求意見”。

意見反饋截止時間為2023年5月10日。

附件：生成式人工智慧服務管理辦法（徵求意見稿）

國家網際網路資訊辦公室

2023年4月11日



（徵求意見稿）

第一條 為促進生成式人工智慧健康發展和規範應用，根據《中華人民共和國網路安全法》《中華人民共和國資料安全法》《中華人民共和國個人資訊保護法》等法律、行政法規，制定本辦法。

第二條 研發、利用生成式人工智慧產品，面向中華人民共和國境內公眾提供服務的，適用本辦法。

本辦法所稱生成式人工智慧，是指基於演算法、模型、規則生成文字、圖片、聲音、影片、程式碼等內容的技術。

第三條 國家支援人工智慧演算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟體、工具、計算和資料資源。

第四條 提供生成式人工智慧產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗，符合以下要求：

（一）利用生成式人工智慧生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情資訊，虛假資訊，以及可能擾亂經濟秩序和社會秩序的內容。

（二）在演算法設計、訓練資料選擇、模型生成和最佳化、提供服務等過程中，採取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。

（三）尊重智慧財產權、商業道德，不得利用演算法、資料、平臺等優勢實施不公平競爭。

（四）利用生成式人工智慧生成的內容應當真實準確，採取措施防止生成虛假資訊。

（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯智慧財產權。禁止非法獲取、披露、利用個人資訊和隱私、商業秘密。

第五條 利用生成式人工智慧產品提供聊天和文字、影像、聲音生成等服務的組織和個人（以下稱“提供者”），包括透過提供可程式設計介面等方式支援他人自行生成文字、影像、聲音等，承擔該產品生成內容生產者的責任；涉及個人資訊的，承擔個人資訊處理者的法定責任，履行個人資訊保護義務。

第六條 利用生成式人工智慧產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》向國家網信部門申報安全評估，並按照《網際網路資訊服務演算法推薦管理規定》履行演算法備案和變更、登出備案手續。

第七條 提供者應當對生成式人工智慧產品的預訓練資料、最佳化訓練資料來源的合法性負責。

用於生成式人工智慧產品的預訓練、最佳化訓練資料，應滿足以下要求：

（一）符合《中華人民共和國網路安全法》等法律法規的要求；

（二）不含有侵犯智慧財產權的內容；

（三）資料包含個人資訊的，應當徵得個人資訊主體同意或者符合法律、行政法規規定的其他情形；

（四）能夠保證資料的真實性、準確性、客觀性、多樣性；

（五）國家網信部門關於生成式人工智慧服務的其他監管要求。

第八條 生成式人工智慧產品研製中採用人工標註時，提供者應當制定符合本辦法要求，清晰、具體、可操作的標註規則，對標註人員進行必要培訓，抽樣核驗標註內容的正確性。

第九條 提供生成式人工智慧服務應當按照《中華人民共和國網路安全法》規定，要求使用者提供真實身份資訊。

第十條 提供者應當明確並公開其服務的適用人群、場合、用途，採取適當措施防範使用者過分依賴或沉迷生成內容。

第十一條 提供者在提供服務過程中，對使用者的輸入資訊和使用記錄承擔保護義務。不得非法留存能夠推斷出使用者身份的輸入資訊，不得根據使用者輸入資訊和使用情況進行畫像，不得向他人提供使用者輸入資訊。法律法規另有規定的，從其規定。

第十二條 提供者不得根據使用者的種族、國別、性別等進行帶有歧視性的內容生成。

第十三條 提供者應當建立使用者投訴接收處理機制，及時處置個人關於更正、刪除、遮蔽其個人資訊的請求；發現、知悉生成的文字、圖片、聲音、影片等侵害他人肖像權、名譽權、個人隱私、商業秘密，或者不符合本辦法要求時，應當採取措施，停止生成，防止危害持續。

第十四條 提供者應當在生命週期內，提供安全、穩健、持續的服務，保障使用者正常使用。

第十五條 對於執行中發現、使用者舉報的不符合本辦法要求的生成內容，除採取內容過濾等措施外，應在3個月內透過模型最佳化訓練等方式防止再次生成。

第十六條 提供者應當按照《網際網路資訊服務深度合成管理規定》對生成的圖片、影片等內容進行標識。

第十七條 提供者應當根據國家網信部門和有關主管部門的要求，提供可以影響使用者信任、選擇的必要資訊，包括預訓練和最佳化訓練資料的來源、規模、型別、質量等描述，人工標註規則，人工標註資料的規模和型別，基礎演算法和技術體系等。

第十八條 提供者應當指導使用者科學認識和理性使用生成式人工智慧生成的內容，不利用生成內容損害他人形象、名譽以及其他合法權益，不進行商業炒作、不正當營銷。

使用者發現生成內容不符合本辦法要求時，有權向網信部門或者有關主管部門舉報。

第十九條 提供者發現使用者利用生成式人工智慧產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網路炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟體，實施不正當的商業營銷等，應當暫停或者終止服務。

第二十條 提供者違反本辦法規定的，由網信部門和有關主管部門按照《中華人民共和國網路安全法》《中華人民共和國資料安全法》《中華人民共和國個人資訊保護法》等法律、行政法規的規定予以處罰。

法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停或者終止其利用生成式人工智慧提供服務，並處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

第二十一條 本辦法自2023年 月 日起實施。

原文：http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm