作为潜在最大单一市场，我国对人工智能将抱以何态度成为行业人士们关心的热点。
ChatGPT面世几个月以来，引发了人们对于生成式人工智能（AIGC）的广泛关注，从ChatGPT到文心一言，再到GPT-4的诞生，生成式人工智能的浪潮滚滚向前。
然而，在国内外近半年来的体验中，生成式人工智能也凸显许多问题，让各国对于生成式人工智能服务的“警惕性”提高了不少。今年3月31日，意大利个人数据保护局发布新规，宣布禁止使用OpenAI旗下的聊天人工智能ChatGPT并限制OpenAI处理意大利用户信息，意大利自此成为首个官方禁用ChatGPT的西方国家。同时，以马斯克等人为代表的众多企业家及科学家联名请愿暂停更高级别的人工智能训练，以应对高阶人工智能对人类社会可能产生的影响乃至危险。
作为潜在最大单一市场，我国对人工智能将抱以何态度成为行业人士们关心的热点。4月11日，国家互联网信息办公室发布了《生成式人工智能服务管理办法（征求意见稿）》（以下简称“管理办法”或“办法”），为人工智能行业监管的中国态度发出了信号。《办法》秉承着发展的主基调，划定责任主体，制定行业底线，为中国的生成式人工智能健康发展亮起绿灯。
《办法》如何定义生成式人工智能发展？规范了哪些重要方面？将起到怎样的作用？今天，《中国科技信息》对其展开解读。
《办法》的发布，是《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》在生成式人工智能领域的细化和延伸。
“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。”《办法》对生成式人工智能产业抱持着支持和鼓励态度。
根据《办法》，“生成式人工智能”是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是，对生成式人工智能的定义中不仅包含文字，目前常见的“文生图”“文生视频”等也将被纳入管理。管理范围则是，面向中华人民共和国境内公众提供服务的产品。
目前，包括百度、腾讯、阿里、华为、京东、360等多家国内科技巨头均已宣布在生成式人工智能产业有相应布局，无疑将被纳入监管范围。ChatGPT、New Bing、Midjourney等产品虽然未面向中国境内公众提供服务，但如果第三方通过API等方式提供前述产品功能的，将一并纳入监管范围内，需要遵守相关义务要求。
对于这一个新兴且发展迅猛的行业来说，规范和治理需要严格从源头入手。因此，《办法》在准入资格方面规定，在利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
通过审批备案的服务方，在生成式人工智能产品研制中采用人工标注时，应当制定清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。同时，不能使用生成式人工智能进行炒作。提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。
伴随着生成式人工智能技术的深入，互联网上越来越多不良分子，利用相关技术提供“出格”服务，例如此前引起广泛抵制的“一键脱衣”以及“AI诈骗”等。在此方面，《办法》要求，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
在生成式人工智能时代，个体在互联网上的每一个行为都会留下数字脚印或数字影子等数据痕迹，这导致个人隐私保护问题成为突出问题，生成式人工智能服务相关问题尤为敏感。
对此，《办法》提到，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形，不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。
同时，必须尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
为了杜绝后患，《办法》要求，对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。同时，提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
而对于法律、行政法规暂未详细规定的一些不当行为，《办法》规定由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。
总体而言，在规范行业发展的同时，也为生成式人工智能发展留有一定空间。目前《办法》仍处于征求意见阶段，未来还可能收纳各方意见进行调整。《办法》正式发布之后，将有助于行业健康发展，遏制不良行为。专家认为，这一举措显示出我国对生成式人工智能服务发展的关注和支持，希望通过规范管理，保障人工智能技术在安全、合规的环境中发展，同时保护用户的隐私和权益。未来也可将有代表性的人工智能公司纳入治理体系，同监管机关合作开发与技术发展和市场竞争相适应的监管框架。
寻求报道、内容合作，请联系微信：15811564659
杂志收录情况：《中国知网》《中国期刊核心期刊（遴选）数据库》《中国学术期刊综合评价数据库（CAJCED）统计源期刊》《中国期刊全文数据库（CJFD）》《中国科协、中国图书馆学会（解读科学发展观推荐书目）》
