ChatGPT类产品国内上市和运营合规初探
2022年对国内外互联网行业来说，都是灰暗的一年，降本增效几乎成了套在每一家互联网公司头上的金箍。但临近年底，ChatGPT横空出世并迅速火爆出圈，引发全球瞩目，给2022年互联网行业增加了一抹亮色。国内互联网巨头纷纷涌入这一赛道，发布各自的类ChatGPT项目：百度公司宣布其“文心一言”（英文名：ERNIE Bot）项目将于三月份内测；阿里达摩院称正在研发类ChatGPT对话机器人并已开放给公司员工测试；360公司表示其也计划尽快推出类ChatGPT技术的原型版产品；网易有道称未来或将推出ChatGPT同源技术产品，应用场景围绕在线教育；京东云旗下言犀人工智能应用平台宣布将推出产业版ChatGPT，取名“ChatJD”，并公布了落地应用路线图“125”计划。显而易见，国内ChatGPT类产品面市应该只是时间问题。在此情况下，很有必要对这类产品上市和运营中需要面对的合规问题进行探讨。下文将结合《互联网信息服务深度合成管理规定》[i]（以下简称《深度合成规定》）和《互联网信息服务算法推荐管理规定》[ii]（以下简称《算法推荐规定》）就ChatGPT类产品的上市合规和运营合规，分别展开讨论。
一、ChatGPT类产品的技术原理和法律定性
1.ChatGPT类产品的技术原理
ChatGPT是美国Open AI公司于2022年11月推出的一款聊天机器人产品，其可以根据用户输入的内容，给出反馈内容。例如，用户可以输入“以我和爸爸的二三事为题写一篇作文”这样一段文字，ChatGPT就会基于输入内容输出一篇作文。ChatGPT广受欢迎的核心原因在于其输出内容准确性相对高，符合人类语言逻辑和行文习惯，用户满意度高，较此前的人工智能产品实现了实质性飞跃。与此形成鲜明对比的是谷歌公司推出的ChatGPT类产品Bard，其输出结果因为频频翻车而备受用户诟病，让谷歌颜面大失，更直接导致其股价在2月8日大跌7.4%、市值瞬间蒸发千亿美元[iii]。
从技术原理看，ChatGPT是一款基于深度学习的自然语言处理模型，其名称中包含的“GPT”（Generative Pre-trained Transformer的缩写）也明确说明了这一点。简单来说，就是通过提前输入海量文本内容，使得ChatGPT理解和学习人类语言的特征和组织技巧，并借助AI Assistant 和个人对于输出结果进行持续校正和优化，最终实现人和产品之间的流畅、有效沟通。根据Open AI官网介绍看，ChatGPT的产品路径可以分成三步[iv]，第一步是监督调优模型，即收集和输入海量的问答示例（demonstration data），用于监督学习（supervised learning），并完成监督指令微调（fine-tune GPT3.5）; 第二步是训练反馈模型，即对基于不同模型生成的回复进行对比并按照优劣给出排序，借此训练反馈模型（reward model）；第三步是使用近端策略优化（PPO）进行SFT模型[v]调优。
2.ChatGPT类产品的法律定性
根据上述分析可知，ChatGPT类产品依赖于机器学习、算法推荐和深度合成技术实现其产品功能和价值。从合规角度看，ChatGPT类产品主要适用《深度合成规定》和《算法推荐规定》进行调整。《深度合成规定》第二十三条规定，“深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术”。《算法推荐规定》第二条 规定，“在中华人民共和国境内应用算法推荐技术提供互联网信息服务，适用本规定。法律、行政法规另有规定的，依照其规定。前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息”。在国内开发和运营ChatGPT类产品应按照《深度合成规定》和《算法推荐规定》的要求履行合规治理责任
需要指出的是，ChatGPT类产品在外在表现形式和应用场景方面，与传统搜索引擎产品具有一定的相同性或者相似性，例如，从外在表现形式上看，搜索引擎是基于用户输入的关键词提供相关搜索结果，ChatGPT是基于用户输入内容，提供相关的输出内容，二者都是一问一答的形式。正是基于此，包括百度和360在内的国内搜索引擎服务商纷纷宣布加入这一赛道。尽管如此，二者在核心技术原理、内容生成技术和输出内容方面仍存在根本性不同，所以不能把二者混为一谈。
二、ChatGPT类产品上市前后的合规要求
众所周知，国内互联网行业实行行业准入制度，互联网产品应根据其开展业务的类型，申请相应的证照，并履行必要的备案手续。ChatGPT类产品作为互联网产品的一种，自然也应按照前述原则申请证照和进行备案，以满足产品上市需求。基于ChatGPT类产品现有业务类型，笔者认为ChatGPT类产品上市前后需满足如下要求：
|
序号 |
证照/备案名称 |
必要性 |
法律/法规依据 |
|
1 |
增值电信业务许可证（建议覆盖B21和B25）+官网备案。 |
必须 |
《互联网信息服务管理办法》[vi]第四条规定，“国家对经营性互联网信息服务实行许可制度；对非经营性互联网信息服务实行备案制度。未取得许可或者未履行备案手续的，不得从事互联网信息服务”。 说明：随着ChatGPT类产品的发展，尤其是考虑到这类产品运营所必需的海量内容输入和服务器租赁，需要持续的高额投入支持，因此商业变现（如产品收费、广告投放等）将不可避免，例如Open AI已经推出ChatGPT Plus开启收费模式。商业变现属于经营性互联网信息服务。 |
|
2 |
互联网信息服务安全评估 |
必须 |
《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》[vii]第三条规定，“联网信息服务提供者具有下列情形之一的，应当依照本规定自行开展安全评估，并对评估结果负责：（一）具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能的；（二）使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更，导致舆论属性或者社会动员能力发生重大变化的；（三）用户规模显著增加，导致信息服务的舆论属性或者社会动员能力发生重大变化的；（四）发生违法有害信息传播扩散，表明已有安全措施难以有效防控网络安全风险的；（五）地市级以上网信部门或者公安机关书面通知需要进行安全评估的其他情形”。 说明：ChatGPT具有信息传播功能，属于上述规定第（一）项范畴。根据规定，应于应用上线或者功能增设前进行安全评估，可自行评估或委托第三方评估，并将安全评估报告通过全国互联网安全管理服务平台提交至所在地地市级以上网信部门和公安机关。 |
|
3 |
互联网信息服务算法备案 |
必须 |
《深度合成规定》第十九条规定，“具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续”。 |
|
4 |
数据安全评估 |
视业务需要 |
《深度合成规定》第十五条规定，“深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：（一）生成或者编辑人脸、人声等生物识别信息的； （二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的”。 |
|
5 |
网络文化经营许可证 |
视业务需要 |
《互联网文化管理暂行规定》[viii]第八条规定，“申请从事经营性互联网文化活动，应当向所在地省、自治区、直辖市人民政府文化行政部门提出申请，由省、自治区、直辖市人民政府文化行政部门审核批准”。 说明：当前文网文证审批范围限于网络音乐、网络演出剧（节）目、网络表演、网络艺术品、网络动漫和展览、比赛活动， ChatGPT类产品当前业务类型并未落入上述范畴。但如果后续进一步提供动漫和音乐/表演相关音视频内容，则需要文网文证。 |
|
6 |
网络出版服务许可证 |
视业务需要 |
《网络出版服务管理规定》[ix]第七条规定，“从事网络出版服务，必须依法经过出版行政主管部门批准，取得《网络出版服务许可证》”。 《深度合成规定》第二十四条规定，“深度合成服务提供者和技术支持者从事网络出版服务、网络文化活动和网络视听节目服务的，应当同时符合新闻出版、文化和旅游、广播电视主管部门的规定”。 |
|
7 |
信息网络传播视听节目许可证 |
视业务需要 |
《互联网视听节目服务管理规定》[x]第七条规定，“从事互联网视听节目服务，应当依照本规定取得广播电影电视主管部门颁发的《信息网络传播视听节目许可证》）或履行备案手续”。 说明：ChatGPT现有业务范围并不涉及《互联网视听节目服务业务分类目录》相关内容，但如果后续增加产品功能，提供试听内容制作、聚合和转播服务则需要取得该许可证。 |
|
8 |
互联网新闻信息服务许可证 |
视业务需要 |
《互联网新闻信息服务管理规定》[xi]第五条规定，“通过互联网站、应用程序、论坛、博客、微博客、公众账号、即时通信工具、网络直播等形式向社会公众提供互联网新闻信息服务，应当取得互联网新闻信息服务许可，禁止未经许可或超越许可范围开展互联网新闻信息服务活动。前款所称互联网新闻信息服务，包括互联网新闻信息采编发布服务、转载服务、传播平台服务”。 |
三、ChatGPT类产品运营中的合规要求
在产品运营过程中，ChatGPT类产品运营者还应该履行一系列合规治理责任，主要包括落实用户实名制，建立和健全内容审核机制、输出内容标识制度、辟谣和投诉机制、应急处置制度和网络安全/数据安全/个人信息保护制度等。当然，除上述责任外，ChatGPT类产品基于收集全网内容生成新的内容，还可能面临著作权侵权的风险，限于篇幅，本文暂不讨论。
|
序号 |
合规要求 |
产品/机制设置 |
法律/法规依据 |
|
1 |
用户实名制制度 |
按照“后台实名、前台自愿”原则，基于手机号等对网络用户进行实名认证。 |
《深度合成规定》第九条规定，“深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务”。 |
|
2 |
内容审核机制 |
1.按照技术审核和人工审核相结合的方式，对于用户输入内容和产品输出内容进行合规审核，组建专门的人工审核团队； 2.黑名单制度； 3.违规内容投诉制度。 |
《深度合成规定》第十条规定，“深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成使用者的输入数据和合成内容进行审核。深度合成服务提供者应该建立和健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施” 。 |
|
3 |
输出内容标识制度 |
对于输出内容进行标识。 说明：对于具体标识方式目前没有明确规定。 |
《深度合成规定》第十六条规定，“深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息”。第十七条规定，“第十七条：深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；（四）沉浸式拟真场景等生成或者编辑服务；（五）其他具有生成或者显著改变信息内容功能的服务。深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识”。 |
|
4 |
辟谣和投诉机制 |
1.于官网和各客户端设置公开的举报和投诉渠道，并配置专人处理该等举报和投诉； 2.设置和健全辟谣机制。 |
《深度合成规定》第十二条规定，“深度合成服务提供者应当设置便捷的用户申诉和公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理和反馈处理结果”。第十一条规定，“深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告”。 |
|
5 |
应急处置制度 |
建立和健全发现应急处置机制，对违法违规信息能够及时发现与处置，采取切断信号、停止传播、保存记录等有效举措。 |
《深度合成规定》第七条规定，“深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施”。 |
|
6 |
日志留存制度 |
深度合成内容日志留存，但对于具体留存时长仍待主管机关进一步明确，原则上应该不少于90天。 |
《深度合成规定》第十六条规定，“深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息”。 |
|
7 |
网络安全/数据安全/个人信息保护制度 |
建立和健全网络安全制度、数据分级分类制度和个人信息保护制度等。 |
《深度合成规定》第七条规定，“深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施”。 |
四、展望
尽管百度的“文心一言”产品尚未正式上市，但截至2月15日，已经有117家媒体官宣接入，其中包括澎湃新闻、中国经营报、每日经济新闻、封面新闻、上游新闻、九派新闻、海报新闻等[xii]。ChatGPT类产品深入各行业并在一定程度上改造现有行业格局将成为不可逆的趋势，产品影响也将日趋扩大。有鉴于此，ChatGPT类产品的合规治理也将会是个任重道远的过程。
[i] 2022年11月25日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，自2023年1月10日起实施。
[ii] 2021年12月31日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》，自2022年3月1日起实施。
[iii] 参见《谷歌AI聊天机器人答错问题 股价大跌7.4% 市值损失高达1000亿美元》，//www.financialnews.com.cn/zq/stock/202302/t20230209_264384.html。
[iv] 参见Open AI 官网关于ChatGPT产品的介绍，//openai.com/blog/chatgpt/。
[v] 参见《深入浅出，解析ChatGPT背后的工作原理》，//zhuanlan.zhihu.com/p/597100830。
[vi] 2000年9月20日，国务院发布《互联网信息服务管理办法》，自2020年9月25日实施，2011年曾修订。
[vii] 2018年11月15日，国家互联网信息办公室和公安部联合发布《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，自2018年11月30日开始实施。
[viii] 2011年2月17日，文化部发布《互联网文化管理暂行规定》，2011年4月2日生效。
[ix] 2016年2月4日，国家新闻出版广电总局、工业和信息化部令联合发布《网络出版服务管理规定》，自2016年3月10日起施行。
[x] 2007年12月20日，国家广播电影电视总局和中华人民共和国信息产业部令联合发布《互联网视听节目服务管理规定》，自2008年1月31日起施行。
[xi] 2017年5月2日，国家互联网信息办公室发布《互联网新闻信息服务管理规定》，自2017年6月1日起实施。
[xii] 参见《117家媒体机构官宣接入百度文心一言，“AI+广电”战略转型或将迈出重要一步》。
