关于元宇宙生成式人工智能(类 ChatGPT)应用的行业提示
各委员、相关机构:
去年年底,OpenAI 发布了 NLP(自然语言识别)大模型产品 ChatGPT,效果惊艳,一经面世就引起轩然大波。今年第一季度以来,ChatGPT 和类似的生成式人工智能应用热度依然不减,但我国政府与相关行业机构已意识到了其中存在的安全性问题,并开始采取应对措施。
近日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,意见稿强调,在利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
而在此之前,意大利也已曾发布 ChatGPT 禁令,德国监管机构紧随其后,法国、爱尔兰、西班牙等欧洲国家也相继考虑对 AI 聊天机器人采取更严格的监管。
作为“元宇宙共识圈”的发起者和践行者,中国移动通信联合会元宇宙产业工作委员会(以下简称“元宇宙产业委”)先前注意到数字藏品平台二级寄售市场炒作在某些地方盛行,元宇宙地产市值缩水现象频出,这至少说明科技风口的成长并非一帆风顺,行业的试错成本巨大,因此,特联合中国通信工业协会区块链专业委员会、中关村大数据产业联盟元宇宙智库委员会等,共同呼吁行业自律并对本机构委员单位作出如下行业提示:
第一,要着眼科学发展深化思想认识,严格遵守国家及行业相关法律法规要求,增强合规谨慎经营的理念,全面提高风险管控水平;
第二,提供生成式人工智能服务应当真实准确客观多样,应采取相应措施防止生成虚假信息,不得上传或留存含有侵犯知识产权的内容,防止对类 ChatGPT等生成式人工智能应用进行滥用,避免扰乱健康市场秩序;
第三,承担保密责任,要对敏感信息加以严格保护,不上传涉及国家安全或行业涉密文件及数据,以及非公开的材料及数据,或系统的核心代码;
第四,要做到在为信息提供者在提供服务过程中,对用户输入的信息和使用记录承担保护义务,不得非法留存能够推断出用户身份的输入信息,不得向他人提供,不得损害其他使用者正当权利;
第五,应采取适当措施谨防用户过分依赖或沉迷生成内容,避免不正当的商业营销行为,杜绝违背商业道德、社会公德行为;
第六,支持自主创新,鼓励优先采用安全可信的软件和数据;
第七,提供者发现用户利用生成式人工智能产品过程中违反法律法规,应当暂停或者终止服务;
第八,应当继续保持对各类热点保持理性,加强宣传和引导,远离虚假炒作,谨慎投资。
特此提示
中国移动通信联合会元宇宙产业工作委员会
中国通信工业协会区块链专业委员会
中关村大数据产业联盟元宇宙智库委员会
2023年4月13日