本报记者 李玉洋 上海报道

近日，一封超1000位人士签名的《暂停大型人工智能研究》公开信引发关注，其中包括特斯拉CEO埃隆·马斯克、“深度学习三巨头”之一的约书亚·本吉奥、苹果公司联合创始人史蒂夫·沃兹尼亚克等学界、业界人士，他们呼吁至少在6个月内立即暂停训练比GPT-4更强大的人工智能系统。

值得注意的是，在这份网络签名表的尾部出现了OpenAI联合创始人山姆·阿尔特曼的名字，最终美国媒体证实山姆·阿尔特曼并没有计划呼吁暂停人工智能的开发，但他却指出：“OpenAI不仅非常重视AI安全，而且比其他公司更重视。无论如何，AI安全问题在当下被业界广泛关注已是不争的事实。”

“只有在我们确信它们的效果是积极的、风险是可控的情况下，才可以开发强大的人工智能系统。”该公开信中提到。《中国经营报》记者注意到，ChatGPT所属公司OpenAI的CEO山姆·奥特曼近期在著名播客YouTuber Lex Fridman的访谈中也表示AI存在偏见、造成人类失业等问题。

记者还注意到，由于ChatGPT的走红，人工智能生成作品是否受著作权保护问题引发热议，比如网易LOFTER今年推出的AI作画功能因惹争议而草草下线。对此，上海大邦律师事务所高级合伙人、知识产权律师游云庭对记者表示：“人工智能生成的作品有先天的版权瑕疵，不应当享有著作权并收取授权费用。用户使用人工智能生成的作品如果被他人侵权，可以依据《反不正当竞争法》来维权。”

AI爬取行为涉嫌侵权

3月初，网易LOFTER上线了“老福鸽画画机”功能，用户可以通过关键词生成绘画作品，却引起很多创作者不满，他们质疑平台AI绘图会将创作者的绘画作品作为训练素材，没有尊重创作者的知识产权以及无法保护创作者的各项权利。

对此，网易LOFTER分别于3月6日和7日连发两份声明，称“老福鸽画画机”内测版实际上是头像生成器，初衷是为了方便没有绘画能力的用户制作喜欢的头像，该功能训练集来自于开源，没有使用LOFTER用户的作品数据，并明确注明不得用于商业用途。而后网易LOFTER又称，引发争议的相关功能已于3月8日下线，并承诺LOFTER从未将用户的作品数据用于AI训练。此外，LOFTER于3月10日上线创作者保护计划，做出“禁止AI内容作为原创作品发布，加强对AI内容识别和反馈处理；已上线反AI盗用+反爬取系统，严厉打击任何侵权行为；单独设立反侵权投诉渠道，侵权作品均可一键举报，快速反馈生效”等措施来保护创作者的权益。

3月16日，网易LOFTER再发布致歉信，声称“近期LOFTER上线了新功能，没有考虑到创作者群体的感受，引起了巨大的不满。此行为伤害了很多一直支持我们的创作者，我们深感抱歉，在此向大家表达诚挚的歉意”。

游云庭指出，在类ChatGPT人工智能软件工具的开发过程中，开发者必然要用大量数据和资源供其学习和训练，但现在各大人工智能公司都对学习资源的来源讳莫如深，除了商业秘密方面的考量之外，“最主要的问题是，目前的主流人工智能软件工具其训练都依靠开发公司爬取网上的免费公开数据和资源，然后对人工智能进行投喂和训练，这些数据和资源的取得并没有经过被爬取网站的同意，所以是有很大争议的，并且已经有媒体就此进行了起诉”。

据《华尔街日报》报道，AI 技术的发展已经引发了新闻出版业的不满，他们认为自己的内容被大型科技公司用于训练AI模型而没有得到合理的补偿。拥有《纽约邮报》《巴伦周刊》《华尔街日报》等媒体的美国新闻集团正准备向OpenAI、微软和谷歌等公司提起诉讼，要求赔偿其内容在ChatGPT、Bard等AI工具中被用来使用的费用。

“（AI）这种爬取行为涉嫌侵权。”游云庭表示，爬取行为是否合法，目前的主流做法是看Robots协议（指网站跟爬虫间的协议），只要被爬取数据的网站的Robots协议同意，搜索引擎爬取数据就是合法的，“但人工智能公司爬取数据是否适用Robots协议争议很大，因为它们爬取目的和搜索引擎不同”。

“网站被访问是有服务器成本、技术维护成本和管理成本的，网站经营者同意搜索引擎的爬取，是因为这种爬取是共益行为。”游云庭指出，人工智能公司爬取只利于它们自己，这让网站运营者白白付出服务器成本、技术维护成本和管理成本，“这种行为就不应该适用Robots协议，而应适用《著作权法》”。

游云庭进一步指出，根据《著作权法》，让人工智能学习网上内容的过程是一个复制行为或临时复制行为，人工智能公司要先将网上的或者线下获得的内容爬取，然后输入到人工智能程序中，“无论这个内容是文字、图片、音频、视频还是程序，复制行为都应当获得相应权利人许可，否则就涉嫌侵权”。

游云庭表示，根据《著作权法》，尽管用户运用人工智能所创作的内容版权归受托方（即人工智能公司）所有，但ChatGPT的《用户协议》4.2条规定：用户在使用ChatGPT时产生的任何内容，均属于用户的知识产权，ChatGPT可以在不向用户支付任何费用的情况下使用这些内容。

“它们（指OpenAI）要是规定生产的作品知识产权归ChatGPT所有，一方面会得罪用户；另一方面，权利和责任是一体的，知识产权归谁，谁就要对内容负责，如果产生了侵权或争议内容，比如版权侵权、名誉侵权或政治不正确言论，OpenAI作为创业公司的小身板还真不一定扛得住。”游云庭表示。

用技术打败技术

倘若人工智能企业要大规模为所生成的内容收取版权授权费用，是否可行以及合理呢？游云庭指出：“自身的底气是不足的，因为其训练过程涉嫌大规模侵权，有原罪，版权收费逻辑上不能自洽。”

事实上，AI版权问题并非始于ChatGPT。记者注意到，在图像和代码方面，已有多起诉讼案件涉及到AI模型训练使用受版权保护的数据，比如Midjourney、Stability AI、微软以及GitHub都曾卷入相关纠纷。

更重要的是，以ChatGPT为代表的AI语言模型以及Midjourney为代表的AI绘画产品，它们的高效率让不少打工人担忧：AI会不会让我失业？

投资银行高盛一份报告称，AI可以取代3亿个全职工作岗位，目前欧美约有三分之二的工作岗位都在某种程度上受到AI自动化趋势的影响，而多达四分之一的当前岗位有可能最终被完全取代。

报告还指出，AI的影响将因不同工种而异，其中46%的行政工作和44%的法律专业工作可以实现自动化，但只有6%的建筑工作和4%的维护类工作可以实现自动化。

除了法律问题、造成失业外，前述公开信还指出AI可能对社会和人类构成深刻的风险。“先进的AI可能代表着地球生命历史的深刻变革，应该通过谨慎的资源规划和管理。但是，即使最近几个月AI实验室陷入了一场失控的竞赛，试图开发和部署越来越强大的数字智能，甚至连他们的创造者都无法理解、预测或可靠地控制的智能，但我们并没有看到此类规划和管理的出现。”公开信中指出。

毋庸置疑，“暂停训练比GPT-4更强大的AI系统”首先会影响到OpenAI接下来的技术进展。而这对部分署名者而言，并不是一件坏事，比如马斯克正在计划组建自己的AI研究实验室，开发ChatGPT的替代品。

不过，马斯克也曾多次呼吁对AI的监管。“没有对人工智能的监管，这是一个主要问题。十多年来，我一直在呼吁人工智能安全监管。”马斯克在去年12月的推文中表示。在GPT-4发布后再次表达担忧，马斯克写道：“我们人类还有什么可做的？”

在这封联名公开信发表之前，一位名叫Michal Kosinski的斯坦福大学计算心理学家在社交媒体上曝光了GPT-4的一项“逃跑计划”，并称AI能引诱人类提供开发文档，30分钟就拟定出一个完整计划，甚至还想控制人类电脑。Kosinski疾呼：“我担心人类无法持久地遏制住AI。AI很聪明，会编码，能接触到数百万个人和电脑。”

面对AI威胁论，山姆·奥特曼承认，一些拥有AI输入控制权的人可能无视人们对人工智能设置的一些安全限制，“我认为社会只有有限的时间来弄清楚如何对此做出反应，如何对其进行监管，如何处理它。”同时，他也呼吁监管机构和社会需要进一步参与这项技术，以防止其对人类造成潜在的负面影响。

“我特别担心这些模型可能会被用于大规模的虚假信息。” 山姆·奥特曼说，“现在他们在编写计算机代码方面做得越来越好，可以用于网络攻击。”

面对一种新技术造成的问题，最好的办法是另一种技术去解决，用技术打败技术。针对AI用于网络攻击的担忧，微软就推出一款新的AI聊天机器人Security Copilot，它能描述网络活动安全漏洞的暴露情况，并指出利用漏洞的账户，以帮助网络安全专业人士了解关键问题并找到解决问题的方法。

《人类简史》《未来简史》的作者尤瓦尔·赫拉利（Yuval Noah Harari）近日在《纽约时报》发表文章称，ChatGPT 可能会被用来制造虚假信息、操纵人们的情感和行为甚至取代人类的创造力和智慧。因此，他呼吁人类采取措施，保护自己免受人工智能的侵害，同时利用它的优势；建议人类升级自己的教育、政治和伦理制度，以适应人工智能的世界，并学会掌控人工智能，而不是被它掌控。