面对爆发的AI技术，我们到底应该焦虑什么？

4月25日，由中国科技产业智库「甲子光年」主办、上海市信息服务业行业协会支持的「共赴山海·2023甲子引力X智能新世代」峰会在上海召开。现场30余位嘉宾与数百位科技从业者共同全方位聚焦新一代人工智能，为科技与产业的结合寻找新机会。

在《正本清源：新一代人工智能的是与非、能与否》主题圆桌中，数美科技副总裁&首席内容合规专家陈太锋、通商律师事务所合伙人黄凯、泰坦数科创始人&CEO韩一、银杏谷资本合伙人邱谆、微梦创投创始合伙人&极米科技联合创始人杨蓉共同探讨了人工智能发展的监管、伦理、法律等话题。

以下是本场圆桌的交流实录，「甲子光年」整理删改：

杨蓉（主持人）：前段时间，网信办发布了关于生成式人工智能管理办法征求意见搞，引起了业内外对生成式监管的广泛探讨。但大模型的算法本身就是一个黑盒子，监管难度可能会非常高。我们想问，AI时代的版权保护应该保护谁？怎么保护？国外的法律体系是否有可借鉴之处？

黄凯：作为法律背景的人，我认为我们应该直接谈论最新的规定。在AIGC领域，我是来学习的，虽然这个场合讲继任比较沉重，但我尽量简要易懂的介绍我的看法。生成式人工智能的管理规定，是我国非常领先的一项规定，全球范围内也是如此。这其实跟我国现在的立法技术水平和应用水平都有关系。对于黑箱问题，我们可以从几个方面来介绍，例如为什么我们要出台这样的规定，在法律方面我们该如何看待及关注哪些问题，各个国家法律都是如何规定等等。从法律的角度来看，AIGC的合规问题主要可以概括为三个方面。首先，它的应用场景非常广泛，这一点在法律上会比较麻烦。AI的应用场景非常广泛，但涉及到法律问题时可能会触及到法律规范的边界。

另外，AI的黑箱问题指的是AI的涌现和自适应特征，这个过程和产生的结果难以用传统逻辑方法解释。因此，可能涉及到规则的问题，如行为的责任、内容归属和数据依赖性问题等。在版权方面，需要解决的问题包括侵权主体的认定、专利化和制作权的问题，以及可能涉及到大量内容侵权的问题。在这些方面需要主要考虑合规性的问题。

陈太锋：黄总刚刚详细介绍了法律方面的内容。就我所从事的行业而言，无论是保护还是违规，我们对于任何一个内容的判断，核心都在于关注它的四个方面：第一个是目的，第二个是性质，第三个是数量，最后是影响。在互联网内容安全治理和版权保护方面，这是非常核心的内容。从AIGC链条的角度来看，我们近期一直在分析整个链条的数据采集、数据生产和合成中间的数据治理和版权保护问题。目前业内关注的核心问题有两个方面：一个是在合成前数据的知识产权归属，另一个是生成后这些内容的归属权。在这两个方面，业界尤其是法律界存在较大争议。如果遵循著作权法的话，著作权的核心是内容是否是独创性和智力成果。生成的内容到底是机器人生成还是人主导生成，目前还不好界定。最近，我看到国外有一篇报道，第一个国家对合成内容的版权归属有了一个案例，印度采用共享成果的方式处理版权归属，即应用开发者享用一部分版权，使用者也有一部分版权。具体归属问题，还需要大家一起探讨。

韩一：我的观点和其他人不同，我认为只要国家需要监管，就一定应该进行监管。然而，我认为现在监管的时间可能有点过早了。举个例子，现在很多人在抖音上剪辑别人的电影，将90分钟的电影剪辑成了只有9分钟，这样的视频非常受欢迎。但是，如果让AI来剪辑，如果没有明确的拥有者，谁来监管这样的视频？应该用哪些法律条款来监管它呢？我认为现在讨论这个问题还为时过早。我们都知道，互联网的发展带来的结论是，任何早期的产业技术都应该给予足够的土壤和包容，让它们得以发展。如果我们现在就对AI进行严格监管，这势必会影响整个产业的发展速度。作为这个行业的创业者，我希望监管可以再晚一些。这是我的观点。

邱谆：站在创业或者早期投资的角度来说，对于监管问题，我的想法可能会有些特殊。我觉得监管是非常困难的，并且在某种程度上来说总是有各种办法可以规避。但在早期阶段，我们更应该考虑如何让这个生态更快地繁荣起来，而不是过多地使用监管手段来限制它。我们应该理解这种精神，即如何支持早期的创新。现在很难界定监管的具体内容，但回头看历史，我们可以以开源软件为例来理解这个过程。在最初的时候，我们允许人们使用它，而不知道最终谁会获得收益。这种做法帮助我们建立了一个生态。

形成生态之后，可以考虑使用其他的商业模式来获取收益。软件本身是可以复制的，开源之后确实无法维护著作权，每行代码都可以被复制。但这之上可以通过增值服务、订阅等方式来收取商业价值，而不是仅仅靠卖出复制品或设计方案。这样可以让使用者先免费使用软件，等到使用者用起来后，再通过其他方式获取商业利益，避免侵犯他人的知识产权，并且也不需要申请太多著作权或专利。实际上，大部分公司申请专利是为了自我保护，而非攻击他人。比如微软的Office，当年通过提供了免费使用的版本，从而减少盗版的情况出现。这种思维方式可以帮助我们更好地保护新兴技术的知识产权，同时也实现商业价值。

杨蓉：区块链技术有一个核心的特点，对一些数据内容可溯源。所以AI版权保护，区块链未来是否会成为有力手段？

陈太锋：如果从监管角度来看，六个字“可管可控可溯源”是互联网监管的原则，并且对于平台落实主体责任是一个核心要求。在算法备案和安全评估中，数据处理和数据来源是评估的核心，包括中间环节的使用方式，数据处理结果的流向和使用对象等。因为新规提到了这两个方面，所以这些内容在整个评估中都非常重要。

区块链技术可以被应用于这个场景中，但是我们需要考虑成本和效率等问题，仅仅在监管方面能否达到预期效果并不足够，还需要考虑人工智能等新技术是否能够更好地降低成本和提高效率。一些大的平台内容安全审核人员多达上万人，是否有更好的方式来管理成本？这些问题需要在实际应用场景中探讨，但未来肯定是一个发展的方向。

韩一：我在人民出版社出版了一本关于产业区块链和产业元宇宙的专题书籍。在这本书中，我重点分析了区块链技术在元宇宙和新型AIGC内容创作方式下的监管措施。我们都知道，国家数字人民币底层采用了区块链技术，这种技术具有明显的可监管和可溯源特点。然而，将区块链技术与人工智能结合使用的可行性目前还不高。

现在的人工智能建立在互联网基础之上，需要每秒处理百万级的TPS才能驱动整个产业链。但是区块链技术是一种新型的网络，其TPS已经达到了部分与人工智能匹配的阶段。因此，这个问题的解决取决于区块链技术的发展速度。目前，人工智能的发展已经让人类感到焦虑，但是区块链技术还没有达到这个技术阶段。我认为，人工智能可能会领先区块链3-5年甚至更久，他们之间存在一个时间差。因此，我呼吁区块链创业者加快发展，以追上人工智能产业的步伐。这是我的观点。

邱谆：从表面上看，AI与区块链的连接非常清晰，很多人会朝这个方向努力。但是我非常同意韩总刚才所说的，如果今天在这个背景下用这种思维去尝试，这是非常具有挑战性的，因为这两条技术路线目前确实还没有非常清晰的交叉点。从我的角度来看，无论是技术还是落地方向，AI和区块链可以看作是两个不同维度的事物。在很多情况下，区块链可以通过降低效率来提高安全性，因为安全性是最重要的。如果要实现完全去中心化且没有任何第三方机构的交易，就必须保证安全性。但是为了实现这一点，必须降低效率，这是一个“不可能三角”。

与此不同的是，AI是指向效率提高的方向发展，并且已经进入了“航天时代”。但是区块链仍处于“旧石器时代”，实现安全性需要倒回来使用斧子和原始的工具。因此，今天很难使用旧石器时代的石斧修建一架航天飞机，这是一个非常具有挑战性的概念。尽管区块链发展速度非常快，无法预测何时会跨越一个巨大的跳跃，并在泛式上取得巨大的突破。然而，我们现在看到的是AI已经不仅仅是航天时代，而是即将登陆火星，迭代速度非常快。在这个时候，靠链上的一些技术可以为其提供一些安全上的辅助，但我认为目前还是非常具有挑战性的。

黄凯：我不是区块链专家，我相信两位专家的意见。区块链技术可能没有达到其监管或制约的最高阶段。从我的角度来看，我认为区块链技术对于人工智能来说是一个“踩刹车技术”。现在，人工智能对法律提出了一些关注点，例如黑箱问题和数据依赖性问题等，而区块链可能是值得尝试的技术。

杨蓉：自从ChatGPT出现以来，网上流传着一句话——打败你的不是AI，而是利用AI的人。从管理者的视角来看，未来人工智能时代中，哪种类型的员工会更受欢迎呢？企业是否需要为员工提供系统化的人工智能培训？

邱谆：这个答案在我看来是肯定的。我们可以看到，AI并没有与之前的其他工具有非常显著的区别，它本身只是一种提高生产力的工具。如果我们把这个问题转化为，企业内部是否需要为员工提供提高生产力的培训，答案显然是肯定的，因为整个企业的核心目标是为了达到最高生产力，而AI只是其中的一部分。我们是否需要对员工进行Excel培训？答案也是肯定的。从我的角度来看，我简化了这个问题，是因为AI可能只是工具其中的一部分，也有可能是我们目前接触到的最高级别的工具。如果这个工具真的能够替代我们，那么我们将面临失业的风险。因此，在目前的发展情况下，我们必须把它视为一种工具，就像我们以前学习Excel、PPT，甚至往前推计算器一样，我们一定要掌握AI这个工具 的基本的技能。

今天在职场中，人们要创造价值不可能赤手空拳地去做，必须运用技能。如何运用这些技能，是一个很大的课题。我认为，要运用好人工智能，需要掌握一些编程能力，在许多方面可能会成为一个无法回避的问题。虽然现在AI已经能够创造很多价值，但最终要求是对代码本身有一定的理解能力，要能够读懂或者做一些初步的修改是相对困难的。但在美国，这一点已经比较明确。在过去的20年中，代码教育已经成为了基础，从小学开始。这种教育在中国也开始有了，中国已经有很多编程教育，但还没有形成主流。相比之下，美国已经形成了主流，尽管大部分是通过机器人教育来实现的，机器人是AI编程的一个具体体现。在中国，到了今天，GPT的出现或许大家都有了一定的预期，但在GPT出现之前，大家的重视度还是不够。这个就类似智商、情商，还有财商一样的概念，我发明了一个叫做“码商”的新概念，代表对编码技术的理解。“码商”教育还是需要发展的。

黄凯：我基本上同意邱谆总的意见。随着人工智能和ChatGPT的出现，法律行业可能会发生重要的变化。我和我的合伙人非常焦虑，我们正在努力学习这些内容。我认为，这不仅是我们员工应该学习的内容，我们自己也在飞快地努力学习。首先，我认为这些新技术是律师工作的新工具，可能不会直接替代人。从30年来律师行业新工具的出现来看，我们可以看到出现了一批新的律所和法律任务。无论是人工智能工具还是ChatGPT，这些新技术都会产生非常实用的法律服务。因此，这必然会对法律行业产生重大影响，我们必须跟上时代的步伐。

韩一：这个话题非常有趣，我意见不同于大家，我不会让我的员工学习ChatGPT。原因很简单，我认为企业不应该提供这种培训。了解AI和ChatGPT应该是基本技能，就像你会使用电脑、商务交流、待人接物一样，你必须会使用AI，因为AI不再是某个行业的特殊工具，它将提高所有人类的生产效率，因此必须学习。我不会告诉员工学习抖音或微信，但我认为AI是必须掌握的技能，如果你想个人发展得好，这是不可或缺的学习内容。

在AI时代，许多人都感到焦虑。举个例子，以前饭店如果要招待10桌客人，通常需要5名服务员。现在，随着外卖的兴起，只需要两名服务员。大多数人现在选择外卖而不是在饭店用餐，因此服务员数量从5人减少到2人，导致另外3名服务员失业。但是，自然产业转移这一神奇的现象出现了。一些曾经做服务员的人现在转而成为外卖配送员，因为中国需要2000万骑手。因此，我们不必过分担心AI。现在被AI替代的工作本身就是低效的。如果在公司中表现高效，很难被替换。但事实上，有很多需要使用AI的岗位，这可能涉及到5000万人口级别的工作。在未来，5000万人需要掌握好AI，例如AI专业的运营师、操作员、训练师等。各个行业都需要有AI小助手。公司中的AI助理也都是就业岗位。因此，我们应该不要过分焦虑AI，并学好AI，这将成为未来职场中最亮的仔。

杨蓉：ChatGPT现已被广泛应用。然而，ChatGPT 会不会因为一本正经地“胡说八道”而对真实世界语料造成污染？未来人类历史是掌握在人类手中还是在ChatGPT手中？掌握ChatGPT的人是否又掌握了下一代的舆论特权？

陈太锋：这个问题有点复杂，我认为在人类历史中，历史的核心是记录和研究。如果通过人工智能来记录历史和提取知识，肯定会有很大的帮助。我们现在使用的ChatGPT是一个很好的工具，可以从海量的知识中获取信息。但是，污染的问题也很严重，我们很难判断这些内容的真实性。对于历史的传承和研究来说，重要的是研究历史本身，这样才能形成不同的观点和百花齐放。我认为，这部分很难被机器所替代，因为人工智能和人类最大的区别在于智能和智慧。要超越人类，机器还需要一些时间。

杨蓉：陈总观点很明确，他觉得人类通过智慧能够驾驭AI。其他嘉宾有没有不一样的看法？

韩一：我有不一样的看法。我认为机器替代人类从根本原理的角度来看是必然的趋势。虽然这个趋势可能需要20年、30年甚至50年的时间，但最近我们行业内发生了一件事情。马斯克领导了1000位硅谷顶尖人才发起了一份签名信，希望限制GPT技术的发展，让其停留在4.0版本，不再更新。如果人工智能不是对人类的威胁，为什么会有这些业内大咖们希望限制它的发展速度呢？这表明人工智能的确具有威胁性，而这种威胁是难以用我们目前的技术水平和知识结构来抵御的。因此，我认为这是在AI发展的一方面。但是，我们也不必过度焦虑，因为我们这代人已经很难跟得上时代的变化，而且我们还可以感受到，人类主导AI的时代仍在我们这一代人延续着。

杨蓉：一个新技术出现的时候，我们往往会衡量是否足够颠覆，是否能够大幅度提升生产力提升社会效率，但很少考虑这项技术能否真正提高人的幸福感。在未来的技术发展进程中，我们是否应该把以人为本的因素纳入其中？

邱谆：我想答案一定是肯定的。我认为，我们在商业社会中的初心是以人为本，尽管生产力提升是商业社会的核心，但我们不能忘记以人为本的初心。虽然很难在商业计划书中写入这一初心，但每次生产力的提升都会对人们的生活带来帮助和兴奋，这种幸福感难以量化。与1000年前的生活相比，我们今天的幸福感是否有所提升也难以衡量，但从宏观的角度来看，20-30年的科技进步应该对我们的幸福感有所提升。从创业者或投资人的角度而言，我们的核心目标仍然是提高生产力，并试图通过提高生产力来提高人们的幸福感。例如，微信的发明对中国社会产生了实质性的变革，大大改变了人们的生活方式。虽然有些人认为花太多时间在微信上降低了幸福感，但这并不能否认微信对我们带来的好处。因此，作为创投人员，我们仍然需要寻找能够改变人们生活同时提高幸福感的工具和方式进行投资。

杨蓉：我一直认为，在上一代互联网中，所有产品都是服务人的，没有讨论过是否需要以人为本这个话题。为什么面对当下的AI发展，大家反而把以人为本提出来了呢？

韩一：这个我可以说一下。从前有淘宝，老百姓因为能够在家购物而感到很幸福，而且在淘宝上购物也很愉快，谁都感到很幸福，实体店却并不那么幸福。现在抖音也一样，只有那些大主播才会感到幸福，但供应链却不一定幸福，整个线下的工厂也不幸福。但老百姓和主播感到幸福，因为中间商被去掉了，这样的大团购让中间价格变得很便宜。但为什么AIGC却不幸福呢？我的建议是，如果有条件的话，可以在未来的一两年里适当放松一下，因为现在这个时代对于不同的人来说确实会很不幸福。以前既得利益会受到影响，但只是小部分人的蛋糕被动了，比如在淘宝时代，实体店的蛋糕被动了，在抖音时代，渠道商的蛋糕被动了。但现在，由于AIGC影响的是所有人的蛋糕，因此我们会发现，在过去的生产能力变革中，当爆款应用出现时，大家会感到幸福。但是为什么AIGC出现后却不让人感到幸福呢？我认为这是因为动了每个人的蛋糕。

黄凯：我讲一下我的理解，幸福没有一个明确的标准。从我自己的观点出发，我在思考人的本质是什么。正如马克思韦伯所说，“人是悬挂在自我编织的意义之网上的动物”。当我们谈论更多的电影和美食时，为什么仍在讨论幸福的问题？这可能是因为与谁来分享电影和美食更重要，而个人的感受和与其他人的关系不同而发生变化。在这个问题上，我们应该考虑是否必要和是否可行。当我看到这个问题时，我想起了《人类简史》作者所说的，人类从狩猎时代进入农耕时代是一个陷阱，因为在这个过程中，人的个体幸福感反而下降了。技术的进步是否以人的幸福为目标？我觉得不是，但是它会带来转移的效应。我认为这不是技术的本意，但我们需要考虑这个问题，是否需要和可行性是否存在。

陈太锋：确实很难定义幸福，但就我而言，使用ChatGPT之后我的工作变得幸福了许多。我现在能够花更少的时间收集和整理知识，处理日常工作，这样我就能有更多时间陪伴家人和享受生活。每个人对幸福的理解可能不同，但如果ChatGPT真的能够帮助提高效率，成为我工具的一部分，我就会感到幸福。当然，如果ChatGPT对我的整体生活或者工作产生了很大的影响和改变，那么幸福的定义可能就会有所不同。

杨蓉：我们的圆桌论坛到此结束，也希望用人类的智慧驾驭好AI，让我们的生活和工作充满幸福感。