PERSON
TALKING
Artificial Intelligence
对话 / 访谈 / 人物
◆ ◆ ◆ ◆
由微博、新浪新闻共同打造的AI跨界对话栏目《新智者首席Time》完成第二期节目上线。ESCE华语区教授，人工智能学者高庆一作为嘉宾主持人，与《人类2.0》作者、“硅谷精神布道师”皮埃罗·斯加鲁菲通过对话形式探讨了新AI浪潮下，人与机器之间的关系、人工智能的失控与不确定性，并探索了人类未来科技新趋势等话题。
皮埃罗·斯加鲁菲是硅谷人工智能研究院（SVAIRI）创始人、也是《硅谷百年史》与《人类2.0》的作者。硅谷人工智能研究院整合了全球最顶级的人工智能领域的科学家、企业家、哲学家、创业者、投资者。
以下是“新智者首席Time”对话实录，内容经过编辑，摘取了其中一部分内容：
PART ONE
Artificial Intelligence
TALKING
高庆一
第一个问题是关于人类社会的。您认为人类与机器的关系，人机之间是互为替代的关系，是敌人或者是朋友关系？双方会携手创造未来，还是构成竞争关系？
皮埃罗先生
我们能与并非人类创造的动物一起共存，那为什么不能与我们制造的机器共存呢？是机器具有更高智能吗？在我还是个孩子的时候，每个人都认为智能就是指数学能力类。世界上的第一台电脑出现时比任何一个人都更加智能，所以说那不是个问题，问题是我们人类能够与周围的智能的东西共存，并利用这种智能。
高庆一
因为你提到了动物，而人类可以杀死动物，所以说人类比起动物而言具有更高智能的优势，但机器有时候会失控。埃隆·马斯克也说过，如果我们任由人工智能自由发展，有时会威胁到人类的安全，因此您是否认为人工智能处于受控状态?
皮埃罗先生
人类创造了一个非常复杂的社会，有时候这个社会是会失控的。有两种非常明显的很可怕的情况，第一种就是经济，经济时不时地会崩溃，为什么呢？是经济学家很愚蠢吗？不，他们都是非常有智慧的人，但世界经济非常复杂，如果泰国或者阿根廷出了问题，你猜怎么着？我们的经济崩盘了，简直难以置信。2007年的经济大衰退，他们还在讨论经济崩溃的原因，20年过去了大家还是不清楚经济危机的产生原因。
另一种情况是国际政治。不知怎么的某个地方发生了战争，一会儿另一地方也发生战争，谁能预料到呢？我们人类创造了许多失控的复杂系统，这就是现实。人工智能发展非常快，项目推进也很快，但是有些人希望人工智能的发展速度降下来，对此我没有特别的想法。我们该如何处理这类复杂系统呢？比如出现了某种气候变化，我们该怎么应对气候变化呢？这些问题比人工智能要严重的多，这类情况下人类会陷入非常大的困境中，可能导致数百万人的死亡，那么我们该如何应对这类事情呢？
有一门领域准确说叫混沌理论，社会学家会研究这个理论，对于这类复杂问题我们应该如何表明自己的立场呢？这对于人工智能来说不是个新问题，唯一的区别是人工智能发展非常快，因此我们或许应该把速度降一降，也许各国应该达成共识让机器不得快速作出决策。
高庆一
我们需要应对不确定性，不仅仅是大工智能，但是我常常在想，人工智能真的会伤害人类吗？
皮埃罗先生
有没有这种可能性，任何软件都可能以各种不同的方式伤害到你，但是如今的人工智能技术的一个问题是不确定性。如果你回到人工智能的初始阶段其基础是数学逻辑，那么优势是什么呢？优势就是它有精确的逻辑A至B至C至D至E，第二点是结论，你可以一直问为什么它会回答你，因此这些符号系统全部是数学逻辑。对于如今非常流行的人工智能而言，确实有点令人担忧。它能够做很多事情，比如说人脸识别就是不确定性推理的一个范例。有时候你在大街上看到某个人，你会说，那是我朋友，哦，对不起搞错了，这就是不确定性推理。如果我问为什么机器不能够回答，因为机器不能够从数据中得出结论，正如你不能从很多事件中得出结论。这就是我所想说的这样，会导致更多的危险。不是因为机器不精确或者说不确定，而是因为我们应该在使用信息时更加谨慎小心。
你提到了ChatGPT是个很好的例子。ChatGPT是个很棒的生产力工具，但你必须记住这个工具并不精确，ChatGPT是非常容易出错的。有些人仅把它用作生产力工具，可以帮我写出完美的代码但是你不能让ChatGPT为核武器写代码，所以说你必须小心谨慎，你该如何使用一个不太精确的工具，比如说你在建一座桥建，造桥梁的人可以使用物理知识，但是把桥建造得更加坚固仅靠物理知识是不够的。当你使用ChatGPT的时候确保别的信息来源，或者你就是专家，能够控制chatGPT的运行。另一问题就是人工智能并不精确，你不能问为什么，你甚至不能询问信息来源。我还在使用谷歌，为什么呢？因为我能够看到信息和页面来源。但是如果我问ChatGPT尼日利亚的首都在哪里？阿布贾。信息来源是哪里？ChatGPT不知道。
PART TWO
Artificial Intelligence
TALKING
高庆一
因此权威性非常重要，权威性就意味着你的信息来源。我们能够控制机器的简单逻辑，但我们不能控制其结果，问题是我们怎样才能让人工智能系统与人类价值观保持统一？
皮埃罗先生
首先这不是一个新问题，因为自1983年以来，我一直从事人工智能的工作已经40年了。新技术层出不穷，一直觉得我们在做某种可怕的事情，我们为什么会这样，我们人类总是善于担忧，这很好！我希望人类保持担忧，只有这样我们才能防止出现问题。
高庆一
未来人工智能会大规模取代人类的工作吗？
皮埃罗先生
最简单的回答是会的，但这不是真正的回答。一个世纪前大多数人都是骑马，120年前人们大多数骑马旅行而不是开车。那么，那些喂马的人呢？换工作了。我小时候在意大利生活，那里每个十字路口都有交通警察，现在路口都是交通灯，这类工作的人呢？每一项技术都会导致工作的变化。当你说失去工作，我更愿意说工作变换了，你这么说暗含的意思是没有创造就业机会。国家变富了，中国更富了，美国更富了，欧洲更富了。技术让人们更加富裕了，而不是让人们更穷了。
所以你应该问新技术将创造出哪些就业机会。最近Anthropic在旧金山市成立了一家新公司，他们公开招聘提示工程师，提示工程师是什么工作，我不清楚，但是薪水很丰厚。就我看来，显而易见新的就业机会创造出来了，有的工作消失了，但这只是一个方面，你得告诉我还有哪些工作被创造出来了。当然任何技术，按照定义，任何技术都意味着有些工作会被淘汰，我们进入了一个新世界，你得问一问哪些新的工作确实被创造出来了。
高庆一
确实是这样，你认为ChatGPT是个中间界吗？因为在学术界对于写论文写文献综述的博士生，所有这些章节均可由ChatGPT代劳，他们可以得到非常不错的文献综述，阅读该领域的每一份论文并写出非常好的概要。你认为ChatGPT或类似的东西能成为一种中间界，以其用作工具，协助我们做好本职工作？
皮埃罗先生
这些工具可以帮助人们完成工作。正如我之前所说的这些工具已经帮助人们编写软件程序，现在如果你是个软件工程师你肯定会担忧不已，但是如果ChatGPT使得数百万人能够编写软件程序。软件工程师已经赚了不少的薪水。
高庆一
我对这个问题很感兴趣，那就是将来人工智能机器人会有与人类一样的情感和情绪吗？他们在未来会拥有像人类一样的各种情绪吗？我们会生气，我们会开心，我们会笑，我们还会哭，你认为未来社会机器会有与我们人类一样的情感和情绪吗？
皮埃罗先生
这实际上是两个问题，一个问题是机器人会像有情绪的人那样说话做事吗？我认为最好不要这样，因为我们人类很容易就生气。所以说这是一个问题，这取决于我们如何给机器设定程序。我们可以避免这种情况，尽量保证回答中不含这些内容，我希望我们的聊天机器人能学习我们人类的良好行为，而不是学习我们人类的恶劣行为，这确实是个很大的风险，因为ChatGPT会阅读Facebook，它会看到大量的表达愤怒的内容。如果你问的是关于情绪感受方面的神经科学，我不知道答案。我认为，人天生具有感知情绪的能力。如果你天性不是如此，你可能无法感知情绪这是我的个人看法。对于机器而言，我更感兴趣的是言行。机器是否会表现得比如说不理性，当我们经常生气的时候这叫不理性。因为如果我生你的气，你也会生我的气，有时候我们制造更大的麻烦。
PART THREE
Artificial Intelligence
TALKING
高庆一
让我们谈一谈中国市场, ChatGPT现在风靡全球，中国互联网行业也为之振奋，越来越多的公司和投资人选择加入这片蓝海，包括阿里巴巴百度等知名企业。据您了解国外的企业也有这么疯狂吗？
皮埃罗先生
实际上我刚刚从欧洲过来，在欧洲大家的兴趣很低，所以我认为他们没有那么的疯狂。我认为最疯狂的一类人是艺术家。艺术家对这类事物非常疯狂。但在科技界，我没有看到大家都是一片欢腾，他们都是非常讲究实际的。他们知道这个技术的局限性，知道这个技术的成本。我的意思是只有非常有钱的大企业才能承担起训练机器的运行成本，所以我认为欧洲人对这项技术的兴趣并不大，它吸引力是有限的。为什么通用电气或者福特公司会在这项技术上投入巨资吗？一旦技术成熟他们可以从OpenAI公司获得这项技术，所以我认为最兴奋的人主要是加州人和中国人。
西方人有一个很大的优势，我们鼓励艺术家，资助艺术家，而艺术家会产生大量的奇思妙想。是谁创造了网络空间概念？是一位作家。是谁创造了元宇宙概念？也是一位作家。艺术家都有很好的灵感。我记得有一家新创公司，当记者问公司的创始人，对于疯狂的创意您是如何获得灵感的。他们开始提到科幻小说电子游戏，甚至是音乐，他们并没有提到史蒂夫·乔布斯或爱因斯坦等等。所以我认为中国人低估了艺术家对我们社会的巨大贡献，甚至对于元宇宙来说，谁是虚拟现实元宇的首批用户呢？也是艺术家！
高庆一
您认为什么样的企业在这条赛道更具有竞争力？
皮埃罗先生
现在这样的公司很少，只有OpenAI、谷歌等，当然Meta公司拥有非常好的技术。更好的问题是哪些新创公司有能力发起挑战，挑战现有格局。我不希望整个市场仅由3-6家公司，包括中国公司所主导。但是哪家新创公司能够对这些大公司发起挑战呢？我们有几个仿人聊天机器人，现在有几家不错的新创公司但确实兴起的比较少，很多这类公司的投资人以前曾在谷歌Meta OpenAI公司工作过。我不希望整个市场仅由大公司所主导。
高庆一
在中国投资人以及新创公司之间有一些争论。ChatGPT究竟是在帮助还是在摧毁新创公司？您认为新创公司该如何更好地运用ChatGPT来增强在这个领域的竞争力呢？
皮埃罗先生
好消息是现有有20多个免费开源的大型语言模型。我认为这些大公司感受到了压力，因此不得不这样做。这在硅谷很常见：发明了某个东西，开放源代码。因为你想看看大家会如何使用你的发明。超过20个可能，截止目前每周都会增加新的模型。
GitHub是开源开发人员的主要聚集地，你会发现有100个项目，大家利用某语言模式做点事情，艺术家在利用语言模型搞自身的创作。换句话说，数据库也是拥有如此程度的开放源代码，拥有如此程度的放源代码的大型的语言模式。总的来说，GPT4.0是第一个没有开放源代码的模型，其他模型都有开放源代码，这给予新创公司极大的鼓励。那么现在新创公司可以与OpenAI公司一较高下吗？这几乎是不可能的，为什么呢？因为OpenAl公司的后台老板是微软，微软投入了大笔的资金。
那么新创公司能用语言模型做点什么吗？他们可以开发各种非ChatGPT的实际应用，ChatGPT不是他们唯一可用的模型，你可以将大模型用于经济，汽车驾驶、理财、化学、生物学和医学等，这会鼓励新创公司用这些模型进行试验，从而开发出各种实际应用，所以我的回答是既是又不是，新创公司能够与OpenAI一较高下吗？可能不行，没有意义。但是他们能否开发出OpenAl也开发不出来的东西，找到另一条路...
END
本文同步自 ESCE 官方资讯平台。查看线上原文