肖涵:其实这些 AI 辅助编程工具,都是为了帮助开发者能有更好的编程体验。只不过 AI 发展到今天已经非常强大,它可以自动把代码写完,而不仅仅是填函数名这么简单。 但是今天所有的AI都没有到达取代开发者的程度,开发者本身还是那个最终的决策人。AI 所生成的代码,仅仅是一个参考。
瘦驼:作为一个文字工作者,我还是想把这件事映射到「自然语言」的领域来。
首先,让 AI 生成一段没有任何语法错误的代码没有那么难。在自然语言里有大量不符合逻辑和语法的东西,我们在说话的时候并不是严格遵循某种规律的。但代码本身是严格遵守语法的,它有一套通用的逻辑。
第二点,我觉得码农其实不必太紧张,对于文字创作者来说,我们在前几年已经碰到过类似的挑战了。现在一些固定格式的文本已经大量地由 AI 生成,比如比赛结果、股市播报、天气预报。对于这种有规律可循的文本来说,AI 写得比人快多了。但是想让 AI 写一些有创造性的东西还是非常困难的,因为创造性本质上是对现有逻辑和体系的挑战,甚至创造性包含了允许 AI 犯错。对 AI 来说,它很难保持一定的个性,比如《红楼梦》里,贾宝玉的诗和林黛玉的诗就有明显的不同。这种能力,AI 现在可能还很难做到。 肖涵:我觉得性格的差别,无非就是训练语料的不同。如果我想生成一个朦胧派诗人的风格,我就把所有朦胧派诗人的语料收集起来,训练一下就可以了。
所以我觉得对 AI 最重要的还是数据。算法模型如果能更好地挖掘数据,把数据的价值充分利用起来,那其实所谓的性格也就达成了。
袁进辉:我来补充一个反方向。按照肖涵的逻辑,那如果没有朦胧派的语料,就生成不出朦胧派的 AI;如果没有梵高这个人,就训练不出梵高风格的绘画。所以 AI 在创造层面,本质上还是更像一种记忆,差别在于是一种机械的记忆还是比较聪明的记忆,但其实都跳脱不出原有的范畴。
专业术语里有两个词,「exploitation」和「exploration」。exploitation 指的是保守地在应有的范围内工作,exploration 指的是在范围之外探索。
也许我们需要给 AI 一点犯错空间。
袁进辉:其实 AI 的模型是很脆弱的,非常容易被攻击。实际上训练 AI 模型的就是一堆数据,简单理解就是高维空间中的一个方向。如果进来的数据是沿着这个方向的,AI 就判断得很准。如果进入的数据和那个方向垂直,那 AI 的判断就会出错。
前几年有人在特斯拉的激光雷达上做了一个实验,用一个小纸片稍微改变一下传进去的信号,特斯拉的识别就出错了。
张鹏:前段时间我还听到过这种观点。就图像识别技术而言,在最初构建 ImageNet(视觉影像网数据库)的时候,因为当时数据的局限,导致现在形成了一些偏差,比如 AI 对人类的歧视问题。但今天 ImageNet 已经成为了一个基础设施,无数人在这之上构建了新的设施,这种偏差就成为了一个逐级感染的问题,越来越难以克服。
可能在某些时刻,需要一个根本性的重启,才能解决这个问题。
在基础科学领域,AI 能够发挥哪些作用?
瘦驼:对于很多数据敏感型的行业来说,AI 确实解放了很多科学家,让这些科学家可以去做更多有创造性的工作。
之前讨论过,在人类的天文学家中,最容易被 AI 取代的可能是埃德文·哈勃。他花了几十年时间,从大量数据中发现了星系的「红移-距离关系」。这本质上是一个数据相关性的问题,放在今天的 AI 身上,可以立刻发现这种数据间的规律。
又比如说快速射电暴,它以前经常被人忽略。因为快速射电暴太短暂了,很容易被认为是数据中出现的一个异常。但是有了 AI 这样的工具后,它就可以从这些不断出现的偶然异常中发现规律。
我觉得 AI 的出现改变了科学发现的范式,让我们具备了从数据中找出被忽略的规律的能力。
肖涵:我对 AI 能力的增强是非常有信心的。但是,在目前这套方法之下,我认为 AI 可能最终无法产生自我意识。
可话说回来,难道AI一定要有自我意识吗?
50 年后可能 AI 仍然没有自我意识,但它可以解决非常多重要的问题,要比人类解决得好得多,这个时候你会愿意承认这种形态的东西是「智能」吗?
袁进辉:我倾向于从正面理解这件事,就是 AI 可以解放人类,让人类去追求更本质的东西,就好像蒸汽机把我们从体力劳动中解放出来一样。
这让我想起了刘慈欣的小说《朝闻道》中的一个设定:地球人可以向外星人提任何问题,外星人会告诉你正确答案。但代价是知道答案后,这个提问者会立刻死去。但最终有一个人问了外星人这样一个问题:宇宙的目的是什么?
外星人也不知道,于是他崩溃了。
瘦驼:我觉得对于 AI 的思考有几个层面。
一个是哲学层面上的。我认为如果未来AI变得像人一样,那一定是失败的 AI。他有人的缺点,有人自己都搞不清的逻辑错误,那我们为什么要造 AI?直接造人不是简单得多吗?我们之所以要造 AI,一定是它可以解决人类解决不了的问题,这样 AI 才有意义。
另外我也有一些应用层面上的顾虑。刚刚几位也说到,AI 很脆弱。如果我们已经高度依赖 AI 了,一旦底层的东西有问题,会造成非常大的影响。
然后是关于解释性的困局。解释性的困局其实是用来解放人类自己的,就是想求一个安心。但即便这个说法本身没有意义,也一定会让很多人心生警惕。这种警惕,从人作为社会性动物的角度来说,就会对 AI 的发展产生影响。我们需要有一定的准备,不要让这种警惕发酵到一个比较尖锐的地步,那到时状况就比较糟糕了。
张鹏:我觉得真正的问题是,AI今天还有大量的基础工作要做好。我们可以确定,AI 会成为人类未来文明进程中重要的伙伴,但它距离这个角色,其实还有很长的路要走。
今天我们对于 AI 的探讨,如果是针对「不要犯一些基础错误」,是有意义的。但在 AI 能力还比较羸弱的时候过度讨论「自我意识」之类的话题,其实是很务虚的。
图片来源:Unsplash,DeepMind