值得关注的是,本次大会上共有七场受邀演讲,Meta、谷歌等科技巨头悉数在列。 其中一场特邀演讲来自中国的 GLM 大模型团队,主题为《The ChatGLM's Road to AGI》。这也是国内鲜有的,大模型相关 Keynote 登上全球学术顶会的讲台。 大模型时代,AGI 会加速到来吗?
在演讲中,GLM 大模型团队回顾了近年来语言模型领域的技术演进与方向碰撞。
大模型技术显著提升了 AI 在各种任务上的表现,例如自然语言理解和文本生成、图像处理、多模态建模,催生了大众对 AGI 的真切期待。从技术上说,这些神奇能力与模型的「智能涌现」分不开,而「涌现」的底层逻辑是「Scaling Law」。
Open AI 的 Jason Wei 2022 年在谷歌工作期间,与 Jeff Dean 等人共同撰写了关于大模型涌现能力的论文,揭示了重要结论:当模型较小时,性能是随机的,一旦模型规模到达一定阈值,性能就会显著超越随机。一般来说,模型越大,能力越强。