新这篇论文《Scaling Laws for Autoregressive Generative Modeling》探讨了自回归生成模型的缩放规律,主要集中在以下几个方面: 1. 缩放规律的识别:研究表明,自回归Transformer模型在生成图像、视频、多模态图像与文本模型以及数学问题解决等多个领域中,随着模型规模和计算预算的增加,性能平滑提升,遵循幂律加常数的缩放规律 内容分享 4天前020