谷歌AI掌门人Jeff Dean对话Transformer作者：AI提速300%，1000万倍工程师要来了

谷歌首席科学家Jeff Dean与Transformer作者Noam Shazeer探讨了AI发展的关键技术和未来方向。他们分享了低精度计算使模型提速三倍的技术，并回顾了早期AI突破如“猫神经元”。两人强调了专用计算设备（如TPU、GPU）对深度学习的推动作用，讨论了量化模型的发展趋势。展望未来，他们提到处理万亿级别Token的挑战与可能性，强调AI安全性的重要性，特别是目标对齐问题。此外，还预测AI将为社会带来巨大效益，提出“1000万倍工程师”的生产力跃升愿景。
来源：https://mp.weixin.qq.com/s/O7VEu7wwdGheYiynm-ifYw