尘封10年录音曝光：Ilya大二师从Hinton，2015年已预见深度学习革命

Ilya Sutskever在2015年接受播客采访时展现了对深度学习的前瞻洞察，准确预示了如今由LLM和Transformer主导的AI时代。作为数学背景出身的研究者，他指出机器学习依赖归纳推理，看似违反直觉却极具成效。他强调监督学习的重要性，并认为深度神经网络虽结构复杂，但核心原理简单易懂。他主张深度学习是一门“够好即足矣”的务实科学，重视数据而非架构创新，并指出模型初始化对训练效果的关键作用。尽管当时Transformer尚未发布，ChatGPT尚属未来，Ilya已预见到神经网络的巨大潜力，其观点至今仍具现实意义。
来源：https://mp.weixin.qq.com/s/YfMVQGUcNEzvIASt9DMdrQ