Anthropic CEO：大模型能力飞速提升，AI 风险在于被恶意利用

Anthropic 公司的 Claude 3.5 Sonnet 被认为是目前综合能力最强的基础模型，其能力在过去一年内从 3% 提升到 50%，预计再过一年可达 90%。CEO Dario Amodei 与 Lex Fridman 讨论了大模型的发展，包括计算规模、数据量和算力的线性扩展将继续推动模型性能提升。Anthropic 通过发布 Artifact 和 Computer Use 功能引领了 AI 开发的新方向，但不打算开发自己的 IDE，而是通过 API 支持其他公司开发工具。RLHF 主要是改善了模型的沟通能力，而不是使其变得更聪明。AI 的风险主要在于被恶意利用，而不是自主意识。AGI 可能在 2026 年或 2027 年实现，但实际时间线仍存在不确定性。AI 在生物学和医学领域的早期应用将类似于研究生的角色，辅助科学家进行研究。
来源：https://mp.weixin.qq.com/s/enM6wA4PCQew9poQrxDTKQ