周大 发表于 2025-7-23 14:11:00

Meta开源创新大模型架构AU-Nets

Meta研究人员开源新型语言模型架构AU-Net，采用源自医学图像领域的U-Net结构，突破传统固定分词方法的限制。该模型可直接从原始字节动态组合生成多尺度文本单元，通过收缩路径提取层次化语义信息，并由扩张路径融合细节恢复序列。其自回归生成机制在保证文本连贯性的同时提升推理效率，为大模型在多语言、复杂文本场景下的应用提供了新思路。
来源：https://tech.ifeng.com/c/8lCQCoaDypY
页: [1]
查看完整版本: Meta开源创新大模型架构AU-Nets