桌面级AI Lab实测：千亿大模型开箱即跑，这个小盒子有点猛
灵启 AI 小盒子由趋境科技与智谱 AI 联合推出，集成 GLM-4.5-air 106B 等千亿参数模型，支持 100K 上下文与多模型并行推理，单并发速度达 30 tokens/s。设备采用图形化界面与 nvFP4 量化技术，实现零门槛部署与高效稳定运行，并内置 LLaMA Factory 微调平台及本地知识库工具，助力开发者快速构建 AI 应用，标志着个人 AI 实验室时代的初步到来。来源：https://mp.weixin.qq.com/s/wHBswMDWDg2CewzB1eH_9A
页:
[1]