145B大模型能本地跑了

Edge0 开源了 145B 参数的本地模型，官方自测在笔记本上峰值内存 29GB、每秒 80 多个 token，DeepSWE 拿了 64.6 分、Terminal-Bench 86.52 分，能媲美部分云端前沿模型；权重和推理框架都已开源，数据不出本机、不用交 token 钱。

来源：https://edge0.ai/blog/introducin ... n-your-own-computer