2026年5月,一个GitHub上仅有17,179颗星的开源项目,做到了各大云厂商砸了数百万美元才勉强做到的事情:在一台机器上以286 tokens/s的速度跑6710亿参数模型。KTransformers不仅仅是一个推理库——它是对如何部署前沿模型而不烧光AWS预算的彻底重新思考。 大多数开发者安
访问原始资源
在原始网站上查看完整项目
Comments