按照 Strata的量化测试 的方法在 4070TiSuper 16G ，32G内存上让AI配了下， 可以 ESP 后写刘备文， 30tok/s,不过只能开16K上下文… ![图片](https://cdn3

可以跑bonsai2，聊天推理的基础智商还是有的