Strata体验:配置不够,本地跑大模型太慢

AI摘要

体验Strata后,模型运行仅7.5 token/s;当前5060Ti+32G(仅15G可用)配置不足。本地跑大模型建议内存64G以上并配5060Ti 16G。

今天下午下载了Strata,体验了下,电脑跑模型还是太慢了,7.5token/s;电脑配置5060ti+32G(只有15G可用);

要本地跑大模型,还是得要加内存到64G以上+5060TI 16g,我这个电脑配置不太行;

Strata

Strata 能下载的模型

Strata models
点赞 0