这东西没钱真的玩不起啊,没GPU只能靠CPU,内存是够,但是运行起来实在是太慢了,一个字一个字的蹦
放弃了,完全不如买线上服务。
没必要 ai处于快速发展期 部署完的下一秒 又有新的模型出世了
如果是学习那么买一套GPU机器,一步步debug代码学习。如果只使用,用官方提供的服务就行了。说实话 普通人拥有的资源 是跑不起完全体的,只能跑一些最低配版,最低配效果差很多,
傻啊,这个人pc没有任何意义。 直接用huggingface的chatui或者chatapp,使用蒸馏版的R1,够了,完全调用抱脸的云端算力。免费
本地跑的阉割版没啥意思,智商不够。