我想知道有没有人在本地部署deepseek R1,该怎么才能尽量降低硬件需求?
我试过8B的,用的3060Ti,还算是能流畅运行。32B就带不动了
用低精度量化和小参数量模型
可以试试ktransformers
我买了个7900xtx,目前最便宜的全新能跑32B的卡了 如果低预算,咸鱼魔改2080ti 22G请,炸了别找我哈 你买我不推荐,我用我也不买,奈何钱包空空空
不建议本地部署,电脑带不动