关于自己部署AI大模型踩的坑(一)——硬件篇

如果不在意耗电的情况下(个人跑满的话,功率大概在250W-300W之间),选取退役服务器还是性价比非常高的。其他方面比如CPU,内存,硬盘位置方面,个人觉得应该不存在太大的限制空间,但GPU的可扩展要尤其注意。比如我...