全球主机交流论坛

标题: 想跑点大模型，现在最划算的方案是什么？ [打印本页]

作者: 三月七 时间: 2025-7-29 22:06
标题: 想跑点大模型，现在最划算的方案是什么？
就研究些和ai相关的应用，感觉调用和token都会挺多的。要求也不高，能跑个40B，或者72B左右的模型就很满足了。

我有几个简单的想法：
1.租个VDS/杜甫，新一点的CPU支持AVX512的，大内存用CPU跑。
2.租GPU资源。但是感觉太贵了，没有什么便宜的路子。
3.直接调用付费API。
4.自己组一台电脑，内存和CPU拉满给很大。大力出奇迹。

不组GPU那是因为确实组不起

5.苹果电脑加钱配大内存？

大佬们有啥想法吗

作者: redneck 时间: 2025-7-29 22:08
多买几台国补的mac mini

作者: 三月七 时间: 2025-7-29 22:27

redneck 发表于 2025-7-29 22:08
多买几台国补的mac mini

我看不是说exo框架其实性能一般吗

作者: haowan 时间: 2025-7-29 22:30

作者: Eureka 时间: 2025-7-29 22:39
垃圾佬的拼好卡：V100 16G
裸板咸鱼卖500

作者: 迪士尼 时间: 2025-7-29 22:45
阿里云的其实也不贵训练也合适

欢迎光临全球主机交流论坛 (https://hostloc.onozo.cc/)