全球主机交流论坛

标题: 洋垃圾焕发第N春 [打印本页]

作者: 长得不行 时间: 2025-3-21 10:03
标题: 洋垃圾焕发第N春
E5洋垃圾+计算卡洋垃圾居然能跑deepseek 671b

花了不到3000，居然能跑到2.4 token，属实老黄的掘墓人

作者: plyu007 时间: 2025-3-21 10:04
2.4 token，我还不如用免费的，你说呢？

作者: Eureka 时间: 2025-3-21 10:06
CPU能跑，但是上下文长度是个瓶颈，gpu的瓶颈还是要高一些。

作者: 长得不行 时间: 2025-3-21 10:07

plyu007 发表于 2025-3-21 10:04
2.4 token，我还不如用免费的，你说呢？

3000块要啥发动机啊免费的不让折腾，虽然2.4但各种姿势随意摆弄

作者: backlight 时间: 2025-3-21 10:08
低于10基本没法用

作者: Fightlee 时间: 2025-3-21 10:10
我还不如冲api

作者: fondy 时间: 2025-3-21 10:12
还是充api划算

作者: sbin 时间: 2025-3-21 10:17
确实还是买API划算

作者: jamesbonde 时间: 2025-3-21 10:33
AI这种东西，只有顶级的才有存在的必要

作者: munmun 时间: 2025-3-21 10:54
什么配置

作者: 长得不行 时间: 2025-3-21 20:36

munmun 发表于 2025-3-21 10:54
什么配置

2696v3 + 鲸鲨x99主板+32G*8 ddr3 ecc内存+50HX*2

瓶颈在内存，换ddr4好些，估计最多能到4 token，但内存要贵4倍，划不来

欢迎光临全球主机交流论坛 (https://hostloc.onozo.cc/)