Wei

我真的在家里装了一个数据中心。 Rackmate T1 机柜里放着两台 DGX Spark，再加一台 M4 Mac mini。 256GB 统一内存，TP=2，接近 Opus 的性能。 这几位随时都能听我调遣： GLM-5.3-Flash EXL3 Qwen3.8-Flash-Next DeepSeek V4 0731 Flash 没有机房噪音，没有五小时限额，也不会按 token 从银行卡里匡匡扣钱。 只有机柜、网线和电费。 它们随时接受我的命令，不会因为地区、账号和额度突然拒绝工作，也不会把我的代码、数据和隐私送上云端。 Codex 何时 reset 跟我无关，不用跪求 T…

很多朋友在问这套家庭 AI 数据中心的 Build List，先把硬件部分整理出来。 机柜 Rackmate T1 8U $119.99 计算节点 NVIDIA DGX Spark $4499 × 2 每台 128GB 统一内存，总计 256GB 双机 TP=2，可以运行 400B 级量化模型 双机互联 ASUS Ascent GX10 0.4m 400G QSFP112 DAC Cable $175.99 管理节点 M4 Mac mini $399 16GB 内存 + 256GB SSD 主要运行 Hermes Agent 和 DeepSeek Harness，安静、稳定、省电 局…

从 DGX Spark 到即将推出的 M5 Ultra，本地硬件已经足以给大多数人非常好的体验。云端模型会继续变强，但用过本地 AI 也已经回不去了。 昨天开始在本地测试了 Qwen3.8-Flash-Next 和 GLM-5.3-Flash，现在用 1-2 台 DGX Spark，或者一台 Mac Studio，就已经能跑出接近前沿模型的体验。 哪怕 Astra 和 下一代 Fable 级别的模型很快发布，依然会有越来越多人选择本地部署。因为本地模型没有限额焦虑，数据掌握在自己手里，可以长期跑 Agent，成本也更加可控。

今天把两台 DGX Spark 的双机推理环境重新搭了一遍。 两台机器通过 200Gbps ConnectX-7 直连，GPU 固定在 1800MHz。目前的主力服务是 Mia 方案的 DeepSeek V4 Flash Vision Exp。 当前配置 TP2 1M context NVFP4 KV Cache DSpark k=6 默认 Max Thinking 支持请求级关闭思考 支持工具调用和原生图片输入 支持 Prefix Cache 实测 KV Pool 为 2,031,542 tokens，可以容纳约 1.94 条完整的 1M 请求。 并发测试统一使用 400 输出 t…

这个很适合拿来做个人知识库和第二大脑的随身输入接口。 平时在微信里随手发送文字、图片、视频、文件或语音，内容就会自动保存到本地 Obsidian。先解决“随时记录”的问题，再让 AI 定期整理、打标签、建立关联并更新知识库。 第二大脑最难的从来不是整理，而是让输入足够顺手。微信本来就是每天必开的应用，这条工作流很值得试试。