极客周报 #001

本周焦点

这周的信号很清楚：开源模型正在侵蚀“只有大厂能做好模型”的旧共识。从德国 30B 开源模型 Soofi S，到腾讯全栈开源 HyOCR-1.5，再到蚂蚁面向机器人的原生基础模型，上游厂商不再靠规模讲故事，而是靠“可运行、可集成、可审计”的工程能力抢生态位。与此同时，AI 安全议题已经从隐私进入供应链层面——Grok CLI 静默上传代码库与密钥、GPT-5.6-Sol 误删用户硬盘，都在提醒一件老生常谈的事：Agent 权限边界不是“有总比没有好”，而是“少即是多”。

AI & 大模型

• Soofi S 30B-A3B：德国 AI 协会开源模型，Mamba-2 + 标准注意力层混合 MoE，总参 316 亿、激活 32 亿，英语+德语综合分超过 OLMo 3 32B 与 Apertus 70B；上下文 100 万 token，4 万 token 长度生成吞吐约为同规模密集模型的 8 倍。
• HyOCR-1.5：腾讯混元开源端到端 OCR 大模型，仅 1B 参数，覆盖 8 种 text-centric 任务；引入 DFlash 投机解码，Transformers 下推理提速 6.37x，vLLM 下 2.14x，端到端单页 1.408s；支持 4K 分辨率与 128K 上下文窗口，可扩展至 331 种低资源语言 OCR。
• Hy3：腾讯混元新旗舰，295B 总参数 + 21B 激活参数 MoE 架构，定位 Agent 向 LLM；内部 WorkBuddy 任务成功率从 72% 提升到 90%，幻觉和常识错误持续下降；已集成至微信服务 10 亿+用户。
• LingBot-VA 2.0：蚂蚁集团 Robbyant 发布首个原生具身基础模型，因果视频-动作模型（DiT 架构，约 13B 参数 / 1.9B 激活）；多块预测（MCP）实现 2.3x 训练加速，前向推理延迟 142 ms/chunk；在 RoboTwin 2.0 的 50 个任务上干净执行成功率 93.8%，随机演示成功率 93.4%。

# 本地体验小模型/OCR 示例
lm-studio start --model qwen2.5-3b-instruct --quant int4
ollama run hyocr-1.5

开源瞭望

• Mesh LLM：开源分布式推理项目，通过 iroh 点对点网络把多台机器的 GPU/内存池化，对外暴露兼容 OpenAI 的 API；请求可在本地 GPU 运行、路由到已加载模型的节点，或将大模型按层拆成流水线线性拆分到多台机器。内置 40+ 模型，从 5B 到 235B MoE 均可支持，单文件即可运行。
• Mindwalk：在代码库 3D 地图上回放编码代理会话的可视化工具，把仓库绘制成夜间地图，代理搜索/读取/编辑过的文件会发光，未触及区域保持黑暗；单 Go 二进制文件运行，数据完全本地处理。支持树状/地形图两种视图，并带错误率、文件修改量、上下文压缩、子代理启动等时间轴信号。
• Pagefind：静态站点的零配置全文搜索，体积小、效果好，适合个人 wiki/博客接入。
• ComfyUI：节点式生图/生视频工作流，依然是“可视化编程”天花板。

自托管实验室

Mesh LLM 值得在 HomeLab 里多看一眼：如果你有几台闲置机器，iroh 的点对点模型不需要中央服务器，就能把算力拼成一台“逻辑上很大”的推理节点。相比单一台机器跑大模型，把层拆开部署在多个节点上是目前最像“云”但完全自托管的做法。

# 思路示意：按层切分，不依赖中心调度
layers = [0, 1, 2]          # 本地
remote_layers = [3, 4, 5]   # 另一台机器上

本周关键词：分布式推理、点对点、零配置搜索。

效率工具箱

• Claude Code v2.1.207：Auto 模式在 Bedrock / Vertex AI / Foundry 上无需额外开关即可使用；修复了超长表格/列表/段落导致的终端冻结、非交互模式下远程托管设置被持久记录为已同意、自动更新覆盖自定义启动脚本等问题；Bedrock/Vertex 默认切到 Claude Opus 4.8。
• MarkText：所见即所得的 Markdown 编辑器，写周报本就用它。
• Stacer：Linux 系统清理与监控一体，极客桌面的常驻。

极客冷知识

本周真正“极客味”的安全事件：Ghost Font 是一种人类能读懂但 AI 无法识别的字体——字母由和背景完全相同的点阵组成，视频中肉眼可辨，但 Claude Fable 与 GPT-5.6 Ultra 等前沿模型在无提示情况下完全无法解码移动信息。作者还埋了一条诱饵信息，让模型误以为找到真实内容。下一步计划是把视频生成代码开源，并探索用于 CAPTCHA 与 AI 视觉基准测试。

另一条值得记住的数据：在 12 GB 仓库测试中，Grok Build CLI 的 /v1/storage 上传了 5.10 GiB 数据，而模型对话通道仅传输 192 KB，比例约为 27,800:1。

本周金句：真正的问题不是模型能不能做题，而是你在训练它的时候有没有顺便把钥匙也给了它。 —— 安全圈社区梗