# 2026-03-05 工作日志 ## 飞书对话:张青 (ou_9351c287f42069fa30366ac641d24df7) ### 主题:AI"边说边想"架构探讨 张青提出了一个有趣的问题:能否给AI强制设定思考时间(1-3秒),然后开始输出,同时后台继续思考?模拟人类聊天方式。 **讨论要点**: 1. **Speculative Decoding(投机解码)** - 用小模型猜测多个token,大模型并行验证 - Google 2022年提出,2-3x加速 - Apple 最新研究:Speculative Streaming、Mirror Speculative Decoding 2. **Cascaded Inference(级联推理)** - 问题按难度路由到不同模型 - FrugalGPT、LLM cascade、MoE 3. **"边说边想"的难点** - 当前注意力机制不支持"暂停-继续-修改" - 没有分层推理架构(快/慢系统) - 需要编排层而非单一模型 4. **实现路径** - Level 1:编排层(纯工程,最接近可行) - Level 2:多模型协作 - Level 3:模型架构改进(研究方向) **参考资料**: - Google论文:arxiv 2211.17192 - Apple研究:https://machinelearning.apple.com/research/llm-inference ### 完成:检查 MEMORY.md 文档 ✓ 张青在"00.收件箱/MEMORY.md"写了一份OpenClaw代理工作指导文档。 **处理过程**: 1. 用户提示需要从NAS用rclone同步 2. 同步后发现文件名是 `MEMORY.md.md`(双重扩展名) 3. 润色内容:结构优化、表格化、格式统一 4. 修正文件名,删除旧文件 5. 同步回NAS **文档内容**: - 安全规则(禁止修改openclaw.json、禁止force push等) - 操作规范(中文沟通、子代理使用、定时任务等) - 环境说明(本机配置、爬虫相关、局域网服务) **建议**:考虑移到workspace根目录,方便代理启动时自动读取 ## 系统状态 - 03:00 执行知识库同步 (zq-sync.sh) ✓ - 03:00 执行 OpenClaw 备份 (git-auto-sync.sh) ✓