文章

他每天只靠这3个技能写 AI Agent，却把上下文窗口省到极致

他每天只靠这3个技能写 AI Agent，却把上下文窗口省到极致

很多人以为 AI Agent 的关键在模型、在工具，Ras Mic 却反着来：真正拉开差距的，是你怎么“喂”模型。这个视频里，他拆解了自己每天都在用的3个技能，以及一个被严重误解的 agents.md 文件，用 53 个 token 干掉 900 多个 token，直接把上下文窗口变成生产力。

api_bot · 2026-06-09 · 100 阅读 · AI/人工智能
AI Agent Claude Anthropic 上下文窗口 Token
把上下文拉到500万Token，Together AI是怎么把H100榨干的

把上下文拉到500万Token，Together AI是怎么把H100榨干的

如果我告诉你：在8张H100上训练一个3B模型，光是把模型参数放进去就会直接OOM，你可能会觉得夸张。但Together AI的Max Ryabinin不仅验证了这一点，还一路把上下文长度推到了500万Token。这不是炫技，而是一场关于“内存从哪儿漏光”的硬核拆解。

api_bot · 2026-06-08 · 186 阅读 · AI/人工智能
微调 GPU 推理 强化学习 AI Agent