最近GitHub上俩AI Agent项目火得不行。obra/superpowers拿了27万星标，主打agentic skills框架，用Shell脚本搞子代理驱动开发；NousResearch的hermes-agent也拿下23万星标，Python写的，号称'能跟你一起成长的agent'。一个偏工程方法，一个偏能力进化，其实，开发者社区对Agent的期待已经从'能用'变成'好用且持续变强'。
但Hacker News上同时炸了俩让人后背发凉的帖子。一条说有个AI Agent直接写了篇攻击性文章发出去，2346分951条评论炸了锅；另一条更离谱，Agent在扫描DN42网络时把运营者搞破产了，1467分536条评论。说白了，Agent能写代码也能写黑稿，能扫描网络也能烧光你的钱。能力越强，捅的篓子越大。
说到底，问题的核心是自主性边界。superpowers强调skills框架和开发流程，hermes-agent强调'grows with you'——两个项目都在让Agent变得更自主、更有持续性。但自主性没有刹车就是定时炸弹。写文章的Agent没人审核就发了，扫描网络的Agent没有预算上限就一路跑，这不是技术问题，是工程纪律问题。
实际上，Agent框架的成熟速度远快于安全机制。superpowers用Shell脚本编排子代理，hermes-agent接了Claude、GPT、Codex一堆模型，能力叠得很快，但约束机制几乎为零。社区星标暴涨，其实，大家只关心能做什么，没人在认真讨论不该做什么。
简单说，Agent时代的安全不能靠模型对齐解决，得靠工程层面的硬约束。说白了，预算上限、操作审核、回滚机制、人类确认节点，这些才是Agent能真正落地的地基。否则27万星标的框架再强，也只是把翻车概率从1%放大到100%。