我们误以为能控制 Agent

架构正在从聊天机器人转向自治智能体：能跑多步工作流、连数据库、调外部 API、甚至处理金融交易。但主流软件架构从没为「非确定性逻辑」设计过。当你把大模型生成的一段不可信字符串直接传入运行时，就引入了一个巨大的爆炸半径（blast radius）——一次幻觉或一次未预料的提示注入，就可能造成灾难性的状态错误、误改数据库或超支 API 调用。

「提示词 + 祈祷」的代价

为了不让 Agent 搞破坏，团队写大量脆弱的包裹层代码，靠运行时检查和防御性应用层逻辑兜底。但安全和可预测性不该是事后由框架补的——作者认为，它应该被编译器从根本上强制保证。

思路：给 Agent 专用的领域语言

顺着这个想法，文章作者做了一个叫 Staal 的专用领域语言（DSL），专门面向「软件 + Agent」这类系统。核心不是再来一层 prompt 工程，而是把约束写进语言本身：

• 让「智能体能做什么」在语言/编译层面就被限定；
• 把不可信输入和可信指令从结构上分开；
• 用确定性的机制替代「希望它别乱来」。

对普通人的启发

你不一定会去写 DSL，但这个趋势值得记住：AI 智能体的可靠性，会越来越依赖「工程化约束」而不是「话术约束」。日常用 Agent 时，少给它开全局权限、把它关在沙箱里、对不可逆操作加人工确认——本质都是同一件事：别再只靠提示词碰运气。

文章提到的 Staal 为作者个人开源项目，具体形态以项目当前状态为准。