第19章　人在回路与责任边界

第19章 人在回路与责任边界 19.1 一个必须先回答的问题 一个工程 Agent 可以理解目标、检索经验、生成方案、在仿真中迭代、给出建议。技术上，它也可以直接生成修模指令，甚至下发到加工设备。 它应该这样做吗？ 这个问题必须在 Agent 进入真实产线之前回答。回答它，不只是为了安全，也是为了让 Agent 能够被组织接受。一个模具工程师看到“AI 自动生成修模指令并执行”，第一反应不会是效率提高了，而是：出了问题谁负责？ 19.2 责任不随执行转移 本书的基本立场是： 责任不随执行一起转移给 Agent。 有三层理由。 制度上的理由。 汽车行业的质量管理体系要求每一个放行决定都有明确的责任人，产品责任在法律上也需要落到具体的组……