建站企业网站免费域名备案

建站企业网站,免费域名备案,网站定制开发优点,温州微网站那么#xff0c;它取决于什么#xff1f;当我用 AI 写代码时#xff0c;我会不断做一些微小的风险评估#xff1a;是否信任 AI#xff0c;信任到什么程度#xff0c;以及我需要投入多少精力去验证结果。随着我使用 AI 的经验越来越多#xff0c;这些评估也会变得更精准、…那么它取决于什么当我用 AI 写代码时我会不断做一些微小的风险评估是否信任 AI信任到什么程度以及我需要投入多少精力去验证结果。随着我使用 AI 的经验越来越多这些评估也会变得更精准、更直觉。风险评估通常由三个因素构成概率影响可检测性围绕这三个维度进行思考可以帮助我决定是否把任务交给 AI、是否需要审查生成的代码、以及审查到什么样的细粒度。这也能帮助我在想要利用 AI 的速度时思考可以采取哪些缓解措施来降低它做错事情的风险。1. 概率AI 把事情做错的可能性有多大下面这些因素有助于判断“概率”这个维度。了解你的工具AI 编码助手的效果取决于所用模型、工具内部的提示编排以及助手与代码库和开发环境的集成程度。作为开发者我们无法掌握所有底层细节尤其是在使用闭源工具时。因此对工具质量的评估既来自于它宣称的功能也来自于我们以往对它的真实使用体验。这个用例是否“适合 AI”你的技术栈是否在训练数据中占比较高你希望 AI 生成的解决方案有多复杂AI 需要解决的问题规模有多大你也可以更普遍地考虑你当前处理的是一个对“正确性”要求很高的用例还是不是。比如是在按设计精确还原一个界面还是在草拟一个粗略的原型界面。注意可用的上下文概率不仅与模型和工具相关也与可用的“上下文”相关。上下文包括你提供的提示以及代理通过各种工具调用所能访问到的所有信息。* AI 助手对你的代码库的访问是否足够从而能做出好的决策它是否看到了文件、结构、领域逻辑如果没有它生成无用内容的概率就会上升。* 你的工具的代码搜索策略有多有效有些工具会索引整个代码库有些会对文件进行类似即席的 grep 搜索有些会借助 AST抽象语法树构建图。了解你的工具采用什么策略会有帮助尽管最终只有使用体验才能告诉你该策略到底效果如何。* 你的代码库是否“对 AI 友好”也就是是否以一种便于 AI 处理的方式进行结构化它是否模块化边界与接口是否清晰还是一个很快就把上下文窗口塞满的“泥球”* 现有代码库是否在“树立好示范”还是充斥着各种 hack 和反模式如果是后者那么如果你不明确告知什么是好的示范AI 生成更多同类问题的概率会升高。2. 影响如果 AI 做错了而你没有注意到后果是什么这个考虑主要围绕“用例”本身。你是在做 spike 还是生产代码你是否对正在开发的服务承担值班责任它是否对业务至关重要还是只是内部工具一些有用的自检问题* 如果今晚你要值班你会把这段代码上线吗* 这段代码的影响半径是否很大比如被很多其他组件或消费者使用3. 可检测性当 AI 做错时你能否察觉这关乎“反馈回路”。你的测试是否健全你是否在使用强类型语言你的技术栈是否让失败更显而易见你是否信任工具的变更跟踪与 diff它也与您对代码库的熟悉程度有关。如果你对技术栈和用例足够熟悉你更可能在第一时间发现可疑之处。这个维度很大程度上依赖传统的工程技能测试覆盖率、系统知识、代码评审实践。而它也会影响到即便由 AI 来做改动时你能有多大的信心。传统技能与新技能的结合你可能已经注意到许多这些评估问题需要“传统”的工程技能另一些则需要新的与 AI 相关的技能与经验。三大维度的总结.png把三个维度结合起来审查力度的滑动刻度当你把这三个维度结合起来时它们可以指导你的监督力度。让我们用两个极端的例子来说明这点* **概率低 影响低 可检测性高** Vibe Coding 没问题只要事情能正常工作并达成目标我就完全不审查代码。* **概率高 影响高 可检测性低** 建议进行高强度审查。假设 AI 可能是错的并为此做好兜底。当然大多数情况都介于两者之间。三维度的两个极端情况.png示例遗留系统的逆向工程我们最近为某客户做遗留系统迁移第一步是借助 AI 生成现有功能的详细说明。* 错误描述的概率为“中等”* 工具我们不得不使用的模型经常无法很好地遵循指令* 可用上下文我们无法访问全部代码后端代码不可用。* 缓解措施我们多次运行提示以抽查结果差异并通过分析反编译后的后端二进制来提升信心。* 错误描述的影响为“中等”* 业务用例一方面该系统被组织的数千名外部业务伙伴使用所以重建错误会带来声誉和营收风险。* 复杂度另一方面应用的复杂度相对较低因此我们预计修复错误会相当容易。* 计划中的缓解措施新应用的分阶段发布。* 错误描述的可检测性为“中等”* 安全网没有现有的测试套件可以进行交叉验证* 专家可用性我们计划引入领域专家进行审查并创建功能对等的比对测试。如果没有这样的结构化评估很容易出现审查不足或过度审查。通过校准我们的方法并规划缓解措施我们避免了这些问题。结语这种微观的风险评估会逐渐成为你的第二天性。你用 AI 越多就越能对这些问题形成直觉。你会逐渐感知哪些改动可以信任哪些需要更仔细的检查。目标不是用清单拖慢自己而是形成一些直觉性的习惯帮助你在利用 AI 的能力与降低其副作用风险之间找到平衡。