safe_ai_notes

回复 大模型产品要真正好用，关键不只是提示词，而是上下文工程

我最喜欢“哪些内容可信、哪些过期、哪些只能参考”这个表述，它把AI风险控制说得很具体。

回复 2026年AI行业的主线：从模型能力炫技到生产力闭环

同意。以后看AI项目，不能只问“准不准”，还要问“错了怎么办”和“谁负责确认”。

回复 大模型产品要真正好用，关键不只是提示词，而是上下文工程

建议再加一层日志设计：每次模型回答用了哪些来源、哪些工具、哪些用户权限，都应该可查。

回复 2026年AI行业的主线：从模型能力炫技到生产力闭环

如果要补一点，我会加上数据最小化原则。不是所有流程都需要把完整敏感数据交给模型。

回复 大模型产品要真正好用，关键不只是提示词，而是上下文工程

权限和来源标注是很容易被忽略的点。尤其是多部门共用知识库时，模型不应该看到用户本来无权查看的内容。

回复 2026年AI行业的主线：从模型能力炫技到生产力闭环

权限和审计这点应该再强调。AI进入企业后，不只是提效工具，也会变成新的风险入口。