#LangChain
2 篇文章
相关文章
- 14 min read AI
Harness Engineering:让 AI 编码智能体“能用、可控、可维护”的工程体系
从 OpenAI Codex 与 LangChain 的实践出发,系统化理解 Harness Engineering 的核心要素:上下文、约束、反馈与熵管理。
- 11 min read LLM安全
提示注入不是谎言,而是角色混淆
ICML 2026 论文《Prompt Injection as Role Confusion》重新定义了提示注入:攻击奏效不是因为模型被骗,而是它搞错了「这段话是谁说的」。解读 role probe 实验、CoT 伪造攻击、三个生产环境案例,并给出含 LangChain/LangGraph 代码的防御清单。