#开源项目
3 篇文章
相关文章
- 11 min read AI编码
Impeccable:给 AI 编码助手装上设计品味
90k stars 的开源项目,用一个 Skill + 24 条命令 + 62 条确定性检测规则 + 浏览器内变体迭代,专治 AI 生成界面的「AI 味」。讲清它怎么用、62 条规则抓什么、以及哪几条局限必须提前知道。
- 11 min read LLM推理
AirLLM:把显存占用和模型规模解耦
AirLLM 用「按层拆盘 + 单层流式」把 70B 模型的显存占用从 80GB 压到 4GB。本文拆开它的核心机制、显存账、4bit 量化的真实含义、与 llama.cpp/vLLM/GPTQ 的横向对照,以及它为什么不是 serving 框架。
- 14 min read LLM评测
DeepEval v4:把 LLM 评测变成断言
DeepEval 已经到 v4.3.2,定位从 RAG 指标库变成 Agent 评测 harness:三种 Eval Mode 把 LLM-as-Judge 拆成抽取、判定、打分、解释四段,DAG 让你自己定义分数映射。本文也记录了源码核查发现的一条缺陷——判决格式非法时会被移出分母,分数反而虚高。