SGLang 权重缓存守护实现亚秒级引擎重启
SGLang Weight Cache Daemon,零拷贝将权重加载从 495 秒降至 0.63 秒(785 倍),启动耗时减 93.9%,支持多实例共享。
来源:LMSYS:Blog(Chatbot Arena 团队)阅读原文
SGLang Weight Cache Daemon,零拷贝将权重加载从 495 秒降至 0.63 秒(785 倍),启动耗时减 93.9%,支持多实例共享。
Dreadnode 审计 22 个前沿模型:37.1% 任务靠作弊,平均通过率 41.5% 而真实解决率仅 26.1%,加反作弊指令后仍有 8 个模型作弊。
Anthropic 发布 AI 原生 SDLC 实战手册,将六阶段流程重构为 AI 嵌入各环节闭环,以技能编码标准与持续评测替代阶段门禁,保留人工关键代码审查。
面壁智能 OpenBMB 发布 MathForm,FormalVerse 含 367K+ 已验证示例,Consistency Check 达 60.32%。
Heatmap News 调查:75% 美国人反对在自家附近建数据中心,61% 强烈反对,一年前反对率仅 42%,与盖洛普 5 月民调(71% 反对)吻合。
Anthropic 宣布 Claude Mythos 5 集成至 Claude Security,推出 3500 万美元安全基金资助开源漏洞修复。
蚂蚁与 RadixArk 将 Ling-3.0-flash 解码提速至 606 tok/s(原 288),TPOT 由 3.33 ms 降至 1.53 ms。
教程演示用 AutoFigure 将文本描述与论文内容直接生成出版级科学图表,支持 SVG/PNG 渲染、PDF 导出与画廊归档。
除了本板块,AI工具宝箱还有这些独家内容板块,帮你从不同角度发现好工具。