每日 AI 情报
MLflow 重新校准自定义模型目录、Agent/LLM Trace 成本与并发评测;Milvus 3.0 修复 JSON、embedding-list 与多库配额三条完整性边界;Open WebUI 则把知识轮询权限、archive 大小守卫和 folder 临时会话连成同一验收链。目标交易样本仍为空,本期只收可回勾证据。
公开 AI 机会情报
01MLflow|自定义模型目录重新接管 Trace 成本,并发 DeepEval 不再串到别行
11 月 1 日 00:22–07:02(上海时间)合并的三项修复,先让显式设置的
MLFLOW_MODEL_CATALOG_URI在安装 LiteLLM 时仍优先用于 Trace 成本和 Gateway budget;官方复现中,一个每百万 token 10 美元的自定义 Ollama 模型从总成本错误记为 0,恢复为输入 0.01 美元 + 输出 0.01 美元。随后 SQL tracking store 停止给含汇总 token 的AGENT父 span 重复定价,改为汇总子 LLM span,并补记 Strands cache read/write token;同一复现的 Trace 成本由 0.00975 美元恢复为 0.07975 美元。DeepEval 并发评分则改为每次调用复制 metric,复现由 20 次中 19 次串到别行结果降为 0 次,真实 40 次并发由 22 次错误降为 0 次。→ 为什么现在:目标日一次改正“模型单价从哪里取、agent 层成本算哪一层、评测结果属于哪一行”三本账;旧结果可能同时低估模型支出并把错误评分写给另一条样本。→ 今天能做什么:用 ≤2 小时固定一份自定义目录、一个带父AGENT+ 两个子 LLM span 的 Strands Trace,以及 20 行并发 DeepEval 数据;交付 model/provider、catalog/litellm 单价、input/cache/output token、span cost、trace cost、row ID、score/reason 表,成功信号是目录中的显式价格胜出、父 span 不重复计费、子 span 成本可加总且 20 行评分零错配。→ 怎么变现:可卖“MLflow 模型成本账本 + 并发评测验收”,帮跨 Provider 买方找回被记成 0 或算错层级的成本,并避免基于错评分扩量。相关链接:自定义目录价格优先级 · Agent/Strands 成本汇总 · DeepEval 并发隔离02Milvus 3.0|JSON 索引空值崩溃、nullable embedding-list 与数据库配额映射同日修复
11 月 1 日 01:35–05:21(上海时间),Milvus 3.0 先让 QuotaCenter 从同一份 RootCoord metadata snapshot 建立全部 collection→database 映射,使没有 node metrics 的 WAL 落后 collection 仍能被正确限写;随后把 embedding-list field hint 传入 disk-index loader,并升级 Knowhere 3.0.18,在 mmap 开关两条路径恢复 nullable element validity;JSON ARRAY 索引也改为让路径缺失或空数组的有效行返回可解释的空值,并在写入时拒绝 invalid JSON,避免 HYBRID / STL_SORT 的 unset document 触发
SIGSEGV。→ 为什么现在:目标日把“写入是否被配额挡住、磁盘索引加载后 null 语义是否还在、空 JSON 行会不会让建索引进程崩掉”三条生产边界同时补进 3.0 分支;这直接决定多租户 RAG 的数据和额度是否可信。→ 今天能做什么:用 ≤2 小时在隔离 3.0 集群建立三组夹具:含缺失路径/空数组/invalid JSON 的字段、含 nullable embedding-list 的 disk index(mmap on/off)、两个 DB 中一条 WAL lagging collection;交付 write/index/load/query 终态、row/element validity bitmap、collection→DB、quota deny 与日志表,成功信号是有效空值不崩、invalid JSON 明确拒绝、两种 mmap 的 null 语义一致且落后 collection 在无 node metrics 时仍被限写。→ 怎么变现:可卖“Milvus 3.0 RAG 数据完整性 + 多租户配额准入”,在迁移或扩容前挡住索引崩溃、null 语义漂移和跨库额度误放行带来的停机与超额成本。相关链接:JSON 索引与 invalid JSON · nullable embedding-list 磁盘加载 · QuotaCenter 数据库映射03Open WebUI|知识文件轮询每次重验读权限,改名压缩包按内容识别,Temporary Chat 不再丢文件夹上下文
11 月 1 日 08:06–08:18(上海时间),Open WebUI
dev分支连续合并三项边界修复:document loader 在执行归档大小检查时不再只信文件名,而按内容识别 archive;pending knowledge files stream 每次 poll 都重新核对当前账号与 read access,使轮询中途撤权能在下一轮生效;在 folder 页面切换 Temporary Chat 也不再跳回首页,下一次对话仍保留该 folder 的 system prompt、default model 与 knowledge。→ 为什么现在:此前改名归档可能走错大小检查路径,长轮询只在开始时验权,Temporary Chat 开关还会静默丢掉模型与知识上下文;三者都会让托管实例出现越权等待、错误摄入或用错模型的账单与售后。→ 今天能做什么:用 ≤90 分钟上传一个改名 archive、启动一条 pending knowledge stream 后撤销 read access,再在带专属 prompt/model/knowledge 的 folder 内切换两次 Temporary Chat;交付内容识别、大小守卫、每轮 access decision、folder ID、prompt/model/knowledge ID 与保存状态表,成功信号是归档守卫按内容触发、撤权后的下一轮 poll 拒绝读取、切换只改变 Temporary 状态而不丢 folder 上下文。→ 怎么变现:可卖“Open WebUI 知识摄入权限 + 文件夹上下文验收”,帮助私有部署方减少越权轮询、错误知识入库、模型选路漂移和由此产生的 token 浪费。相关链接:归档按内容识别 · 知识轮询逐次验权 · Temporary Chat 保留 folder
AI 基础设施交易情报
MLflow 成本账本 / 评测服务|96 天无新增 catalog、Trace 或并发评分成交证据
11 月 1 日目标样本为 0。供需情况分析:新增 MLflow Gateway/Tracing、模型目录、Strands cache、DeepEval 并发评测与可追责实施记录均为 0,需求、供给与成交活跃度未知。产品以及价格/容量线索:7 月 29 日至 11 月 1 日共 96 个日历日,其中 84 个为已校验空样本日、12 个缺失;新增 provider/model、catalog URI、input/cache/output token、span/trace cost、并发数、score/reason、买方出价与供方要价字段均为 0。热点议题:自定义目录与 LiteLLM 的价格优先级、父 agent 与子 LLM 的成本层级、cache token 版本口径、并发 row→score 归属必须绑定同一 trace/eval run。→ 为什么现在:目标日官方复现显示成本可从 0 恢复到 0.02 美元、Trace 可从 0.00975 恢复到 0.07975 美元,但没有本地证据证明任何在售观测栈已带这些提交。→ 交易判断 / 今天动作:只收一份脱敏 catalog、Trace 导出和 20 行并发评分回执,不先报价长期托管;版本、模型、token、span/trace、row ID、score 与账单可回勾后再接迁移。→ 怎么省钱:先找出零成本、父子层级错账和串行评分,避免错误压价、错误选 Provider 与后续对账返工。相关链接:成本目录修复 · 并发评分修复
Milvus 3.0 向量数据库 / RAG 托管|96 天无新增索引、null 语义或多库配额样本
供需情况分析:新增 Milvus 3.0、JSON/embedding-list 索引、RAG 数据迁移、多租户 QuotaCenter 与故障恢复记录均为 0,无法判断节点、实施或售后供需。产品以及价格/容量线索:新增版本/commit、collection/DB、JSON 行型、embedding-list null 率、mmap、索引耗时、WAL lag、quota deny、QPS、存储、买卖报价与容量字段均为 0;官方修复不是本地可售节点或 SLA。热点议题:空数组与 invalid JSON、磁盘索引的 element validity、RootCoord snapshot 与缺失 node metrics 的配额状态需要在同一集群回放。→ 为什么现在:目标日 3.0 分支连续修复三个会影响建索引、查询语义与限写的缺口,但 JSON PR 明确未在作者本机跑 C++ unit tests,现有托管镜像是否包含补丁仍待核。→ 交易判断 / 今天动作:只找一套可回滚的授权 3.0 环境做三组夹具,不锁长期节点;镜像、Knowhere、数据 hash、validity、quota、日志、恢复时长与账单齐全后再评估迁移。→ 怎么省钱:在导入全量向量和购买存储前抓出崩溃、null 错读与配额漏拦,减少重建索引、停机和超额用量。相关链接:JSON 索引修复 · QuotaCenter 修复
Open WebUI 私有知识库 / 托管实例|96 天无新增摄入权限、文件守卫或 folder 路由样本
供需情况分析:新增 Open WebUI 私有部署、知识文件摄入、账户权限、folder prompt/model/knowledge 与临时会话售后记录均为 0,无法判断哪类托管能力升温或稀缺。产品以及价格/容量线索:新增版本、账号/角色、poll 次数、archive 类型/大小、folder/model/knowledge、摄入时长、token、存储、并发、报价与售后字段均为 0。热点议题:按内容识别 archive、长轮询中途撤权、Temporary Chat 与 folder 上下文、知识文件落盘/索引终态必须用同一 account/file/folder 证据链。→ 为什么现在:三项修复于目标日进入
dev,但没有交易样本证明任何在售实例已发布、能在撤权后立刻收口或不会因切换临时会话用错模型。→ 交易判断 / 今天动作:只收改名 archive、撤权 poll 与 folder 临时会话三段脱敏回放,不预收批量摄入费;版本、account、file hash、access decision、folder/model/knowledge 与最终保存状态齐全后再接升级。→ 怎么省钱:在批量导入和多人开放前排除越权读取、错误归档处理与模型/知识漂移,降低重复 token、清库和权限事故成本。相关链接:知识轮询验权 · folder 上下文修复
今日可执行项
今天可试
- MLflow 三本账|2h:固定自定义 catalog、父
AGENT+ 两个子 LLM 的 Strands Trace 和 20 行并发 DeepEval;交付 model—token—span/trace cost—row/score/reason 表;目录价格胜出、父层不重计、子层可加总且 20 行零错配即通过。 - Milvus 三夹具|2h:在隔离 3.0 集群跑空/坏 JSON、nullable embedding-list mmap on/off、无 node metrics 的 WAL-lag collection;交付 write/index/load/query—validity—collection/DB—quota 表;零崩溃、坏 JSON 明确拒绝、null 一致且限写生效即通过。
- Open WebUI 撤权回放|90m:上传改名 archive,pending poll 中途撤权,再在专属 folder 切换 Temporary Chat;交付 content guard—poll access—folder/prompt/model/knowledge—保存状态表;按内容受检、下一轮撤权生效且 folder 上下文不丢即通过。
需要跟进
- 跟进 MLflow 目标发布版本、自定义 catalog 的 flat/tiered price 边界、Strands 版本、async
log_spans批次顺序与 trace 成本重算。 - 跟进 DeepEval 4.x 与 3.x 的 DAG metric 隔离、Summarization 每行新增 judge call 带来的延迟与费用。
- 跟进 Milvus 3.0 目标镜像、Knowhere 3.0.18、JSON ARRAY index、mmap、WAL lag 与恢复/回滚时长。
- 跟进 Open WebUI
dev变更进入稳定版的版本号、archive 内容识别范围、poll 撤权时延与 folder 临时会话的保存边界。 - 跟进下一份非空交易样本,优先补 catalog/trace/eval、collection/index/quota、account/file/folder 与账单/售后字段。
暂缓观察
- 暂不把 MLflow 主分支修复写成任一 Gateway/Tracing 服务已升级,也不把自定义 flat price 外推为 tiered pricing 已覆盖。
- 暂不把一次 DeepEval 评分变化直接写成模型质量变化;先区分并发串行修复、每行 assessment question 重生成与真实模型差异。
- 暂不把 Milvus 3.0 分支合并等同于现有托管镜像稳定,JSON 索引路径需补目标环境回归与恢复演练。
- 暂不把 Open WebUI
dev合并等同于稳定版已发布,也不把按内容识别 archive 当成恶意文件扫描或沙箱。 - 暂不发布模型额度、向量数据库、知识库实例、倍率、库存、价格或容量方向;当前交易证据不足。
风控 / 政策动态
- 行情证据:样本 0;96 天含 84 个空样本日、12 个缺失日,只补证不报行情。
- MLflow 的成本修复有目录、版本和批次边界:自定义 catalog 的 flat price 会优先于 LiteLLM,未覆盖的 provider/model 才回退;Strands 1.54.0–1.57.1 的原生 Anthropic input token 口径仍可能少算 uncached input,异步分批写 span 也存在先 finalize 后到达导致成本不重算的独立竞态。相关链接:成本目录边界 · Agent/Strands 已知限制
- DeepEval 的浅复制不是所有旧版 DAG metric 的完整隔离:DeepEval 4.x 使用 per-call runner;4 以下的
DAGMetric/ConversationalDAGMetric仍可能共享 graph node 状态。升级前固定 evaluator 版本、row ID、并发数与 judge 请求,并核对新增调用费用。相关链接:并发隔离边界 - Milvus 修复只证明特定 3.0 路径:nullable embedding-list 依赖 Knowhere 3.0.18;QuotaCenter 两个聚焦回归通过,但 JSON PR 作者明确未在本机跑 C++ unit tests。生产迁移要保留快照、索引重建与限写回滚,不把主分支合并当发布 SLA。相关链接:JSON 索引说明 · embedding-list 版本边界
- Open WebUI 三项修复进入的是
dev分支:按内容识别 archive 只服务大小检查,不替代解压炸弹、恶意文件或内容安全扫描;轮询重验权也要同时确认已经开始的下载、落盘与索引任务能否停止。相关链接:archive 检查 · 逐次验权 - 账号、邮箱、号码、IP、KYC 与支付只支持合规诊断:不支持批量注册、绕过验证、支付风控规避、越权安全测试或自动化退款;所有价格、倍率与容量只作市场观察,本报告不构成 AIRelay 报价、库存承诺、法律意见或可用性承诺。相关链接:OpenAI 使用条款 · Anthropic 使用条款
一句话总结 / 今日提醒
11 月 1 日最确定的收费窗口是 MLflow 的成本与评测账本、Milvus 3.0 的索引/配额准入和 Open WebUI 的知识权限回放;先把价格、行级评分、null 语义与撤权终态回勾,再谈迁移、托管或扩量。