LanceDB v0.31.0稳定版Branch+FM-Index+Blob v2构建AI代理原生向量层;Databricks Unity AI Gateway扩Agent Registry把代理资产纳入统一治理;AWS 7/2三连发Athena Spark+Glue Iceberg MV+Redshift RG重塑Lakehouse栈;dbt Labs宣告数据平台走向智能平台的范畴转移
第二十五期聚焦DataInfra四条动态:7月2日LanceDB发布v0.31.0(Node/Rust)和v0.34.0(Python)稳定版——自Vol.12报道v0.30.0/v0.33.0首次从beta毕业以来的下一组重大稳定版,新增表分支(Branch)+指定版本检出(Check-out)、FM-Index标量索引支持子串搜索、向量查询approx模式加速、Rust端Blob v2架构+写入路径+读取物化API、Polars DataFrame集成、PyTorch远程表DataLoader、Rust端OAuth header provider+Python/Node端OAuth连接配置、远程读写单调读水位机制、IndexConfig每索引元信息扩展、表达式构建器isin方法——为AI代理时代构建原生向量层;7月1日Databricks通过X公告将Unity AI Gateway定位升级为'Agent Registry'——把外部代理、内置代理、MCP服务、技能、LLM端点统一编目为Unity Catalog内的治理对象,引入Contextual Service Policies(基于用户/代理/模型/MCP/工具/请求响应内容的策略判定)、Hard spend caps(硬性支出上限自动停止请求)、Unified tracing(端到端代理追踪)、payload logging(完整可观测性)——Unity AI Gateway从LLM路由层跃迁为AI代理运行时治理系统;7月2日AWS Big Data Blog三连发——Amazon Athena for Apache Spark深度技术博客(基于Firecracker micro-VMs+Spark 3.5.6+Spark Connect+Lake Formation+Session级成本归因,秒级会话启动、按DPU-hour计费、三种集成模式:Jupyter交互式分析+VS Code本地开发+dbt+Airflow调度管道,单账户工作空间支持至60 worker+20分钟空闲超时)、Accelerating log analytics at scale with AWS Glue and Apache Iceberg materialized views(CloudWatch Logs+Lambda+Firehose+Glue+Iceberg物化视图完整日志分析管道,Athena查询从'扫描原始TB级日志'变为'查询预聚合的物化视图'响应时间从分钟级降到秒级,MV以Iceberg格式存储Glue Data Catalog托管表,下游Athena查询响应速度提升最高8倍)、Amazon Redshift RG: Faster and lower cost, Graviton-powered(RG基于Graviton处理器+Graviton优化SIMD向量化引擎+Nitro SSD本地缓存层+JIT Analyze自动统计收集,相比RA3数据仓库负载2.2x加速、Iceberg查询2.4x加速、Parquet查询1.5x加速、数据加载2x加速、30%低vCPU成本、消除$5/TB Spectrum扫描费、4.2x领先其他主流云数仓价格性能);7月2日dbt Labs发布战略愿景文章'Data platforms were built to store. Intelligence platforms are built to reason.'——核心论点'数据平台是目的地,智能平台是哲学',指出当前企业AI投资过度倾斜于智能层(模型/推理/微调/编排/代理框架)而严重低估知识层(语义模型/指标定义/本体/共享词汇),可靠性是在知识层建立而非智能层表达,'数据平台'这一术语5年内将听起来像'存储描述'而非'功能描述',dbt定位于'转换层成为含义编码和执行的场所'。四条动态共同指向数据基础设施的'AI代理原生栈'主线:LanceDB v0.31.0把向量数据库从'单一查询引擎'演化为'AI代理原生持久化层'(Branch版本化+FM-Index子串搜索+Polars/PyTorch生态集成+OAuth/单调读企业级能力),Databricks Unity AI Gateway Agent Registry把'AI代理'从'应用层组件'提升为'目录治理对象',AWS 7/2三连发把Lakehouse栈在'无服务器计算+物化视图加速+Graviton向量化'三个维度同时推进,dbt Labs宣告'Data Platform→Intelligence Platform'范畴转移——数据基础设施的'AI代理原生'正在从'功能拼凑'走向'系统架构'。
第二十五期追踪到DataInfra领域四条重要动态:7月2日LanceDB发布v0.31.0(Node/Rust)和v0.34.0(Python)稳定版——这是自Vol.12报道v0.30.0/v0.33.0首次从beta毕业以来的下一组重大稳定版,新增表分支(Branch)+指定版本检出(Check-out)、FM-Index标量索引支持子串搜索、向量查询approx模式加速、Rust端Blob v2架构+写入路径+读取物化API、Polars DataFrame集成、PyTorch远程表DataLoader、Rust端OAuth header provider+Python/Node端OAuth连接配置、远程读写单调读水位机制、IndexConfig每索引元信息扩展、表达式构建器isin方法——为AI代理时代构建原生向量层;7月1日Databricks通过X公告将Unity AI Gateway定位升级为”Agent Registry”——把外部代理、内置代理、MCP服务、技能、LLM端点统一编目为Unity Catalog内的治理对象,引入Contextual Service Policies(基于用户/代理/模型/MCP/工具/请求响应内容的策略判定)、Hard spend caps(硬性支出上限自动停止请求)、Unified tracing(端到端代理追踪)、Payload logging(完整可观测性)——Unity AI Gateway从LLM路由层跃迁为AI代理运行时治理系统;7月2日AWS Big Data Blog三连发——Amazon Athena for Apache Spark深度技术博客(基于Firecracker micro-VMs+Spark 3.5.6+Spark Connect+Lake Formation+Session级成本归因,秒级会话启动、按DPU-hour计费、三种集成模式:Jupyter交互式分析+VS Code本地开发+dbt+Airflow调度管道,单会话支持至60 worker+20分钟空闲超时)、Accelerating log analytics at scale with AWS Glue and Apache Iceberg materialized views(CloudWatch Logs+Lambda+Firehose+Glue+Iceberg物化视图完整日志分析管道,Athena查询从”扫描原始TB级日志”变为”查询预聚合的物化视图”响应时间从分钟级降到秒级,MV以Iceberg格式存储为Glue Data Catalog托管表,下游Athena查询响应速度提升最高8倍)、Amazon Redshift RG: Faster and lower cost, Graviton-powered(RG基于Graviton处理器+Graviton优化SIMD向量化引擎+Nitro SSD本地缓存层+JIT Analyze自动统计收集,相比RA3数据仓库负载2.2x加速、Iceberg查询2.4x加速、Parquet查询1.5x加速、数据加载2x加速、30%低vCPU成本、消除$5/TB Spectrum扫描费、4.2x领先其他主流云数仓价格性能);7月2日dbt Labs发布战略愿景文章”Data platforms were built to store. Intelligence platforms are built to reason.”——核心论点”数据平台是目的地,智能平台是哲学”,指出当前企业AI投资过度倾斜于智能层(模型/推理/微调/编排/代理框架)而严重低估知识层(语义模型/指标定义/本体/共享词汇),可靠性是在知识层建立而非智能层表达,“数据平台”这一术语5年内将听起来像”存储描述”而非”功能描述”,dbt定位于”转换层成为含义编码和执行的场所”。四条动态共同指向数据基础设施的”AI代理原生栈”主线:LanceDB v0.31.0把向量数据库从”单一查询引擎”演化为”AI代理原生持久化层”(Branch版本化+FM-Index子串搜索+Polars/PyTorch生态集成+OAuth/单调读企业级能力),Databricks Unity AI Gateway Agent Registry把”AI代理”从”应用层组件”提升为”目录治理对象”,AWS 7/2三连发把Lakehouse栈在”无服务器计算+物化视图加速+Graviton向量化”三个维度同时推进,dbt Labs宣告”Data Platform→Intelligence Platform”范畴转移——数据基础设施的”AI代理原生”正在从”功能拼凑”走向”系统架构”。
LanceDB v0.31.0/v0.34.0稳定版:表分支+FM-Index+Blob v2+Polars/PyTorch为AI代理时代构建原生向量持久化层
事件概述
7月2日,LanceDB正式发布v0.31.0(Node/Rust端)和v0.34.0(Python端)稳定版——这是继Vol.12报道v0.30.0/v0.33.0首次从beta毕业以来的下一组重大稳定版。两个版本在功能层面完全对齐,代表LanceDB经过近半年的beta迭代(v0.31.0-beta.3至beta.6、v0.34.0-beta.3至beta.6共6个beta版本)后,在AI代理时代数据基础设施方向上迈出了关键一步。核心新功能包括表分支(Branch)支持与指定版本检出(Check-out)、FM-Index标量索引支持子串搜索、向量查询新增approx模式加速、Rust端Blob v2架构声明+写入路径+读取/物化API、Polars DataFrame集成、PyTorch远程表DataLoader支持、Rust端OAuth header provider与Python/Node绑定OAuth连接配置、远程读写单调读(Monotonic Reads)水位机制、IndexConfig每索引元信息扩展。同时还有两个破坏性变更:从IndexStatistics中移除未使用的loss字段、重复where过滤条件改用AND合并而非覆盖。LanceDB v0.31.0/v0.34.0稳定版意味着向量数据库从”单一查询引擎”演化为”AI代理原生持久化层”——具备版本化、生态集成、企业级安全与一致性能力。
技术解析
-
表分支(Branch)与版本检出:让向量数据像Git一样可版本化:这是v0.31.0/v0.34.0最重要的功能——新增表分支支持以及在分支上检出指定版本的能力。传统向量数据库只有”最新版本”概念,无法回溯到历史快照;而LanceDB的Branch让用户可以在分支上独立演进数据(如不同AI代理实验、不同模型版本),并随时检出任意历史版本进行复现。这是把”数据版本化”从传统数据库的”time travel”概念提升为”branching workflow”——AI代理实验、模型对比、A/B测试不再需要数据复制。Beta迭代历史显示,v0.31.0-beta.5(6/30)已引入”用于管理分支的skill”——这意味着LanceDB把”分支管理”作为Agent Skill暴露给AI代理,AI代理可以通过MCP/Skill直接管理数据分支。这与Vol.22报道的Databricks Lakebase数据库分支(Git式copy-on-write分支让TB级数据库1秒克隆)形成”向量数据库 vs OLTP数据库”的分支能力并轨——数据版本化正在成为AI代理时代数据库的标准能力。
-
FM-Index标量索引+向量查询approx模式:让子串搜索与向量检索都可控加速:LanceDB新增FM-Index(Full-text Min-Index)标量索引以支持子串搜索——FM-Index是压缩全文索引数据结构,在O(1)空间下支持任意子串查询,相比传统B-tree的LIKE ‘%xxx%‘扫描有数量级加速。配合新增的向量查询approx模式(
approx参数启用),向量检索可以从精确k-NN加速到近似k-NN——在AI代理的”高QPS、低延迟”场景下尤其重要(如RAG场景中每秒数百次向量检索)。FM-Index+approx模式让LanceDB同时具备”全文+向量”双能力,且都针对AI代理工作负载优化。这与Vol.22报道的Google Cloud BigQuery AI.AGG函数(多级聚合机制)形成”AI代理时代的搜索/聚合性能优化”组合——全文搜索和向量搜索都是AI代理的”必备工具”,效率直接决定AI代理的响应速度。 -
Blob v2架构:让二进制大对象成为一等存储原语:Rust端新增Blob v2架构声明、写入路径以及读取/物化API——Blob(大二进制对象)能力从”附加能力”提升为”一等存储原语”,Python端的
query.to_pandas也新增Blob模式。这对AI代理场景至关重要——AI代理需要存储的不只是文本向量,还包括图像、音频、视频、PDF等二进制大对象(如多模态RAG、AI代理的”工作记忆”快照、模型权重缓存)。Blob v2让LanceDB从”向量数据库”演化为”多模态AI原生数据库”——所有AI代理需要存储的”非结构化内容”都可以直接入库。这与Vol.18报道的Snowflake Cortex AISQL(多模态支持)和Vol.24报道的BigQuery AI.AGG(多模态支持)的”AI多模态趋势”完全一致——所有数据基础设施都在向”多模态一等公民”演进。 -
Polars DataFrame集成+PyTorch远程表DataLoader:让向量数据库融入现代数据栈:v0.31.0/v0.34.0新增Polars DataFrame集成——Polars是Rust编写的高性能DataFrame库,正在成为Python数据科学的新标准(与Pandas相比10-100倍性能提升)。同时新增PyTorch远程表DataLoader支持——让AI训练/推理可以直接从LanceDB远程表加载数据,PyTorch DataLoader支持是”AI训练数据直连向量数据库”的关键能力。这意味着:LanceDB不再需要”导出到Pandas→转换→输入PyTorch”的中间步骤,可以直接作为AI训练/推理的数据源。这是”数据基础设施→AI基础设施”无缝衔接的标志性能力——AI工程师不再需要数据工程师”导出”训练数据,可以直接查询向量数据库获得训练样本。
-
OAuth体系完善+单调读水位:让向量数据库具备企业级安全与一致性:Rust端新增OAuth header provider,Python/Node绑定暴露OAuth连接配置——这是企业级SSO/SAML/OIDC的标配能力。同时新增基于x-lancedb-min-read-version水位的单调读(Monotonic Reads)机制——保证客户端在并发写入场景下”一旦读到版本V,后续读到的版本一定≥V”,不会读到”过期数据”。配合IndexConfig中扩展丰富的每索引元信息(并同步至Python与Node.js绑定)——LanceDB的”企业级能力”已经基本对齐传统数据库(版本化+认证+一致性+元数据)。这与Vol.16报道的Databricks Cross-Engine ABAC(Unity Catalog通过Scan API在Spark/DuckDB/Starburst强制执行治理)是同一方向——向量数据库的”企业级能力”正在追赶传统数据库。
-
破坏性变更:从IndexStatistics移除loss字段+重复where用AND合并:v0.31.0/v0.34.0引入两个破坏性变更——从IndexStatistics中移除未使用的loss字段(清理历史包袱),以及将重复的where过滤条件用AND合并而非覆盖(更符合SQL直觉但与之前行为不兼容)。破坏性变更的实施说明LanceDB已具备”生产就绪”的产品成熟度——只有”敢于做破坏性变更”的产品才是真正在演进的,而不是”无限兼容历史包袱”的化石产品。
行业影响
LanceDB v0.31.0/v0.34.0稳定版的深层意义不是”又一个向量数据库版本发布”,而是向量数据库从”AI工程师玩具”演化为”AI代理原生持久化层”的范式跃迁。
此前向量数据库的定位是”为RAG提供向量检索”——功能相对单一(k-NN搜索+元数据过滤),不具备版本化、生态集成、企业级安全等能力。AI代理时代的需求远超此——AI代理需要可版本化的工作记忆(Branch)、多模态存储(Blob v2)、与现代数据栈无缝集成(Polars/PyTorch)、企业级安全与一致性(OAuth/单调读)、全文+向量双能力(FM-Index+approx)。LanceDB v0.31.0/v0.34.0恰好对应这些需求的每一项——“AI代理原生向量层”从概念走向完整产品形态。
将本期与Vol.12报道的LanceDB v0.30.0/v0.33.0稳定版(首个非beta版本)对比,v0.30.0/v0.33.0是”毕业”——证明LanceDB具备生产可用性。v0.31.0/v0.34.0是”扩张”——把”生产可用”扩展为”AI代理原生”。从”可用”到”AI代理原生”是两次产品定位跃迁,每次都重新定义向量数据库的能力边界。
将本期与Vol.22报道的Databricks Lakebase数据库分支对比,两者都把”Git式分支”引入数据库——Lakebase在OLTP场景下用copy-on-write实现1秒TB级克隆,LanceDB在向量场景下用Branch支持多版本检出。“数据版本化”正在成为AI代理时代数据库的”标配”——AI代理实验天然需要”独立分支→对比→合并”工作流,Lakebase的OLTP分支和LanceDB的向量分支殊途同归。
将本期与Vol.11报道的Databricks AI Search(Vector Search更名+全文搜索+混合搜索)对比,Databricks在”全文+向量”上走”统一搜索引擎”路线,LanceDB在”FM-Index+向量”上走”专用索引”路线。两者都把”全文+向量”作为AI代理时代的核心能力,但实现路径不同:Databricks依赖Elasticsearch级别的搜索引擎,LanceDB用FM-Index(轻量级全文索引)+自家向量索引。LanceDB的优势是”单一数据库,多模态索引”——降低系统复杂度。
将本期与dbt Labs 7/2战略愿景(“Data Platform→Intelligence Platform”)对比,dbt指出”知识层”是企业AI的真正瓶颈,LanceDB v0.31.0/v0.34.0的Branch+元数据扩展正是”知识层基础设施”的具体落地——AI代理需要”可追溯、可复现、可版本化”的知识存储,LanceDB的Branch能力直接服务于这一需求。当LanceDB的Branch被dbt的语义治理能力加持时,“AI代理的知识层”将从概念变为产品——这是DataInfra的”AI代理时代”主线。
相关链接
- LanceDB Node/Rust v0.31.0 Release Notes
- LanceDB Python v0.34.0 Release Notes
- LanceDB Documentation
- Polars DataFrame Project
- FM-Index Wikipedia
Databricks Unity AI Gateway升级为Agent Registry:把AI代理从应用层组件提升为目录治理对象
事件概述
7月1日,Databricks通过X公告将Unity AI Gateway定位升级为”Agent Registry”——把外部代理、内置代理、MCP服务、技能、LLM端点统一编目为Unity Catalog内的治理对象。这是继Vol.22报道Genie Ontology(PageRank式权威判定算法/活图谱)、Vol.18报道Unity AI Gateway四大扩展(Service Policies/Payload Logging/LLM Guardrails/Cost Controls)、Vol.3报道Unity AI Gateway初始发布后,Unity AI Gateway最重要的产品演进。核心新能力包括:Managed MCP services(托管Google Drive/Jira/Confluence/Slack/GitHub/SharePoint)+自定义MCP注册+Contextual Service Policies(基于用户/代理/模型/MCP/工具/请求响应内容的策略判定,beta版)+AI Skills统一治理清单+Hard spend caps(硬性支出上限自动停止请求)+Unified tracing(端到端代理追踪)+Payload logging(完整可观测性)。同时发布Managed Omnigent on Databricks(Beta版)——Omnigent是Databricks收购的开源元编排框架,托管版提供共享历史记录、远程访问、协作功能、Lakebox隔离云执行,Unity AI Gateway治理每一次Omnigent交互。Unity AI Gateway从LLM路由层跃迁为AI代理运行时治理系统——治理对象从”模型”扩展为”模型+MCP+代理+技能+端点”。
技术解析
-
Agent Registry:把AI资产统一编目为Unity Catalog对象:传统Unity AI Gateway的治理对象是”LLM调用”(路由、限流、计费)——即”用户调用模型”的链路上做治理。升级后,治理对象从”LLM调用”扩展为”AI资产清单”——包括(1)外部代理(客户自己构建的AI代理);(2)Databricks内置代理(如Genie、Genie Code、Agent Bricks);(3)MCP服务(托管的Google Drive/Jira/Confluence/Slack/GitHub/SharePoint+客户自定义MCP);(4)技能(Skills)(Unity Catalog内可复用的代理能力);(5)LLM端点(模型端点)。所有AI资产都有”目录条目”——可被发现、可治理、可审计。这与Vol.20报道的Databricks External Lineage GA(注册外部资产Salesforce/MySQL/Tableau/Power BI,跨平台血缘)异曲同工——“把外部资产编目到Unity Catalog”是Databricks的统一战略,从数据资产到AI资产。
-
Contextual Service Policies(Beta):基于请求/响应内容的运行时策略判定:这是v0.31.0/v0.34.0报道之外最关键的新能力——Contextual Service Policies支持基于用户、代理、模型、MCP服务、调用的工具或请求/响应内容进行策略判定,支持允许、拒绝或要求审批等动作。示例场景:(1)代理A调用”修改文件”工具→要求管理员审批;(2)代理B调用”推送代码”工具→拒绝(仅允许人类开发者操作);(3)代理C访问”客户财务数据”→根据PII防护栏自动屏蔽敏感字段;(4)代理D访问”内部Wiki”→允许(已审批)。内置AI防护栏防御PII泄露、提示注入、越狱、不安全内容——防护栏在Gateway层执行,所有调用方都必须通过Gateway才能调用AI资产。这与Vol.12报道的Databricks Iceberg v3 GA(行追踪+ABAC)形成”数据治理+AI治理”的统一框架——Unity Catalog同时是数据资产和AI资产的治理层。
-
Hard spend caps:硬性支出上限自动停止请求:Unity AI Gateway引入硬性支出上限——超出预算时自动停止请求(不仅仅是告警)。这与Vol.3报道的Unity AI Gateway初始Cost Controls(成本归因+智能路由)形成”成本治理”的进阶——从”看见成本”到”自动限制成本”。配合Unity AI Gateway budgets(预计7月GA,跨AWS/Azure/GCP),管理员可以定义共享上限和每用户上限——AI代理的”算力消费”与传统数据库的”查询成本”一样可治理。这是AI代理从”无限消费”走向”成本可控”的关键能力。
-
Unified tracing+Payload logging:端到端代理追踪+完整可观测性:Unity AI Gateway在Gateway层捕获所有模型交互和MCP工具活动——形成端到端代理追踪。配合Payload logging(请求/响应内容完整记录)——AI代理的每一步决策都有”可审计日志”。这与Vol.17报道的阿里云LoongSuite GenAI SemConv+SkillClaw×Nacos(OTel GenAI语义规范/Token级推理观测)是同一方向——“AI代理可观测性”成为AI代理大规模生产的关键。Databricks的差异化是把”可观测性”与”治理”在Gateway层统一实现——一个入口同时提供可观测性+治理+成本控制+策略判定+审计日志。
-
Managed Omnigent on Databricks(Beta):开源代理编排框架的托管版:Omnigent是Databricks收购的开源元编排框架(用于跨模型、框架和编码工具构建和运行代理),托管版提供(1)共享历史记录;(2)远程访问;(3)协作功能;(4)基于Lakebox的隔离云执行。Unity AI Gateway治理每一次Omnigent交互——策略定义、成本控制、智能路由、统一遥测都自动应用。这是“AI代理运行时+AI代理治理”在同一产品的紧密集成——用户构建代理时不需要单独配置治理,治理是”内置”而非”外接”。
-
开放生态扩展:12+安全/身份合作伙伴:Unity AI Gateway新增集成合作伙伴——AI安全提供商(Alice/CrowdStrike/Cyera/HiddenLayer/Netskope/Noma Security/Obsidian Security/Openlayer/Palo Alto Networks/Zscaler)+身份提供商(Okta/Ping Identity/SailPoint/Saviynt)。“AI代理治理”不是Databricks一家的事——需要与企业的安全厂商(威胁检测)和身份厂商(SSO/IGA)联动。这与Vol.18报道的Open Knowledge Format(跨厂商知识共享)异曲同工——“开放生态”是数据基础设施的共识方向。
行业影响
Databricks Unity AI Gateway升级为Agent Registry的深层意义不是”Unity AI Gateway新增几个功能”,而是AI代理从”应用层组件”提升为”目录治理对象”的范式跃迁。
此前AI代理的定位是”应用层组件”——开发者写代码构建代理,代理调用LLM和工具,治理是”附加能力”(可选的对齐、安全、成本控制)。升级后,AI代理是”目录条目”——有定义、有版本、有所有者、有治理、有审计、有成本归因。这与Vol.22报道的Databricks Genie Ontology(企业数据上下文的”权威图谱”)形成”AI代理本体+AI代理治理”的统一框架——Unity Catalog同时是AI代理的”本体层”和”治理层”。
将本期与Vol.22报道的Databricks Genie Ontology对比,Genie Ontology解决”AI代理如何理解企业数据”(权威判定+活图谱),Unity AI Gateway Agent Registry解决”AI代理如何被企业治理”(注册+策略+成本+可观测)。两者都是”AI代理融入企业数据栈”的关键能力——没有Ontology,AI代理是”无知的工具”;没有Registry,AI代理是”无政府的工具”。Ontology+Registry的组合让AI代理成为”有知且有德”的企业公民。
将本期与Vol.18报道的Snowflake Cortex AISQL对比,Cortex AISQL让SQL调用AI(让AI成为SQL操作符),Unity AI Gateway Agent Registry让AI资产被治理(让AI成为目录对象)。两者方向相反但殊途同归——Cortex AISQL是”AI向SQL扩展”,Agent Registry是”AI向目录治理扩展”。当AI可以调用SQL、AI资产可以编目治理、AI代理可以运行时管控时,数据栈的”AI化”成为系统级而非应用级的演进。
将本期与Vol.16报道的Databricks Cross-Engine ABAC(Unity Catalog通过Scan API在Spark/DuckDB/Starburst强制执行治理)对比,Cross-Engine ABAC是”数据资产跨引擎治理”,Agent Registry是”AI资产跨模型/代理/工具治理”。Unity Catalog的治理对象从”数据”扩展到”AI”——这是Unity Catalog作为”统一治理层”的战略体现。当Unity Catalog同时治理数据和AI时,企业可以在”同一目录”下管理数据资产、模型资产、代理资产——这是DataInfra的”统一治理”主线。
将本期与dbt Labs 7/2战略愿景(“知识层是AI的真正瓶颈”)对比,dbt指出”可靠性是在知识层建立”,Unity AI Gateway Agent Registry正是”知识层治理”的具体落地——AI代理的定义、版本、策略、成本、可观测性都是”知识层”的具体内容。Databricks用”目录治理”实现知识层治理,dbt用”语义模型”实现知识层治理——两条路径殊途同归。
相关链接
- Databricks Blog: AI governance at Data + AI Summit 2026: What’s new with Unity AI Gateway
- Unity AI Gateway Documentation
- Unity Catalog AI Assets Overview
- Managed Omnigent on Databricks (Beta)
AWS Big Data 7/2三连发:Athena Spark+Glue Iceberg MV+Redshift RG重塑Lakehouse栈
事件概述
7月2日,AWS Big Data Blog一次性发布三篇重量级技术博客,分别从”无服务器计算加速”、“物化视图查询加速”、“硬件加速+成本降低”三个维度重塑Lakehouse栈。Amazon Athena for Apache Spark深度技术博客——基于Firecracker micro-VMs+AWS优化的Spark 3.5.6引擎+Spark Connect端点+Lake Formation集成+Session级成本归因,秒级会话启动、按DPU-hour计费,三种集成模式(Jupyter交互式分析/VS Code本地开发/dbt+Airflow调度管道),单会话支持至60 worker+20分钟空闲超时;Accelerating log analytics at scale with AWS Glue and Apache Iceberg materialized views——CloudWatch Logs+Lambda+Firehose+Glue+Iceberg物化视图完整日志分析管道,Athena查询从”扫描原始TB级日志”变为”查询预聚合的物化视图”,响应时间从分钟级降到秒级,下游Athena查询响应速度提升最高8倍;Amazon Redshift RG: Faster and lower cost, Graviton-powered——RG基于Graviton处理器+Graviton优化SIMD向量化引擎+Nitro SSD本地缓存层+JIT Analyze自动统计收集,相比RA3数据仓库负载2.2x加速、Iceberg查询2.4x加速、Parquet查询1.5x加速、数据加载2x加速、30%低vCPU成本、消除$5/TB Spectrum扫描费、4.2x领先其他主流云数仓价格性能。三连发意味着AWS Lakehouse栈在”无服务器计算+物化视图加速+Graviton向量化”三个维度同时推进——Amazon从基础设施层、应用层、性能层三个层面同步升级Lakehouse体验。
技术解析
-
Amazon Athena for Apache Spark:从”无服务器SQL”到”无服务器Spark”的Serverless+Connect架构:Athena for Apache Spark的核心创新是Serverless + Connect双架构——基于Firecracker micro-VMs(AWS轻量级虚拟化,启动毫秒级)运行AWS优化的Spark 3.5.6引擎,通过Secure Spark Connect端点(完全托管、经过身份验证和授权的AWS端点,TLS 1.2+端到端加密)提供远程连接。关键能力:(1)Session级成本归因——在AWS Cost Explorer或Cost and Usage Reports中按会话跟踪成本;(2)Advanced debugging capabilities——实时Spark UI和Spark History Server;(3)AWS Lake Formation集成——访问由Lake Formation保护的AWS Glue Data Catalog表;(4)Session级安全——短期有效并自动轮换的Token+IAM角色认证。默认配置:Spark Dynamic Resource Allocation自动扩展最多60个worker,空闲超时20分钟。三种集成模式:(A)Jupyter Notebooks交互式分析(数据科学家探索);(B)VS Code本地开发(软件工程师在IDE中开发);(C)dbt+Apache Airflow调度管道(数据工程师生产环境)。关键技术对比——传统自管理Spark集群需要管理EC2、网络、安全组,闲置集群持续产生费用;Athena for Apache Spark是完全托管+按使用量付费+几秒内启动和扩展。这与Vol.21报道的AWS EMR Spark 4.0 GA(emr-spark-8.0运行时)是“无服务器Spark”和”自管理Spark”两条路径并轨——EMR适合长期运行的大集群,Athena适合间歇性的中小规模Spark工作负载。
-
AWS Glue Iceberg Materialized Views:从”查询原始数据”到”查询预聚合结果”8x加速:AWS Glue在Data Catalog中原生支持Apache Iceberg表作为物化视图(Materialized Views)——存储预计算的查询结果为Iceberg表。完整架构:CloudWatch Logs→Lambda(解析+转换+丰富)→Data Firehose(批处理+Iceberg表写入+失败重试)→Iceberg base table(ACID事务+模式演变)→Iceberg materialized view(预计算结果)→Athena查询。关键技术:(1)自动刷新——AWS Glue 5.1+维护物化视图,使用Apache Iceberg的元数据层检测源数据表变化、托管Spark计算调度+执行刷新操作、根据数据变更决定全量或增量刷新;(2)多引擎访问——预计算结果可从Athena SQL查询+Apache Spark 3.5查询+Redshift查询访问;(3)Lake Formation集成——支持Lake Formation管理数据湖权限;(4)自动Spark优化——Spark Optimizer自动重写查询以使用物化视图,无需手动修改应用代码。性能收益:Athena查询从”扫描TB级原始数据”(分钟级响应)变为”查询预聚合的物化视图”(秒级响应),最高8倍查询速度提升。用例:高QPS仪表板(每天数千次聚合查询)、合规审计日志(复杂聚合分析)、应用日志(错误率、延迟P99)。这与Vol.18报道的Snowflake Managed Iceberg复制(1.6x-22x性能提升)异曲同工——Iceberg物化视图+复制都是”预先计算→按需查询”的优化思路。差异在于:AWS把物化视图作为Data Catalog原生能力,Snowflake把复制作为独立产品。
-
Amazon Redshift RG:Graviton+SIMD+Nitro SSD+JIT Analyze的”四层加速”:RG(Redshift Graviton)是AWS专为数据仓库设计的Graviton处理器实例,四层加速架构:(1)Graviton处理器——AWS自研Arm架构处理器;(2)Graviton优化SIMD向量化引擎——基于单指令多数据(SIMD)内核的并行执行,谓词评估使用Graviton向量比较、表查找、向量操作原语;(3)Nitro SSD本地缓存——自定义Nitro SSD作为RMS(Redshift Managed Storage)+数据湖扫描+中间结果集的缓存层;(4)JIT Analyze自动统计——查询运行时自动收集Iceberg文件统计信息,查询优化器可生成显著更好的查询计划。性能数据:相比RA3,数据仓库负载2.2x加速、Iceberg查询2.4x加速、Parquet查询1.5x加速、数据加载2.0x加速(TPC-DS 10TB和TPC-H 10TB基准)。成本优势:(1)30%低vCPU成本(相比RA3);(2)消除$5/TB Spectrum扫描费——数据湖查询不再单独计费,RG整合内置数据湖引擎到核心执行引擎,数据湖查询和RMS数据仓库查询在统一计费下。客户验证:(1)Southwest Airlines——数据仓库负载50-60%加速,数据湖分析45%加速,30%成本降低;(2)tombola——1.8-2x写入吞吐加速,2.2x读速度加速,40%更多处理能力,30%计算成本降低;(3)Qoala——60-70%查询速度提升。4.2x价格性能领先——基于TPC-DS和TPC-H基准(10TB规模、$32/hr等成本),RG的价格性能比领先其他主流云数据仓库4.2倍。这与Vol.3报道的Redshift RG实例(首次公布)是同一产品的”深度技术细节”——Vol.3是”宣布”,本期是”技术解析+基准数据”。
-
三连发的整体协同:三维度同时推进Lakehouse栈:三篇博客不是孤立的——它们共同构成**“AWS Lakehouse栈三维度同时演进”:(1)计算层——Athena for Apache Spark实现”无服务器Spark”(按需付费+零管理);(2)数据层——Glue Iceberg MV实现”预计算优化”(8x查询加速);(3)存储+执行层——Redshift RG实现”硬件+向量化加速”(4.2x价格性能)。当企业同时采用三者时——用Athena处理间歇性Spark工作负载、用Glue Iceberg MV优化高QPS查询、用Redshift RG处理核心数据仓库负载——整个Lakehouse栈的”性能+成本+易用性”得到全面升级。这与Vol.22报道的Delta Lake 4.3(Delta Kernel成为Spark/DuckDB/Flink共享表统一内核)和Vol.21报道的AWS EMR Spark 4.0(Spark直查Iceberg)形成”AWS Lakehouse栈的多产品协同演进”——AWS不只优化单一产品,而是让不同产品在Lakehouse栈的不同层级各自最优**。
行业影响
AWS Big Data Blog 7/2三连发的深层意义不是”三个独立的产品博客”,而是AWS Lakehouse栈在”无服务器+物化视图+硬件加速”三维度同步演进的战略体现。
此前Lakehouse栈的标准做法是”一站式云数仓”(如Snowflake、BigQuery)——所有计算/存储/优化都集中在单一产品中。AWS Lakehouse栈走”多产品组合”路线——Athena(无服务器查询)+Glue(数据集成+目录+物化视图)+Redshift(数据仓库)+EMR(大数据处理)+Lake Formation(统一治理)。三连发意味着AWS在Lakehouse栈的每一层级都引入了新的性能优化——Athena for Apache Spark替代EMR的部分场景(更轻量),Glue Iceberg MV替代Athena的部分高QPS查询(更快速),Redshift RG替代RA3(更便宜)。Lakehouse栈的”组合优化”成为AWS的差异化战略。
将本期与Vol.21报道的AWS EMR Spark 4.0 GA对比,EMR Spark 4.0是”自管理Spark的GA”,Athena for Apache Spark是”无服务器Spark的成熟”——两者覆盖不同Spark使用场景。AWS在Spark领域”双轨布局”:EMR适合长期运行的大集群(成本可控),Athena适合间歇性的中小规模工作负载(按需付费)。这是”专用化执行”在AWS Spark栈的体现。
将本期与Vol.22报道的Delta Lake 4.3(Delta REST Catalog统一API)和Vol.16报道的Databricks Cross-Engine ABAC对比,AWS Glue Iceberg MV是”在AWS栈内统一物化视图管理”——与Delta Lake 4.3(Delta REST Catalog统一API)的”开放规范”思路不同,AWS Glue MV更倾向于”单一云内的统一体验”。这是”开放规范+单一云统一”两种治理哲学的对比——Databricks/Snowflake走开放规范,AWS走单一云内统一。
将本期与Vol.24报道的AWS OpenSearch Service新日志分析引擎GA对比,两者都是”AWS在7/1-7/2的连续产品发布”——OpenSearch日志分析引擎是”专用分析引擎”,Redshift RG是”专用数据仓库引擎”,Athena for Apache Spark是”无服务器Spark”。AWS的”专用化+无服务器化”趋势在三连发中体现得淋漓尽致——把每个产品做到”专用场景的最优”。
将本期与Vol.23报道的AWS Redshift多仓库(远程MV/远程表DDL/并发扩展覆盖zero-ETL)对比,本期Redshift RG是”硬件层”(RG实例+4.2x价格性能),Vol.23是”功能层”(多仓库+远程MV+并发扩展)。AWS在”Redshift品牌”下同时推进硬件升级和功能扩展——RG是新一代硬件,多仓库是新一代功能。
相关链接
- AWS Big Data Blog: Serverless analytics pipelines using the Apache Spark engine in Amazon Athena
- AWS Big Data Blog: Accelerating log analytics at scale with AWS Glue and Apache Iceberg materialized views
- AWS Big Data Blog: Amazon Redshift RG: Faster and lower cost, Graviton-powered
- Amazon Athena for Apache Spark Documentation
- AWS Glue Materialized Views Documentation
- Amazon Redshift RG Documentation
dbt Labs 7/2战略愿景”Data Platform→Intelligence Platform”:可靠性在知识层建立而非智能层表达
事件概述
7月2日,dbt Labs发布战略愿景文章”Data platforms were built to store. Intelligence platforms are built to reason.”(Dustin Dorsey,phData高级数据工程总监,dbt合作作者)——这是继Vol.17报道Fivetran+dbt合并完成与Agents Schema开放标准、Vol.18报道dbt Core v2.0以Apache 2.0开源Fusion引擎、Vol.7报道dbt Fusion引擎扩展+AI工具链竞争后,dbt Labs最重要的战略愿景输出。核心论点:“数据平台是目的地,智能平台是哲学”——The data platform was supposed to be the foundation for that. In most organizations, it became the ceiling。文章指出当前企业AI投资的”失衡现象”——过度投资于智能层(模型/推理/微调/编排/代理框架),严重低估知识层(语义模型/指标定义/本体/共享词汇);“可靠性是在知识层建立而非智能层表达”(Reliability is established in the layers below it and the intelligence layer simply expresses it);“数据平台”这一术语5年内将听起来像”存储描述”(storage description)而非”功能描述”;dbt定位于”转换层成为含义编码和执行的场所”。dbt Labs 7/2战略愿景是”Data Platform→Intelligence Platform”范畴转移的明确宣告——数据平台正在从”功能集合”演化为”哲学承诺”。
技术解析
-
核心论点:“数据平台是目的地,智能平台是哲学”:文章开篇指出——“The data platform was the destination.”(数据平台就是目的地)。过去十年企业建设了无数数据平台——基础设施、管道、集中的数据、清理、仓库、BI工具、分析师、仪表板。“与无序的数据集市和电子表格驱动的报告相比,这确实是胜利”(compared to the chaos of disconnected data marts and spreadsheet-driven reporting, it genuinely was)。但没人会在旅程结束时大声说出来:平台从来不是目的(The platform was never the point)。目的始终是更好的决策、更快的决策、由真正理解业务的人做出的决策。“数据平台本应是那个基础。在大多数组织中,它成为了天花板”——The data platform was supposed to be the foundation for that. In most organizations, it became the ceiling。“智能平台不是技术升级,是哲学承诺”——The shift is not about technology. It is about purpose。数据平台组织在”如何让数据可用”问题周围,智能平台组织在”如何让含义可用”问题周围。这个区分”听起来像语义区分,直到你看到AI系统在两种平台上的不同表现”。
-
“过度投资智能层、严重低估知识层”的失衡现象:文章指出当前企业AI投资的”失衡现象”——A large share of it goes into the intelligence layer: the models, the inference infrastructure, the fine-tuning, the orchestration frameworks, the agent architectures(大部分投资流向智能层:模型、推理基础设施、微调、编排框架、代理架构)。The layer that is chronically underinvested is the knowledge layer. The place where meaning lives. The semantic models, the metric definitions, the ontologies, the shared vocabulary that tells the intelligence layer how to interpret what the data layer contains(被慢性低投资的层是知识层——含义栖息的地方——语义模型、指标定义、本体、告诉智能层如何解读数据层内容的共享词汇)。这种失衡可以理解——智能层有供应商、会议、新闻稿、基准比较,知识层有”不光彩的对话”——“客户”是什么意思?这个定义是否应包括试用账户?组织倾向于做”感觉像进步”的工作。让模型生成连贯摘要立即令人满意,花三周对齐两个团队对指标定义不令人满意。但智能层只能和它推理的基础一样好——一个能在复杂工作流中导航并综合跨域信息的AI代理,如果它推理的数据包含5个相互竞争的定义,仍然会产生不可靠的输出。“可靠性的中央错误”——将智能层视为建立可靠性的地方,而不是认识到可靠性是在下面的层建立的,智能层只是表达它(The central mistake of the current wave of AI investment in enterprise organizations: treating the intelligence layer as the place where reliability is established, rather than recognizing that reliability is established in the layers below it and the intelligence layer simply expresses it)。
-
“含义必须成为产品”——从文档到基础设施:文章指出组织变革的必要性——Treating enterprise semantics the way mature organizations treat data products. With ownership, investment, stewardship, and a recognition that the value compounds over time(用成熟组织对待数据产品的方式对待企业语义——所有权、投资、托管、对价值随时间复利的认识)。Most organizations do not currently have anyone who owns the definition of their core business metrics(大多数组织目前没有人拥有其核心业务指标的定义)。他们有维护管道的人、有使用指标的人、有在会议中争论指标的人——“拥有”权威的、可治理的、一致执行的指标定义——通常是没有人。为了使智能平台可靠运行,这种情况必须改变。含义需要所有者,就像数据产品需要所有者一样。Someone who is accountable for whether the definition is current, whether it is consistently applied, whether changes to it are evaluated for downstream impact before they are made(有人负责定义是否最新、是否一致应用、对它的更改是否在做出前评估下游影响)。这不是单纯的工程问题——是产品和治理问题。早期认识到这一点的组织将建立组织能力来维护知识层,就像他们维护数据基础设施一样。
-
“智能平台实际上是什么”——从工具集合到哲学承诺:文章给出“智能平台”的精确定义——A data platform asks: what do we have and where does it live? An intelligence platform asks: what does it mean and how should it be interpreted?(数据平台问:我们有什么,它住在哪里?智能平台问:它是什么意思,应该如何被解读?)。这听起来像语义区分,直到你看到AI系统在两种平台上的不同表现——数据平台产生技术上可访问的答案,智能平台产生正确的答案。差异存在于大多数数据平台视为事后想法的层:业务含义被治理的地方(the place where business meaning is governed)。不是被编目(因为编目告诉你数据住在哪里以及它包含什么列)——被治理。指标定义的所有权、维护、在转换层中执行而不是在Wiki中记录并应用不一致。“一行数据代表什么”这个问题有答案被烘焙到结构本身中,而不是住在分析师的机构记忆中。没有该层就试图构建AI能力的组织将不断以不同形式遇到同样的问题——他们调优模型并获得一周更好的输出,他们精炼prompt并对写prompt的查询获得一致性——但底层模糊性将在其他地方浮出水面,因为无法在从未被设计为可推理的基础上可靠推理。使AI可靠的层不是AI——是AI构建于其上的东西(The layer that makes AI reliable is not the AI. It is what the AI is built on top of)。
-
“5年内数据平台将听起来像存储描述”——预测与战略定位:文章给出战略预测——As that shift happens, “data platform” will increasingly feel like a description of what something stores rather than what it does. The platforms that persist and grow will be the ones organized around meaning and reasoning, not just storage and query. The investments that compound will be the ones made in the knowledge layer. In canonical definitions, in intentional data models, in the semantic infrastructure that makes it possible for both humans and AI systems to reason over enterprise data consistently(随着该转移发生,“数据平台”将越来越感觉像描述某物存储什么而非它做什么的描述。持久和增长的平台将是围绕含义和推理组织的,不只是存储和查询。复利的投资将是知识层的投资——规范定义、有意数据模型、让人类和AI系统都能一致推理企业数据的语义基础设施)。今天已经在做这些投资的组织从外面看并不戏剧性不同——他们的AI demo不一定比其他人更令人印象深刻。但当他们把demo投入生产时,输出有效。答案是一致的——指标对财务团队、销售团队、凌晨2点查询数据的AI系统意义相同。一致性不是技术工件——是有人对含义做出深思熟虑的选择并将其编码到平台本身的结果。That’s what an intelligence platform actually is. Not a new set of tools layered on top of an existing data stack, but a fundamentally different philosophy about what the stack is for。那才是智能平台实际上是什么——不是叠加在现有数据栈上的一套新工具,而是关于栈为什么存在的根本不同哲学。
-
dbt的定位——转换层成为含义编码和执行的场所:文章结尾指出dbt的战略定位——dbt sits at exactly the inflection point this shift requires. As organizations move from data platforms to intelligence platforms, the transformation layer becomes the place where meaning gets encoded and enforced, and dbt provides the model structure, semantic governance, and integration surface to make that possible(dbt正好位于此转移所需的拐点。随着组织从数据平台走向智能平台,转换层成为含义被编码和执行的地方,dbt提供模型结构、语义治理、集成表面使之可能)。phData帮助团队将该转移操作化——将哲学翻译为可执行的数据基础:设计知识层、实施支持模型和语义、帮助组织从”关于推理的想法”走向”在实践中支持推理的系统”。dbt的战略定位与Vol.18报道的dbt Core v2.0以Apache 2.0开源Fusion引擎(30倍解析加速)、Vol.7报道的dbt Developer Agent Preview、Vol.6报道的Fivetran+dbt合并+Agents Schema开放标准形成”dbt的智能平台时代战略”——dbt不只做”转换工具”,而是”语义治理的基础设施”。
行业影响
dbt Labs 7/2战略愿景的深层意义不是”dbt发布一篇博客文章”,而是DataInfra行业从”工具集合”走向”哲学承诺”的范畴转移宣告。
此前DataInfra行业的讨论框架是”工具对比”——Spark vs Flink vs Ray、DuckDB vs Snowflake vs BigQuery、Iceberg vs Delta vs Hudi、dbt vs Dataform vs SQLMesh。这些对比都在”功能维度”展开——性能、特性、价格、生态。dbt Labs 7/2战略愿景提出“功能对比”框架本身的局限——“含义”无法用功能比较衡量,但“含义”才是AI代理时代数据基础设施的真正差异化。当行业讨论从”哪个工具更快”走向”哪个平台能更可靠地表达业务含义”时,DataInfra的”竞争维度”发生根本变化。
将本期与Vol.22报道的Databricks Genie Ontology对比,Genie Ontology解决”AI代理如何理解企业数据”(权威判定+活图谱),dbt 7/2战略愿景指出”理解”的前提是”知识层建设”——没有知识层,AI代理”理解”的是模糊的、不一致的、随时间漂移的含义。Genie Ontology是”如何让AI代理查询知识”,dbt战略是”如何建设可被查询的知识”。两者是同一主线的两面。
将本期与Vol.18报道的Snowflake Horizon Context(Collect→Enrich→Activate三段式架构+Metadata Connectors+AI生成文档)对比,Horizon Context是”Snowflake对’知识层’的产品级回答”——通过Metadata Connectors自动从PostgreSQL/SQL Server/Tableau/Power BI/dbt/OpenLineage API收集元数据+AI生成文档+Semantic Studio+Autopilot。Horizon Context是”知识层产品”,dbt 7/2战略愿景是”知识层哲学”——两者殊途同归:Snowflake做知识层产品化,dbt做知识层哲学化。当Snowflake和dbt同时把”知识层”作为战略重点时,DataInfra的”知识层时代”正式开启。
将本期与Vol.17报道的阿里云LoongSuite GenAI SemConv+SkillClaw×Nacos(OTel GenAI语义规范/Token级推理观测)对比,LoongSuite是”AI代理的观测性标准”(OTel GenAI SemConv),dbt 7/2战略愿景是”AI代理的可靠性来源”(知识层)。观测性告诉你”AI代理在做什么”,可靠性告诉你”AI代理是否做对”——后者只能通过知识层保证。当OTel GenAI SemConv标准化观测性+dbt语义治理标准化可靠性时,AI代理的可观测性与可靠性都成为”基础设施”。
将本期与Vol.16报道的Databricks Cross-Engine ABAC(Unity Catalog通过Scan API在Spark/DuckDB/Starburst强制执行治理)对比,Cross-Engine ABAC是”数据治理的跨引擎执行”(技术层面),dbt 7/2战略愿景是”数据治理的语义基础”(哲学层面)。没有语义基础的跨引擎治理是”机械执行”,有了语义基础的跨引擎治理是”智能执行”——后者才能在AI代理时代提供”含义一致性”。
将本期与LanceDB v0.31.0/v0.34.0(Branch+元数据)对比,LanceDB的Branch能力是”数据版本化”(让AI代理可复现),dbt战略是”含义版本化”(让业务指标可追溯)。数据版本化是”AI代理实验的工程基础”,含义版本化是”AI代理推理的语义基础”。当两者结合时,AI代理同时具备”工程可复现性”和”语义一致性”——这是”AI代理时代数据基础设施”的两大支柱。
相关链接
- dbt Labs Blog: Data platforms were built to store. Intelligence platforms are built to reason.
- Dustin Dorsey Author Profile
- phData Solutions
- dbt Semantic Layer
编者评
第二十五期的四条动态,从不同层面共同指向数据基础设施的”AI代理原生栈”主线——通过版本化、生态集成、目录治理、Lakehouse升级、语义治理五大支柱,让数据基础设施从”工具集合”演化为”AI代理原生持久化与推理层”。
第一个层面是向量数据库的AI代理原生演进:LanceDB v0.31.0/v0.34.0稳定版用Branch+FM-Index+Blob v2+Polars/PyTorch+OAuth/单调读构建AI代理原生向量持久化层。 此前向量数据库的定位是”为RAG提供向量检索”——功能相对单一(k-NN搜索+元数据过滤),不具备版本化、生态集成、企业级安全等能力。AI代理时代的需求远超此——AI代理需要可版本化的工作记忆(Branch)、多模态存储(Blob v2)、与现代数据栈无缝集成(Polars/PyTorch)、企业级安全与一致性(OAuth/单调读)、全文+向量双能力(FM-Index+approx)。LanceDB v0.31.0/v0.34.0恰好对应这些需求的每一项——“AI代理原生向量层”从概念走向完整产品形态。将本期与Vol.12报道的LanceDB v0.30.0/v0.33.0稳定版(首个非beta版本)对比,v0.30.0/v0.33.0是”毕业”——证明LanceDB具备生产可用性,v0.31.0/v0.34.0是”扩张”——把”生产可用”扩展为”AI代理原生”。从”可用”到”AI代理原生”是两次产品定位跃迁——每次都重新定义向量数据库的能力边界。当Branch让AI代理可以版本化实验、FM-Index让AI代理可以全文检索、Blob v2让AI代理可以存储多模态、Polars/PyTorch让AI代理可以无缝训练时,“向量数据库→AI代理原生持久化层”的演进路径已经清晰。
第二个层面是AI代理的目录治理化:Databricks Unity AI Gateway升级为Agent Registry把AI代理从应用层组件提升为目录治理对象。 此前AI代理的定位是”应用层组件”——开发者写代码构建代理,代理调用LLM和工具,治理是”附加能力”(可选的对齐、安全、成本控制)。升级后,AI代理是”目录条目”——有定义、有版本、有所有者、有治理、有审计、有成本归因。这与Vol.22报道的Databricks Genie Ontology(企业数据上下文的”权威图谱”)形成”AI代理本体+AI代理治理”的统一框架——Unity Catalog同时是AI代理的”本体层”和”治理层”。Contextual Service Policies(基于请求/响应内容的运行时策略判定)让”AI代理做什么”是可配置的、可审计的;Hard spend caps让”AI代理花多少”是可限制的、可预算的;Unified tracing+Payload logging让”AI代理怎么决策”是可追溯的、可分析的。当AI代理成为”目录治理对象”时,AI代理从”个人开发者的工具”演化为”企业的标准化资产”——这与Vol.17报道的阿里云Agent Infra(AgentTeams+STAROps)和Vol.18报道的腾讯云DataBuddy+WeData是同一主线:AI代理正在从”工具”演化为”组织能力”。
第三个层面是Lakehouse栈的三维度同步升级:AWS Big Data Blog 7/2三连发(Athena for Apache Spark+Glue Iceberg MV+Redshift RG)重塑Lakehouse体验。 此前Lakehouse栈的标准做法是”一站式云数仓”——所有计算/存储/优化都集中在单一产品中。AWS Lakehouse栈走”多产品组合”路线——Athena(无服务器查询)+Glue(数据集成+目录+物化视图)+Redshift(数据仓库)+EMR(大数据处理)+Lake Formation(统一治理)。三连发意味着AWS在Lakehouse栈的每一层级都引入了新的性能优化——Athena for Apache Spark替代EMR的部分场景(更轻量),Glue Iceberg MV替代Athena的部分高QPS查询(更快速),Redshift RG替代RA3(更便宜)。Lakehouse栈的”组合优化”成为AWS的差异化战略。Redshift RG的”4.2x价格性能领先”基于TPC-DS和TPC-H 10TB基准($32/hr等成本)——这是云数据仓库的重大技术里程碑。当AWS在Lakehouse栈的”无服务器+物化视图+硬件加速”三维度同时演进时,Lakehouse的”性能+成本+易用性”得到全面升级。
第四个层面是数据平台的范畴转移:dbt Labs 7/2战略愿景宣告”Data Platform→Intelligence Platform”的哲学承诺。 核心论点是**“数据平台是目的地,智能平台是哲学”——“The data platform was supposed to be the foundation for that. In most organizations, it became the ceiling”。“数据平台”这一术语5年内将听起来像”存储描述”而非”功能描述”**。dbt的战略定位是”转换层成为含义编码和执行的场所”——不是叠加在现有数据栈上的一套新工具,而是关于栈为什么存在的根本不同哲学。这种”哲学承诺”是DataInfra行业的范畴转移——从”工具对比”走向”含义治理”,从”功能集合”走向”哲学承诺”,从”性能竞争”走向”可靠性竞争”。当行业讨论从”哪个工具更快”走向”哪个平台能更可靠地表达业务含义”时,DataInfra的”竞争维度”发生根本变化。
将二十五期与近期(Vol.22-24)串联,DataInfra正在从”工具集合”走向”AI代理原生栈+智能平台”的双层架构。 工具集合阶段(2010-2020)——Hadoop生态、Spark、Flink、Kafka、Airflow等工具各自演进,工具间的集成需要胶水代码。AI代理原生栈阶段(2024-2026)——LanceDB v0.31.0把向量数据库扩展为AI代理原生持久化层、Databricks Agent Registry把AI代理纳入目录治理、AWS Lakehouse栈三连发把Lakehouse性能推到4.2x价格性能、BigQuery AI.AGG/Snowflake Cortex AISQL/Databricks Genie Ontology让SQL成为AI代理的调用接口、Redshift AI Advisor让DBA工作从”经验调优”走向”AI协同调优”。智能平台阶段(2026-)——dbt Labs战略愿景宣告”Data Platform→Intelligence Platform”范畴转移,含义治理成为AI代理时代数据基础设施的”真正瓶颈”,可靠性在知识层建立而非智能层表达,“含义必须成为产品”——从文档到基础设施,从被动到主动,从项目化到产品化。当数据基础设施完成”工具→AI代理原生→智能平台”的演进时,数据访问、数据治理、数据含义的门槛将从”专业技能”(写SQL、调集群、配置管道、DBA经验)降低到”含义治理+AI协同”(业务语义+AI代理工作流)——这将释放巨大的数据价值,让更多业务人员可以独立完成数据分析,更多资深DBA的时间可以投入到架构工作,让AI代理从”工具使用者”演化为”含义推理者”。这对DataInfra从业者的启示是:未来5年的核心竞争力是”让数据和基础设施更易被AI代理推理”——通过AI代理原生持久化层(向量数据库版本化+多模态+生态集成)让AI代理可以”记住”和”理解”数据,通过AI代理目录治理(Agent Registry+Contextual Policies+Hard spend caps+Unified tracing)让AI代理可以”被企业治理”,通过Lakehouse栈性能升级(无服务器+物化视图+Graviton)让AI代理可以”快速访问”数据,通过含义治理(语义模型+指标定义+本体)让AI代理可以”可靠推理”含义。当AI代理成为”数据持久化+基础设施访问+含义推理”的统一入口时,掌握”如何让AI代理更好使用数据”的工程师将成为最有价值的人才——他们是”AI代理时代的数据基础设施架构师”。