AWS为S3新增向量存储桶以降低RAG存储成本

2周前 科技 7观看
摘要 AWS已为S3对象存储新增向量存储桶功能,旨在降低在Amazon OpenSearch服务中存储访问频率较低的向量数据的成本。随着企业越来越多地采用基于大语言模型的AI技术,非结构化数据的重要性日益凸显,检

AWS已为S3对象存储新增向量存储桶功能,旨在降低在Amazon OpenSearch服务中存储访问频率较低的向量数据的成本。cY8喜好网-记录每日喜好的科技时尚娱乐生活

随着企业越来越多地采用基于大语言模型的AI技术,非结构化数据的重要性日益凸显,检索增强生成(RAG)和智能体技术正成为其中的重要组成部分。RAG技术能够为大语言模型和智能体提供专有信息。这些信息大部分是非结构化的,需要进行向量化处理,以便大语言模型和智能体能够进行基于向量的分析。特殊的大语言模型负责执行向量化处理,然后这些向量需要存储。AWS已经通过其OpenSearch服务提供了这一功能。然而,与本地对象存储和向量数据库相比,该服务存在一定劣势。AWS数据库实例的成本包括存储容量和计算资源两部分。通过将访问频率较低的向量存储在S3中,AWS可以降低向量数据库的计算成本,为客户节省费用。cY8喜好网-记录每日喜好的科技时尚娱乐生活

AWS云服务首席开发者倡导者Channy Yun在博客中写道:"我们宣布推出Amazon S3 Vectors预览版,这是一个专门构建的持久向量存储解决方案,可以将向量的上传、存储和查询总成本最多降低90%。"cY8喜好网-记录每日喜好的科技时尚娱乐生活

这使得创建和使用大型向量数据集变得更加经济高效,从而改善AI智能体的记忆和上下文能力,以及客户S3数据的语义搜索结果。据AWS公告称,S3 Vectors功能"与Amazon Bedrock知识库原生集成,使您能够降低使用大型向量数据集进行检索增强生成(RAG)的成本。您还可以将S3 Vectors与Amazon OpenSearch服务结合使用,降低不经常查询的向量的存储成本,然后随着需求增加或为增强搜索能力而快速将其移至OpenSearch。"cY8喜好网-记录每日喜好的科技时尚娱乐生活

S3向量支持通过新的向量存储桶实现,Yun表示该存储桶具有"专门的API集合,用于存储、访问和查询向量数据,无需配置任何基础设施。"存储桶包含两种类型的内容:向量和用于组织向量的向量索引。Yun说:"每个向量存储桶最多可以有10,000个向量索引,每个向量索引可以容纳数千万个向量。"cY8喜好网-记录每日喜好的科技时尚娱乐生活

还有一个巧妙的额外功能:"您还可以将元数据作为键值对附加到每个向量,以便根据一组条件(例如日期、类别或用户偏好)过滤未来的查询。"这减少了向量选择和扫描时间。cY8喜好网-记录每日喜好的科技时尚娱乐生活

S3 Vectors会自动优化向量数据,以便随着存储桶内容的变化实现向量存储的最佳性价比。cY8喜好网-记录每日喜好的科技时尚娱乐生活

S3 Vectors功能与Amazon Bedrock知识库集成,包括在Amazon SageMaker统一工作室中构建RAG应用程序。在Amazon Bedrock控制台中创建知识库时,您可以选择S3向量存储桶作为向量存储选项。cY8喜好网-记录每日喜好的科技时尚娱乐生活

S3 Vectors还与Amazon OpenSearch服务集成。如果您通过将低访问率向量保存在S3 Vectors中来降低存储成本,您可以根据需要将它们移动到OpenSearch,并获得实时、低延迟的搜索操作。cY8喜好网-记录每日喜好的科技时尚娱乐生活

AWS副总裁兼杰出存储工程师Andrew Warfield表示:"S3 vectors将成本锚定在存储上,并假设查询需求会随时间波动,这意味着您不需要100%的时间都保留最大资源。因此,当我们考虑成本时,我们假设您大部分时间为存储付费,而仅在与数据交互时才为查询/插入成本付费。cY8喜好网-记录每日喜好的科技时尚娱乐生活

"当我们查看客户工作负载时,我们发现绝大多数向量索引都不需要100%的时间配置计算、RAM或SSD。例如,在专用r7g.2xlarge实例上运行包含一千万向量数据集的传统向量数据库,即使在向量数据库管理成本之前,每月就可能花费超过300美元,无论它提供多少查询。cY8喜好网-记录每日喜好的科技时尚娱乐生活

"在S3中托管同样的数据集,每月只需30多美元,可处理25万次查询并每月覆盖50%的向量。对于工作负载需要加速的客户,他们还可以将向量索引移动到传统向量存储(如Open Search),在数据库运行繁忙期间按实例方式付费。"cY8喜好网-记录每日喜好的科技时尚娱乐生活

Yun的博客文章解释了如何设置和使用S3 Vectors。cY8喜好网-记录每日喜好的科技时尚娱乐生活

AWS并非唯一在对象存储中添加向量支持的厂商。Cloudian本月早些时候使用Milvus数据库扩展了其HyperStore对象存储的向量数据库支持。cY8喜好网-记录每日喜好的科技时尚娱乐生活

Amazon S3 Vectors预览版现已在美国东部(弗吉尼亚北部)、美国东部(俄亥俄)、美国西部(俄勒冈)、亚太(悉尼)和欧洲(法兰克福)地区提供。要了解更多信息,请访问产品页面、S3定价页面、文档和AWS新闻博客。cY8喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
五环外接不住马拉松“泼天富贵”

五环外接不住马拉松“泼天富贵”

11月10日,这个寻常的周末,全国有十

11-19 114阅读
黄金价格高歌猛进,正在“逼死”金店?

黄金价格高歌猛进,正在“逼死”金

今年以来,国际黄金价格已经超过30

11-19 106阅读
特斯拉与上汽讨论两轮FSD授权?官方回应

特斯拉与上汽讨论两轮FSD授权?官

11月1

11-19 90阅读
比亚迪造出的第一款实车“316”亮相,王传福称第二天就砍掉了

比亚迪造出的第一款实车“316”

11 月

11-19 116阅读
“一听别人说‘清华系’,我就感觉压力山大”

“一听别人说‘清华系’,我就感觉

自从

11-19 92阅读
烈火军校易柏辰演的谁? 经纪人曝假剧本事件始末起底

烈火军校易柏辰演的谁? 经

前段时间,演员易柏辰方发文称曾被

11-19 104阅读
柯震东吸毒后复出, 出演台湾剧《乩身》网友抵制!

柯震东吸毒后复出, 出演台

柯震东当年凭借着《那些年,我们一

11-19 86阅读
《令人心动的offer6》:职综天花板如何让英雄主义落地现实

《令人心动的offer6》:职综

  《令人心动的offer》第六季以豆瓣

11-19 98阅读
《老舅》官宣开机,郭京飞、王佳佳领衔主演,重绘时代浪潮下的经典温暖记忆

《老舅》官宣开机,郭京飞、

  11月14日,由腾讯视频、鸣涧影业出

11-19 99阅读
最美《变形金刚》女主梅根福克斯怀孕登热搜 网友谈样貌:咋成卡戴珊了...

最美《变形金刚》女主梅根

11月12日消息,知

11-19 99阅读
《彩虹六号:围攻》“COLLISION POINT行动”12月3日推出

《彩虹六号:围攻》“COLLIS

中国,上海– 2024年11月18日 – 今天,

11-19 118阅读
原子之心全部圆盘锁开锁方法详细介绍

原子之心全部圆盘锁开锁方

圆盘锁是原子之心游戏里面的一种特殊加

11-19 100阅读
原子之心医院区域所有死者位置详细介绍

原子之心医院区域所有死者

在原子之心游戏里面想要达成招魂问卜奖

11-19 109阅读
原子之心所有会说话的动物尸体所在位置分享

原子之心所有会说话的动物

在原子之心游戏里面,玩家可以通过找到所

11-19 99阅读
原子之心冰箱在哪?原子之心冰箱位置详细介绍

原子之心冰箱在哪?原子之

原子之心冰箱在哪?原子之心游戏里面那台

11-19 112阅读