人工智能助力 Visa: 如何通过 RAG 即服务和深度学习提升安全性并加快数据检索速度

1个月前 科技 10观看
摘要 全球支付巨头 Visa 在 200 多个国家和地区开展业务,每个地区都有其独特而复杂的规则和法规。当出现政策相关问题时 (比如"我们是否可以在这个国家处理这种类型的支付?"),其客户服务团队必须理

全球支付巨头 Visa 在 200 多个国家和地区开展业务,每个地区都有其独特而复杂的规则和法规。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

当出现政策相关问题时 (比如"我们是否可以在这个国家处理这种类型的支付?"),其客户服务团队必须理解这些细微差别,但人力上无法记住所有这些答案。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

这意味着他们通常必须手动追踪相关信息——这是一个耗时的过程,根据信息的可访问性,可能需要数天时间。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

当生成式 AI 出现时,Visa 发现这是一个完美的应用场景,通过应用检索增强生成 (RAG) 技术不仅能将信息检索速度提高高达 1000 倍,还能追溯到信息源。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

"首先,这能带来更高质量的结果," Visa 的数据和 AI 高级副总裁 Sam Hamilton 向 VentureBeat 表示,"同时也提高了效率,他们现在能处理比以前多得多的案例。"Vrq喜好网-记录每日喜好的科技时尚娱乐生活

这只是 Visa 利用生成式 AI 增强其运营的一个方面——在精心构建的分层技术栈支持下,同时管理风险并防范欺诈。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

Secure ChatGPT: Visa 的受保护模型Vrq喜好网-记录每日喜好的科技时尚娱乐生活

2022 年 11 月 30 日,ChatGPT 向全世界推出的那天将被载入 AI 发展史的重要时刻。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

不久之后,Hamilton 注意到,"Visa 的员工都在问:'我的 ChatGPT 在哪里?' '我可以使用 ChatGPT 吗?' '我无法访问 ChatGPT。' '我想要 ChatGPT。'"Vrq喜好网-记录每日喜好的科技时尚娱乐生活

然而,作为全球最大的数字支付提供商之一,Visa 自然对其客户的敏感数据安全性有所顾虑——特别是确保数据安全、不会进入公共领域,也不会被用于未来的模型训练。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

为了满足员工需求的同时平衡这些顾虑,Visa 推出了所谓的"Secure ChatGPT",它位于防火墙后并在 Microsoft Azure 上内部运行。公司可以通过数据丢失防护 (DLP) 筛查来控制输入和输出,确保没有敏感数据离开 Visa 的系统。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

"所有数百 PB 的数据,无论是静止还是传输中的数据都经过加密和安全保护," Hamilton 解释道。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

虽然名为 Secure ChatGPT,但它实际上是一个提供六种不同选项的多模型接口:GPT (及其各种迭代版本)、Mistral、Anthropic 的 Claude、Meta 的 Llama、Google 的 Gemini 和 IBM 的 Granite。Hamilton 将其描述为模型即服务或 RAG 即服务。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

"可以将其视为一种抽象层," 他说。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

人们无需构建自己的向量数据库,可以选择最适合其特定用例的 API。例如,如果他们只需要一点微调,通常会选择像 Mistral 这样的小型开源模型;相反,如果他们需要更复杂的推理模型,可以选择 OpenAI o1 或 o3 这样的模型。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

这样,人们就不会觉得受到限制或错过公共领域readily 可用的功能 (这可能导致"影子 AI",即使用未经批准的模型)。Hamilton 解释说,Secure GPT "不过是模型之上的一个外壳。现在他们可以在此基础上选择想要的模型。"Vrq喜好网-记录每日喜好的科技时尚娱乐生活

除了 Secure ChatGPT,所有 Visa 开发人员都可以访问 GitHub Copilot 来协助日常编码和测试。Hamilton 指出,开发人员使用 Copilot 和各种集成开发环境 (IDE) 插件来理解代码、增强代码并执行单元测试 (确定代码按预期运行)。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

"因此有了这个助手,代码覆盖率 (识别缺乏适当测试的区域) 显著提高了," 他说。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

RAG 即服务实战Vrq喜好网-记录每日喜好的科技时尚娱乐生活

Secure ChatGPT 最有效的用例之一是处理特定地区的政策相关问题。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

"可以想象,在 200 个国家/地区开展业务,不同的法规文件可能有成千上万份,数十万份," Hamilton 指出。"这变得非常复杂。你需要准确把握,而且需要进行详尽的搜索。"Vrq喜好网-记录每日喜好的科技时尚娱乐生活

更不用说,当地政策会随时间变化,所以 Visa 的专家必须保持最新状态。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

现在通过基于可靠、最新数据的强大 RAG,Visa 的 AI 不仅能快速检索答案,还能提供引用和源材料。"它告诉你可以做什么或不能做什么,并说,'这是你想要的文件,我基于此给出答案,'" Hamilton 解释道。"我们已经用构建到 RAG 中的知识缩小了答案范围。"Vrq喜好网-记录每日喜好的科技时尚娱乐生活

通常,这个详尽的过程需要"如果不是几小时,就是几天"才能得出具体结论。"现在我可以在五分钟、两分钟内得到答案," Hamilton 说。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

Visa 的四层"生日蛋糕"数据基础设施Vrq喜好网-记录每日喜好的科技时尚娱乐生活

这些能力是 Visa 在过去 10 年中大力投资数据基础设施的结果:根据 Hamilton 的说法,这家金融巨头在其技术栈上投入了约 30 亿美元。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

他将该技术栈描述为"4 层生日蛋糕":基础是"数据平台即服务"层,上面是"数据即服务"、AI 和机器学习 (ML) 生态系统以及数据服务和产品层。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

数据平台即服务本质上是建立在数据湖之上的操作系统,Hamilton 解释说,该系统聚合了"数百 PB 的数据"。上面一层的数据即服务充当一种"数据高速公路",具有多个以不同速度运行的车道,为数百个应用程序提供支持。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

第三层 AI/ML 生态系统是 Visa 持续测试模型的地方,以确保它们按预期方式运行,并且不容易受到偏差和漂移的影响。最后,第四层是 Visa 为员工和客户构建产品的地方。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

阻止 400 亿美元欺诈Vrq喜好网-记录每日喜好的科技时尚娱乐生活

作为受信任的支付提供商,Visa 的首要任务之一是防止欺诈,而 AI 在这方面发挥的作用也越来越大。Hamilton 解释说,公司已投资超过 100 亿美元来帮助减少欺诈并提高网络安全性。最终,这帮助公司仅在 2024 年就阻止了 400 亿美元的欺诈企图。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

例如,新的 Visa 深度授权工具提供交易风险评分,帮助管理非持卡人在场 (CNP) 支付 (例如用户通过网络或移动应用程序支付,这是我们所有人的日常做法)。这由基于 PB 级上下文数据的深度学习循环神经网络 (RNN) 模型提供支持。类似地,实时账户对账户支付保护 (通过数字钱包或即时支付系统) 由深度学习 AI 模型支持,这些模型产生即时风险评分并自动阻止恶意交易。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

Hamilton 解释说,Visa 使用基于 Transformer 的模型 (一种通过追踪数据关系来学习上下文和含义的神经网络) 来增强这些工具,并快速识别和阻止欺诈。"我们想要在交易过程中实时完成这个工作," 他说。"这意味着我们需要不到一秒,应该说是毫秒级的响应时间。"Vrq喜好网-记录每日喜好的科技时尚娱乐生活

合成数据在欺诈防范中也发挥了作用:Hamilton 的团队用合成数据增强现有数据,以针对较新的欺诈枚举执行模拟。"这帮助我们了解现在正在发生的事情以及短期和长期可能发生的事情,所以我们可以模拟和训练模型来捕获数据," 他说。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

他指出,欺诈是一场军备竞赛——威胁行为者的进入门槛很低。"我们需要领先一步,预测并阻止他们," Hamilton 强调。Vrq喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
天玑9400性能之神!iQOO Neo10系列前瞻

天玑9400性能之神!iQOO Neo10系列

今天,iQOO

11-19 65阅读
慢热的腾讯,上火的AI搜索

慢热的腾讯,上火的AI搜索

11月1

11-19 64阅读
趁iPhone16的AI还没落地,国产手机卷疯了

趁iPhone16的AI还没落地,国产手机

乔布

11-19 65阅读
一家早期科技基金,今年投了10个亿

一家早期科技基金,今年投了10个亿

周期

11-19 67阅读
93亿并购,“弟弟”成了“爹”

93亿并购,“弟弟”成了“爹”

11月1

11-19 62阅读
吴秀波息影一年后首现身, 吴秀波出轨门怎么回事?

吴秀波息影一年后首现身,

吴秀波原本是圈中一线的演技派男

11-19 64阅读
千古玦尘凤染和是凤焰什么关系?白烁是月弥的转世吗?

千古玦尘凤染和是凤焰什么

《千古诀尘》中凤染和是凤焰什么

11-19 65阅读
魔兽世界年卡来了 送筋肉鱼人 兔年坐骑,怀旧服幽冥幼龙(魔兽世界年卡来了)

魔兽世界年卡来了 送筋肉

暴雪今天早晨发布了魔兽世界最新的

11-19 64阅读
20岁大学生开车26天去上学引百万人围观:从中国南京开到英国杜伦

20岁大学生开车26天去上学

“我真的做到了!

11-19 65阅读
迪士尼儿童动画或因LGBT话题停播一集:变性少年参加女子排球赛

迪士尼儿童动画或因LGBT话

据多位参与制作

11-19 66阅读
360浏览器兼容模式怎么设置?360浏览器极速模式怎么开?一文看懂

360浏览器兼容模式怎么设

360浏览器是我们使用最多的一款浏览器

11-19 61阅读
原神星月之章全流程解析|原神星月之章任务攻略

原神星月之章全流程解析|

原神星月之章是须弥地图的世界任务之一

11-19 64阅读
饥荒饥饿腰带制作方法及制作材料分享

饥荒饥饿腰带制作方法及制

饥饿腰带是饥荒游戏里面的一件魔法物品

11-19 69阅读
饥荒金色腰带有什么用?饥荒金色腰带用途详细介绍

饥荒金色腰带有什么用?饥

饥荒金色腰带有什么用?金色腰带是饥荒游

11-19 68阅读