首页 > 科技快讯 > 谷歌“AI周边”大放送:想做大模型时代的大平台?

谷歌“AI周边”大放送:想做大模型时代的大平台?

谷歌云大会上,再次投注了生成式AI。

当地时间29日,谷歌举办了Google Cloud Next 2023大会,宣布了20多款产品更新。

继昨天Semianalysis爆料谷歌GPU算力至强后,谷歌发布了一款全新AI芯片Cloud TPU v5e,专为大模型训练推理所设计。同时,还推出了配备英伟达H100 GPU的A3虚拟机。

在面向开发者平台Vertex AI中,谷歌发布了全球首个能够识别水印的工具、以及接入Llama 2、Claude 2大模型接入平台。

此外,人工智能助理Duet AI也完成了在办公全家桶Workspace的更新。

这场人工智能大战,谷歌全力点火,试图通过不断创新给予微软致命的一击。

全新AI芯片:Cloud TPU v5e

在英伟达凭借H100在AI行业中出尽风头后,周一IBM推出了模拟人脑的AI芯片,通过更低的能耗更高的效率向英伟达的芯片霸权发起了冲锋。

谷歌也不甘示弱,在昨晚披露了公司新一代的AI芯片:Cloud TPU v5e。

Cloud TPU v5e专为提供大中型训练与推理所需的成本效益和性能而设计。

与Cloud TPU v4相比,TPU v5e可为大语言模型和生成式AI模型提供每美元花费中高达2倍的训练性能和2.5倍的推理性能。

Cloud TPU v5e的成本不到TPU v4的一半,但可以让更多企业训练和部署更大、更复杂的AI模型。

TPU v5e Pods能够平衡性能、灵活性和效率,允许多达256个芯片互连,聚合带宽超过400 Tb/s和100 petaOps的INT8性能。

并且支持八种不同的虚拟机(VM)配置,单片内的芯片数量从一个到250多个不等。

用户可以根据自身的需求选择合适的配置,Cloud TPU v5e可以为各种大语言模型和生成式AI模型提供服务。

根据速度基准测试,在Cloud TPU v5e上训练和运行人工智能模型的速度提高了5倍。

同时,推理指标的规模有了巨大提升:在一秒钟内,能实时处理1000秒的内部语音到文本和情感预测模型,比之前提升了6倍。

谷歌在GKE中全面推出了云TPU,这是当今业内最具可扩展性的领先Kubernetes服务。

用户可以利用GKE在云TPU v5e和云TPU v4上管理大规模AI工作负载编排,从而提高 AI 开发效率。

对于喜欢托管服务简单性的企业,Vertex AI也支持使用云TPU VM使用各种框架和库进行训练。

Cloud TPU v5e还为领先的AI框架(如 JAX、PyTorch 和 TensorFlow)提供内置支持。也包括流行的开源工具,如Hugging Face的Transformers and Accelerate、PyTorch Lightning和Ray等。

同时,谷歌宣布将在预览版中引入Multislice技术,该技术允许用户轻松地将 AI 模型扩展到物理 TPU Pod 边界之外——多达数万个Cloud TPU v5e或TPU v4芯片。

通过Cloud TPU v5e,用户能够更轻松地扩展自己的训练作业。

全球首个水印工具上线,Llama2、Claude2接入Vertex AI

Vertex AI是谷歌Cloud在2021年5月发布的机器学习(ML)平台。

它可以训练和部署机器学习模型和AI应用,并自定义大语言模型(LLM),从而在AI驱动的应用中。

Vertex AI结合了数据工程、数据科学和机器学习等工作流,能够让团队使用通用工具集进行协作,并通过Google Cloud的优势扩缩应用。

并提供AutoML、自定义训练、模型发现、生成式AI等选项,通过端到端MLOps工具实现自动化部署和扩展。支持多种界面,包括SDK、控制台、命令行和Terraform。

对于希望快速开始常见生成式人工智能(AI)用途(例如聊天机器人和定制搜索引擎)的开发人员,Vertex AI搜索和对话可以帮助没有任何AI经验的人快速上手开发,甚至在许多情况下,都无需编写任何代码。

全家桶式更新发布

半年前,谷歌宣布在Vertex AI提供生成式AI服务支持后,Vertex AI的用户数量比上季度增长了15倍以上。

面对如此强劲的用户需求,谷歌也在默默发力。在8月30日的Google Cloud Next大会上,谷歌发布了一系列扩展功能:

扩展模型生态系统。

在拥有超过100个大模型的Vertex AI“模型花园”中新增了来自Meta的Llama 2和Code Llama以及技术创新研究所(TII)的Falcon LLM。还有即将加入的Anthropic的Claude 2。Model Garden的多样性使企业能够将模型与其需求相匹配,为用户提供更多的选择。

调整升级谷歌自己的模型:PaLM 2、Codey和Imagen。

PaLM可支持38种语言、3.2万个token上下文窗口,Codey的代码生成质量提到了25%;Imagen改进了视觉吸引力,最近还添加了图像编辑、字幕以及视觉问题和答案等功能。

发布了全球首个水印识别工具SynthID,验证Imagen生成的图像。

利用扩展功能连接真实世界的数据并驱动真实世界的行动。VertexAI扩展是一组完全托管的扩展开发人员工具,可将模型到API以实现实时数据和实际操作。

全球首个水印识别工具:

此次在Google Cloud Next上,最引人注目的产品是能为AI生成的图像打上水印并进行检测和识别的SynthID。

在生成式AI爆发的浪潮中,识别AI生成的内容成为我们现在亟需解决的难关。

一方面,在大模型的训练中使用AI生成的内容会导致模型崩溃。另一方面,AI生成的假信息也大大扰乱了互联网中的信息生态。

之前的研究中,有人提出了为AI生成的内容添加水印,但在后续的实践中发现添加水印会干扰模型的内容生成。

SynthID的发布,预示解决识别AI生成内容的这一难题将会被解决。

SynthID的首次亮相是在开发者平台Vertex AI中。

Vertex AI与Google DeepMind合作,推出了SynthID。它能够为Imagen生成的图像加上数字水印,并且识别AI生成的图像。

SynthID可以帮助评估图像由Imagen创建的可能性

SynthID使用两个深度学习模型,分别用于水印和识别。

它们可以在一组不同的图像上一起训练。组合模型针对一系列目标进行了优化,包括正确识别带水印的内容,并通过直观地将水印与原始内容对齐来提高水印的隐蔽性。

SynthID生成的数字水印是直接嵌入到图像的像素中的,人眼无法察觉。但SynthID可以检测并识别它们。

SynthID生成的水印即使在添加滤镜、更改颜色和使用各种有损压缩方案(最常用于JPEG)进行保存等修改后,也能够被识别出来,并且不会影响图像质量。

即使在添加滤镜、更改颜色和亮度等修改后,水印也可以检测到

元数据是最广泛使用的内容识别方法之一。它提供了创建者和创建时间等信息,这些信息与图像文件一起存储。

添加到元数据中的数字签名可以显示图像是否被更改过。当元数据信息完好无损时,用户可以很容易地识别图像。

然而,元数据可能会被手动删除,甚至在文件编辑时丢失。

但是,SynthID生成的水印嵌入了图像的像素,因此它与其他基于元数据的图像识别方法兼容,即使元数据丢失也能被检测到。

SynthID还提供了三个置信度,用于解释水印识别结果。

如果检测到数字水印,说明部分图像可能是由Imagen生成的。

腹泻式更新能让谷歌重回行业领航吗

谷歌在Google Cloud Next大会上的更新林林总总一大堆。

但就像OpenAI发布ChatGPT后,谷歌的产品发布总是慢了一步,像这次的AI芯片发布也被IBM抢了风头。

但谷歌依旧拥有无可比拟的优势:开发者平台Vertex AI。

谷歌有意将Vertex AI打造成一个巨大的AI开发生态圈,软件硬件全都做到现有的顶配,并提供开发AI的一站式服务。

如果说英伟达是AI淘金热里那个因为卖铲子而暴富的精明商人,那么谷歌这次是决心把自己打造成生成式AI的大平台。

一波一波的淘金者们来来往往,商人也可能因为时运不济而倒下,但平台会与AI行业的命运紧紧相连。

或许,这才是谷歌默默耕耘的最终目标。

参考资料:https://cloud.google.com/blog/products/ai-machine-learning/vertex-ai-next-2023-announcements

本文来自微信公众号:新智元 (ID:AI_era),编辑:Lumina

相关推荐

谷歌“AI周边”大放送:想做大模型时代的大平台?
微软、谷歌、亚马逊,正在打响大模型时代的云战争
焦虑的中国大客户,正“逼着”AI企业做大模型
AI大模型“太贵”,VC投钱望而生畏
对话李彦宏:真正AI时代,新的应用需要基于大模型的“新地基”
阿里进入大模型时代,核心是算力和生态
从谷歌看大模型如何深刻改变互联网广告?
AI大模型没有商业模式?
AI大模型之战,大厂为何都在“重复造轮子”?
朱啸虎VS傅盛,怼出了做大模型的两个共识

网址: 谷歌“AI周边”大放送:想做大模型时代的大平台? http://m.xishuta.com/newsview88814.html

所属分类:行业热点