过去20多年时间,亚马逊云科技已经用不断扩张的业务证明,没有什么问题是云计算解决不了的。而面对如火如荼的AI趋势,亚马逊云科技则在用全面更新的全家桶服务向全球用户展示,这条云计算之路依旧可以承载用户,奔向彼岸。
时代在变,但创新的内核不变!
与所有IT系统一样,亚马逊云科技为用户提供的云服务也由基础架构、中间件和应用组成。其中基础架构提供计算、存储和数据能力;中间层作为平台,提供面向上层应用的各类基础能力;而应用层则直接与业务相对应,为用户提供更直接的商业价值。
正如AI需求推动了整个IT产业的全面进化一样,新时代的来临也意味着亚马逊云科技需要用三层架构的整体革新来满足用户的新业务、新需求。而这正是亚马逊云科技在re:Invent 2024大会上用海量新品所传达的声音。
本次大会一开场,亚马逊云科技CEO Matt Garman就进行了精准的阐述:我们打破了传统的应用和解决方案模式,并将其中的核心及精华部分作为云服务的基础组件。而通过将数百种基础组件组合在一起,用户便可构建出任意形态的业务。这一方式既能帮助初创公司开展业务,也能为大型企业及政府所用,来解决复杂问题。
在面对AI浪潮时,亚马逊云科技的这套创新模式同样奏效。
用三层架构的全面革新赢得未来
re:Invent 2024大会上,亚马逊云科技发布了数十个新产品、新功能,涵盖了计算、存储、数据库、大模型、AI开发平台、AI业务平台和AI应用。换言之,亚马逊云科技正在用三层架构的全面革新来创造新的基础组件,而后,用户便可用这些新组建构建出适应AI时代的业务体系,再一次完成转型。
01、基础架构层性能全面提升
1)计算:庞然算力即刻呈现
亚马逊云科技宣布了面向AI训练的Trainium 3芯片,采用3nm工艺打造,可提供2倍的性能和40%的能效提升。首批基于Trainium 3的实例预计将于2025年底可用。此外,苹果也将成为亚马逊云科技定制AI芯片的用户,用来支持其的搜索等关键AI业务。
在宣布新硬件的同时,亚马逊云科技高级副总裁Peter Desantis也表示,使用Trainium 2芯片的Amazon EC2 Trn2实例现已正式可用。实例背后的硬件搭载了16颗Trainium 2芯片,FP8算力可达20.8 PFlops;而由4台Amazon EC2 Trn2组成的UltraServer则可通过NeuronLink互联实现更高的集群效率,将性能线性扩展至83.2PFlops。而相对于前代产品,采用Trainium 2芯片的Amazon EC2 Trn2实例可为用户带来30-40%的计算性价比提升。
此外,亚马逊云科技还宣布搭载新一代Blackwell架构GPU的全新Amazon EC2 P6实例也即将在25年早些时候可用,其性能将达到上一代产品性能的2.5倍。2)新一代Amazon SageMaker:更省、更快、更灵活
Amazon SageMaker是亚马逊云科技于2017年推出的一款机器学习平台,开发者可在其上构建、训练和部署各类AI模型,并对整个过程实施精确的管理与调度。而在2023年,亚马逊云科技也针对生成式AI和大模型训练需求的快速增长,推出了新一代Amazon SageMaker。本次大会上,亚马逊云科技也延续了Amazon SageMaker快速迭代的风格,发布了一系列实用功能。
HyperPod灵活训练计划:能够根据用户的预算和时效需求自动创建模型训练计划, 并自动完成基础架构和集群的配置工作,从而减轻频繁变更和手动配置所带来的巨大工作量,同时也能将用户的云端资源利用率提升至90%或更高。
HyperPod任务管理器:通过实时监控硬件的分配情况和利用率,以实现不同训练任务之间的硬件资源动态分配;既能确保高优先级任务能够按时完成,也可大幅降低用户成本支出
来自合作伙伴的AI训练工具支持:来自Comet、DeepChecks、Fiddler、Lakera等生态伙伴的多款AI模型训练工具目前已上架Amazon SageMaker,可帮助用户更好的解决训练时间、部署、管理和安全等方面的痛点,提升模型构建、训练和部署效率。
3)存储:更快释放数据价值
全新推出的Amazon S3 Tables存储服务能够帮助用户更好的使用Iceberg来管理、查询和访问底层的Parquet文件,从而在大数据处理、BI数据分析及JSON嵌套数据等应用场景中获得更多优势。Amazon S3 Tables存储服务将自动完成Iceberg表的压缩、快照、 体积管理等维护工作。因此相对于传统存储服务,Amazon S3 Tables能够提供3倍的查询性能和10倍的Iceberg事务处理性能。
对此,Matt也表示:用户可以在无需雇佣专业团队的情况下,跨越Iceberg在管理、扩展、访问控制等方面的复杂性问题,使用Amazon S3 Tables来获得更好的存储性能。
此外,亚马逊云科技还推出了面向元数据管理的Amazon S3 Metadata存储服务。通过将所有元数据和其对应的object自动存储在Iceberg表中,用户便可更方便的进行查询和分析操作。而在object出现变动时,Amazon S3 Metadata也能以近乎实时的方式来更新与其对应的元数据,由此便能减少用户在数据分析、AI建模等业务中所要承担的工作量,继而提升业务效率。
4)数据库:海量优势特性同时掌握
分布式关系型数据库Amazon Aurora DSQL最早于2014年推出,而经过连续10年持续不断地更新,亚马逊云科技终于在本次大会上宣布,Amazon Aurora DSQL同时实现了:
几乎无限的可扩展性:通过横向扩展来帮助用户应对快速增长的数据容量并保持数据库整体性能;
0基础设施管理负担:无需关注基础架构的规划、建设和运营,让用户专注于数据、业务和价值;
5个9的多Region可用性:更高的可靠性和跨Region特性能够更好的承载用户的关键业务;
更强的数据一致性:更高的数据一致性能够避免数据冲突和可能导致的一系列系统错误,帮助用户实现业务的安全及合规;
完整兼容PostgreSQL:对开源数据库的完整兼容将让用户获得更高的业务灵活性,避免被绑定。
Amazon Aurora DSQL的跨Region读写延迟仅为1ms,比竞争对手的4.4ms低4倍,拥有更好的延迟表现。
对此,Matt也在大会上表示:亚马逊云科技的业务逻辑不是让用户在A特性和B特性之间做选择,而是要通过技术和产品创新,将所有可能的优势全部交给用户,使用户收获更多价值。
Amazon DynamoDB是亚马逊云科技推出的另一款NoSQL数据库,能够为用户提供高性能、低延迟、5个9高可靠、高可扩展等众多优秀特性,适用于实时分析、网络游戏、物联网、社交媒体、内容管理等众多对实时性要求较高的业务。而在本次大会中,亚马逊云科技则宣布Amazon DynamoDB将获得多Region和多活能力,这对于跨国业务的统一管理和高效运营带来诸多便利。
02、中间层功能答复更新
1)Amazon Nova:大模型6+2,拓展AI新疆界
AI时代,模型代表了创新,是IT厂商的核心竞争力。而在此次大会中,亚马逊云科技总裁Andy Jassy也一口气发布了6款亚马逊云科技自研的大模型产品,并对接下来的产品方向进行了预告。
首先是包含Micro、Lite、Pro和Premier四大版本的大模型产品Amazon Nova。其中,Amazon Nova Micro版是一款文本类模型,用于完成各类简单任务,旨在为用户提供行业最低的成本和延迟表现。而Amazon Nova的Lite、Pro和Premier版本则是体积和智能程度依次递增的多模态模型,具备文本、图像和视频输入能力,用户可根据对成本和任务复杂度在不同版本之间进行选择。
在与竞争对手的对比中,Amazon Nova Micro对标常见的8B级别模型,能够在语言理解、通用推理、普通场景推理、深度推理、数学、Python代码生成、多步骤推理等十余个项目中获得领先。而在Amazon Nova Lite版与常见11B级别模型、Pro版与常见90B级别模型的对比中,亚马逊云科技依旧能获得明显优势。
目前,Amazon Nova的Micro、Lite、Pro版本已经可用,而Premier版则会在25年Q1正式上线。
其次是主打文生图功能的Amazon Nova Canvas,用户可以通过自然语言生成精美图片,并对图像的颜色和布局进行控制和调整。同时,亚马逊云科技还为Amazon Nova Canvas增加了用于追踪图片用途的水印功能,以及避免生成有害内容的内建控制功能。
而在与另外两款常见文生图模型的对比测试中,Amazon Nova Canvas在图片质量和按指作画方面都具备明显的优势。目前Amazon Nova Canvas已正式可用。
第三是则是面向视频生成领域的Amazon Nova Reel模型。亚马逊云科技为其提供了摄像机平移、360度旋转、放大缩小等多种镜头控制功能。目前,Amazon Nova Reel可以生成时长为6秒的视频,而在未来几个月的更新之后,这一限制则会放宽至2分钟。
Amazon Nova Reel模型目前已处于可用状态。同样的,亚马逊云科技也为Amazon Nova Reel模型增加了避免生成有害内容的内建控制功能。
此外,亚马逊云科技也预告了即将在2025年上线的两款新模型:
Amazon NOVA Speech-to-Speech:亚马逊云科技即将在25年第一季度推出的语音对话模型。
Amazon NOVA Any-to-Any:即将于25年中推出,用户可以输入文本、语音、图像或视频内容,并得到文本、语音、图像或视频内容。Any-to-Any是当今业界模型研究的前沿领域,也将是未来模型的终极形态。显然,Any-to-Any模型的即将上架也预示着亚马逊云科技已经对AI模型巅峰挑战的过程中取得了里程碑式进展。
2)Amazon Bedrock:用海量新功能连接AI与应用
当然,有了模型之后,用户还需要一系列平台和工具来构建AI业务和应用。而Amazon Bedrock正是完成这些工作的理想平台。自2023年推出之后,亚马逊云科技一直在为该平台增加新功能、新能力,使用户能够更简便、更顺畅的完成AI工作流。
而才本次大会上,亚马逊云科技也宣布了众多Amazon Bedrok的新功能:
Prompt缓存功能:用户可通过将Prompt关键词加入系统缓存来减少不同模型联合生成内容时的调用数量,继而实现最高85%的延迟降低和90%的成本降低。
Prompt智能路由功能:允许用户调用不同模型来应对复杂对话任务中的不同问题,从而获得更好的内容生成效果。
生成式AI索引功能:亚马逊云科技为Amazon Bedrock平台增加了SharePoint、OneDrive、Salesforce等40多种数据源连接器,允许用户在Amazon Kendra(一款企业智能搜索服务)等功能时联接更多不同类型的数据源。
结构化数据检索功能:允许Amazon Bedrock平台调用存储在Amazon SageMaker数据湖、Amazon Redshift数据仓库以及Amazon S3 Tables表中的结构化数据,让用户的RAG类应用获得可定制、更精准的数据反馈。
GraphRAG功能:允许用户在使用Amazon Bedrock的知识库功能时获得图形化的知识图谱,帮助用户更好的理解知识库所使用的各类数据源之间的关系。
数据自动化功能:允许用户按照自定义规则,以多模态模型生成的内容为基础,自动生成结构化的数据;同时也允许用户以单一API形式调用此功能,从而降低工作复杂性、简化工作流。
多模态毒性检测功能:为Amazon Bedrock Guardrail增加多模态能力,避免用户开发的AI应用程序生成暴力、血腥、仇恨、歧视等的文字和图片内容,提升用户业务的合规性和安全性。
此外,亚马逊云科技也宣布poolside Assistant的malibu和point模型、stability.ai的Stable Diffusion 3.5模型和Luma AI模型也已登陆Amazon Bedrock市场。由此,Amazon Bedrock市场已经能够为用户提供包括Amazon Nova在内的40余款基础模型,大大提升了用户在构建AI业务和应用时的灵活性。
大会上,亚马逊云科技人工智能与数据部门副总裁Swami博士也表示:Amazon Bedrock是生成式AI时代用户构建AI业务的全新基石。Amazon Bedrock不仅为用户提供了丰富的可选模型,更用海量工具创造了流畅、无缝的AI业务开发体验。同时,Amazon Bedrock平台在数据联接便利性、安全性等方面也处于业界领先水平。
03、应用层场景百花齐放
1)0代码也能完成AI开发
Amazon Q Developer是亚马逊云科技面向开发者推出的新一代生成式人工智能助手,能够帮助开发者完成编程、测试、诊断、安全扫描、修复、优化等一系列工作,可大幅降低开发者的工作量并提升工作效率。
而在本次大会上,亚马逊云科技也宣布Amazon Q Developer功能已在Amazon SageMaker Canvas中可用。由此,开发者不仅可以获得Amazon SageMaker Canvas图形化界面的助力,更能通过自然语言来理解和使用其中海量功能,从而获得真正的0代码机器学习模型开发和AI应用开发体验。
2)Amazon Q Business:一句话就能获得商业洞察
Amazon Q Business则是亚马逊云科技面向企业员工推出的生成式人工智能助手,可以整合企业内部的各类数据库、数据源,为员工提供信息问答、摘要生成等功能,提升员工的数据能力和工作效率。
而现在,用户也可以在Amazon QuickSight(亚马逊云科技推出的数据分析BI服务)中使用Amazon Q Business,从而用自然语言来指导系统生成图文并茂、数据详实的业务简报,并为企业经营管理提供专业洞察。
三层架构全面更新,一朵云搞定AI业务
每一年,亚马逊云科技都会在re:Invent大会上用海量的新产品、新功能让观众和用户大饱眼福,也让企业对未来的业务效率和创新充满遐想。而这正是re:Invent大会想要达到的效果——让理想发生。
生成式AI深刻的影响着企业的生产方式、经营管理模式、甚至商业逻辑,因此,面向AI的探索和创新正在无数企业和行业中频繁发生。而在服务全球用户的过程中,亚马逊云科技不仅看到了需求的变化,更将藏于其中的方法论和创新逻辑融入了新产品和新功能之中。由此,用户也能通过部署和使用这些新产品、新服务来获得其背后的经验支撑,从而在业务创新的过程中少走弯路、快速向前。
显然,在这条由需求——经验——创新相互驱动的正循环之中,用户、亚马逊云科技以及海量合作伙伴都将成为赢家,而其奖品则是AI时代,以及接下来的每个时代。