从智能交通、智能金融、智能医疗到智能个人助理、自动驾驶,我们已经进入了无处不在的人工智能时代。在全民人工智能时代,人工智能在帮助我们提高工作效率、提升工作和生活体验的同时,也对计算能力提出了更高的要求。除了数据中心算力之外,如何提升终端算力也成为人们关注的焦点。
产品营销总监 Uhm 表示,无处不在的人工智能给高度受限的系统带来了更高的工作负载。在人工智能驱动的嵌入式系统中,数据预处理、AI推理阶段、后处理阶段都需要在高性能嵌入式系统中进行加速,以实现全系统的实时性。
为了满足边缘终端不同阶段的计算需求,AMD推出了面向AI驱动的嵌入式系统的第二代AI Edge系列产品和面向经典嵌入式系统的第二代Prime系列产品,不仅提供了更高的AI计算性能,并更好地降低功耗,更好地满足AI时代企业的自适应计算需求。
人工智能为高度受限的系统带来了更高要求的工作负载
众所周知,复杂的边缘场景不仅对计算系统的性能有一定的要求,而且对设备尺寸、耐热耐寒、可靠性、供电、信息安全等提出了更高的要求。随着AI时代的到来,大量数据需要在终端设备上处理,这对边缘系统提出了更高的要求。
Uhm表示,在人工智能的驱动下,数据预处理、AI推理和后处理都需要在边缘设备上完成。
首先,在数据预处理阶段,只有能够对雷达、激光雷达、摄像头等设备采集的数据进行准确实时采集和处理,整个系统才能真正做到实时处理。其次,在推理过程中,大部分是使用向量处理器来完成的。最后,在后处理阶段,一般使用高性能嵌入式CPU来完成。
Uhm强调,目前还没有一种处理器可以优化这三个阶段。这三个阶段的优化只能依靠一系列不同的处理器来实现。然而,在三个阶段使用不同的处理器需要在不同的芯片之间传输数据,这不仅会增加延迟而且会增加功耗。因此,如果将这三个阶段集成在可编程逻辑SoC上,则可以克服上述挑战。事实上,这也是AMD针对AI驱动的嵌入式系统推出第二代AI Edge系列产品的主要原因。
Uhm表示,可编程逻辑SoC可以更好地匹配各种传感器和各种类型的接口。其强大的性能能够真正实现数据的实时处理,同时还能保证低延迟和稳定性,甚至可以现场部署。完成后,进行后续升级将会更加方便。
在第二代自适应 SoC 上实现端到端加速
AMD此次发布的第二代AI Edge系列产品采用全球领先的可编程逻辑SoC,可实现灵活的实时预处理传感器融合、数据调理,并支持新的硬图像/视频处理。
据介绍,第二代自适应SoC采用了下一代AI引擎,每瓦提供高达3倍的TOPS,同时实现高效的AI推理。由于集成了更高性能的CPU,后处理过程中标量计算能力可提高10倍。此外,第二代自适应SoC进一步增强安全能力,支持ASIL D、SIL 3等。
Uhm通过智能驾驶、智慧城市和视频流三个场景的测试数据详细介绍了第二代自适应SoC的性能。在L2+/L3自动驾驶场景下,在功耗资源相近的情况下,图像处理能力较上一代产品提升4倍;在智慧城市场景中,与上一代产品相比,第二代 SoC器件本体面积减少30%,并支持2倍视频流,每个视频流的板面积减少65% ;在视频流场景中,它为多端口编码和流媒体提供2倍的视频处理能力,并且每个视频流的视频流占用空间减少了35%。
在本次媒体沟通会上,Uhm还详细介绍了第二代自适应SoC在数据预处理、AI推理和后处理三个阶段的优势。
在数据预处理阶段,第二代自适应SoC可以支持图像传感器、摄像头、激光雷达等多种传感器,并且可以与任何传感器对接,满足各种应用场景的需求,并且具有非常好的灵活性。
在AI推理过程中,第二代AI Edge系列SoC在Dense条件下,MX6数据类型最高可达369 TOPS,INT8数据类型最高可达184 TOPS。如果采用稀疏性计算方法,性能可以提高一倍。当使用AIE-ML v2时,第二个AI Edge系列SoC还可以执行一些数据信号处理,例如FIR、FFT等。
据Uhm介绍,为了帮助用户实现更强大的AI引擎,AMD还提供了开源软件开发工具包。借助 Vitis AI,开发人员可以使用他们非常熟悉的开源工具等在 Vitis 中进行优化和推理。
在后处理阶段,第二代AI Edge系列SoC可为复杂的后处理提供高达10倍的标量计算能力,实现高达Arm-A78AE内核的8倍,最高频率可达2.2每个核心 GHz,以及高达 200.3 K 的 DMIPS 计算能力。在控制功能的实时处理单元中,RPU可实现高达Arm-R52内核的10倍,每核最高频率可达1.05 GHz,提供高达28.5K DMIPS的计算能力。
第二代AI Edge系列产品率先应用于汽车行业
在本次媒体采访中,Uhm还详细介绍了第二代AI Edge系列产品的案例和销售情况。
据了解,斯巴鲁已经在视觉系统中使用了第二代AI Edge系列产品,支持预碰撞制动、车道偏离预警、自适应巡航控制和车道保持辅助等功能。之所以选择第二代AI Edge系列产品,是斯巴鲁希望在下一代视觉系统的AI方面拥有领先优势,这就需要保证其低延迟。由于第二代AI Edge系列产品具有非常先进的数据类型支持,因此可以保持视觉系统的高吞吐量和高精度。
Uhm表示,借助可编程逻辑的灵活性,斯巴鲁的下一代系统利用以可编程逻辑实现的反馈IP来实时修改摄像头的传感器参数,以实现2030年无致命道路事故的安全目标。
关于产品发布和上市时间,Uhm表示,第二代Edge系列和第二代Prime系列产品芯片样品将于2025年上半年发布,评估套件和系统模块将于2025年底推出,而量产芯片将于2025年末发布。
“人工智能已经无处不在,很难预测五年后会发展到什么程度。AMD 作为一家科技公司,始终深度参与人工智能的创新和发展,并持续在人工智能的发展基础上不断发展。”无处不在的人工智能并处于技术前沿。”乌姆在采访结束时说道。