满足实际算力刚需,光靠硬件为什么不行?丨解读英特尔软件创新之路

科技 2020-01-13 11:52 阅读:78

计算硬件的发展帮助 AI 解开了算力的“无形枷锁”但是,在一些业内人士看来,这或许会造成新的困局。近日,Facebook 的人工智能副 Jerome Pesenti 在公开场合表示了其对 AI 算法过于依赖硬件算力的担忧。

根据他的观点,机器的计算能力已经较之前有了较大的提升。然而,这一轮的硬件算力进化还能保持多久的强劲势头?现有的 AI 对硬件算力形成的强依赖性,可能会成为新的增长阻力。

应对 AI 对算力强依赖性的一个思路是,软件和硬件实现协同优化。这是未来半导体行业新的发展趋势。毕竟我们现在处于一个软件定义的时代,软硬协同可以更好地满足用户的需求。

很多以计算硬件为主的公司,如英特尔,也早已意识到软硬件协同创新对性能增长的重要作用。英特尔拥有超过 15,000 名软件工程师,在新近提出的六大技术支柱中,软件也是其中之一。

“软件定义”几乎支配了现代硬件设备的智能化演进,尤其是在消费电子上,带来智能、智能汽车等一系列产品的问世,这个趋势同样也在影响上游的半导体领域。

英特尔就认为,整个 AI 计算技术一定会走向硬件+软件结合。

但无论是什么类型的计算,这些计算硬件的性能还需要软件的配合。这也是为什么近几年来英特尔的发布会、技术展示日上,软件创新的“存在感”越来越强。在最近于深圳举办的英特尔人工智能大会上,该公司在软件上取得的进展同样没有缺席。

英特尔的一位技术负责人对 DeepTech 表示,软件社区和硬件社区相互交流,并真正去思考彼此的问题,比以往任何时候都更重要。“对于全新硬件架构的每一个数量级的性能提升潜力,软件能带来超过两个数量级的性能提升。如果想实现指数级的增长,必须要硬件和软件共同创新”他说。

DeepTech 了解到,过去几年,英特尔在不断投入软件团队的资源,以应对实际的 AI 部署过程中出现的客户痛点。

英特尔高级首席工程师、大数据技术全球首席技术官戴金权对 DeepTech 透露,英特尔和很多的用户、客户在合作过程当中,发现实验室或者网络上的深度学习模型或者算法可能难度并不高,但是真正落地或者是部署在大规模生产环境中时,会出现新的痛点,比如说大量的数据处理分析和流水线的整合并不容易等等。

以医学影像场景的 AI 计算需求为例,将人工智能应用于医疗影像推理是非常复杂的,需要强大的处理能力来应对数据多样化、深度学习和复杂标记等。

医疗影像分析需要支持 3D 甚至 4D 深度神经网络(DNN)体系结构,在处理过程中严重依赖于平台内存。GPU 通常无法满足处理 3D 和 4D 影像数据时所需的大量工作负载。因此,医疗团队通常采用减少 3D 影像数据的像素,并将其分割成多个小的影像块进行顺序识别。

杭州健培科技有限公司董事长程国华对 DeepTech 解释道,在医学影像 AI 计算中,团队发现有一些特别的应用用 GPU 方案或者其他方案来做效果并不是特别好,尤其是三维方面。“使用三维的深度学习来做一些分析的时候,会为了速度不得不降低一些像素的要求、体素块的大小去满足速度上的要求”他说。

为此,英特尔给健培的解决方案中配备了对 TensorFlow 做的优化的数学核心函数库—MKL-DNN据介绍,这个库有 5000 多项对 TensorFlow 计算方面的优化,健培的一些算法模型平移到这个核心库进行计算,软硬结合之后速度又有新的提高,实现了图像读取性能上 8 倍的提升。

除了医学影像场景的具体计算优化以外,在软硬协同演进上,还有一个思路是将软件的指令集技术内嵌在芯片方案内部。一个最新的进展是,英特尔在为第二代至强可扩展处理器已经内嵌针对 AI 场景进行加速的指令集—DL Boost 加速指令集。

据了解,这个指令集针对 AI 的推理计算,通用的处理芯片经过指令集加速以后,第二代至强处理器 9000 系列、8000 系列的性能评估显示,推理应用可以达到非常高的水准,甚至在某些场景上面超越 GPU 加速器方案的性能。这种性能正是通过计算技术的软硬件结合带来的。

目前,英特尔 AI 的产品线已经了从端到端的丰富产品线的布局,既有通用计算的平台方案,又有加速器的方案,覆盖了从边缘一直到云端的计算场景,而具体到接下来的软件创新上,其策略是“一个架构,围绕架构进行扩展”对于者来说,它应该易于使用,而且不仅可以扩展到所有的架构,更可以扩展到所有的操作;向所有人开放标准,英特尔拥有业界最好的开源实践;统一的体验。

英特尔也对 DeepTech 表示,公司现在正在和 AI 软件生态链的厂商、包括开源业界进行紧密合作,把一些最新的 AI 加速指令集融合到最主流的 AI 计算框架当中去,例如 PyTorch、Caffe、Tensorflow,通过利用这些最新的指令集满足更高的 AI 计算需求。

今年下半年,英特尔也将宣布其软件项目“One API”取得的重要进展。“One API”旨在将为者带来一套能一个统一编程模型的工具,以简化跨不同计算架构的应用程序工作。

不难预料,在接下来的很长一段时间里,新的架构、新的计算方案面世的同时,针对软件层面的优化还会越来越多,半导体领域的硬件公司和软件公司的边界也会越来越模糊。未来,对于半导体行业来说,新的竞争也不再局限于硬件,“软实力”也会是重点之一。

本文相关词条概念解析:

软件

软件(中国大陆及香港用语,台湾作软体,英文:Software)是一系列按照特定顺序组织的计算机数据和指令的集合。一般来讲软件被划分为系统软件、应用软件和介于这两者之间的中间件。软件并不只是包括可以在计算机(这里的计算机是指广义的计算机)上运行的电脑程序,与这些电脑程序相关的文档一般也被认为是软件的一部分。简单的说软件就是程序加文档的集合体。另也泛指社会结构中的管理系统、思想意识形态、思想政治觉悟、法律法规等等。