嵌入式AI芯片架构用处

news2024/11/28 22:48:30

Blaize将其GSP描述为能够执行“直接图处理，片上任务图管理和执行以及任务并行性”。简而言之，Blaize设计了GSP来满足AI，GPU，CPU或DSP以前无法满足的处理需求。

对于许多涉及嵌入式ai处理器的行业分析师而言，这是他们之前听到的一个话题。

Tirias Research的首席分析师Kevin Krewell说：“我对ThinCI有所了解，但从未了解其架构。我很高兴他们改了名字。”

GSP幻灯片中缺少有关GSP体系结构的技术细节，这引起了技术分析师社区的沮丧和怀疑。然而，Mungagala承诺在2020年第一季度发布信息。

GSP体系结构由一系列图形流处理器，专用数学处理器，硬件控制和各种类型的数据缓存组成。该公司声称，GSP可以提供：“真正的任务级并行性，片外存储器的最少使用，深度优先的硬件图调度，完全可编程的体系结构。”

获得合格的供应商清单

在Munagala看来，Blaize的好消息是已经使用GSP的大量早期客户。一年来，Blaize一直在交付带有GSP的台式机。它可以简单地插入电源插座并连接到以太网。Munagala说，数据科学家，软件和硬件开发人员已经在评估GSP支持的系统级功能。

Blaize拥有8700万美元的资金，得到了包括Denso，日本戴姆勒和麦格纳在内的早期投资者和合作伙伴的支持。Munagala说：“几年前，我们还一直在汽车领域赚钱。”

有了录音带，许多创业公司面临着“我们现在要做什么？” 困境。Blaize的副总裁兼战略业务开发经理Richard Terrill对EE Times说：“一年前我们已经过了那个阶段。”

Blaize已通过加强一支工程团队（现已有325名员工）扩展到加利福尼亚，印度和英国的方式，将重点转移到基础设施建设上。Blaize正在向新设施迁移，并开始在日本和EMEA聘请现场应用工程师。Munagala说：“我们正在保持前进的势头。”

对于Blaize而言，其GSP业务不再是要与Powerpoint演示规范中的竞争对手进行竞争。它是要弄清楚客户将如何将GSP用于哪些应用程序，以及在特定用途中“在系统级别”消耗了多少电量。

Blaize一直在忙于确定其物流状况，使其产品达到汽车行业标准，并确保内部流程和文档均经过认证。Munagala说：“我们已经通过了审核程序，并且在一个经过认可的合格供应商名单上”。这是汽车制造商和各级汽车制造商必须执行的过程，他们宁愿避免使用持续时间不足以交付产品的初创公司。

Blaize在英国雇用了大约30名工程师（分别位于Kings Langley和Leeds），从事汽车产品开发工作。当Imagination放弃MIPS时，他们是紧密联系的工程师团队。Munagala解释说：“这些人都是一群高素质的人，他们在MIPS上共同努力，使基于MIPS的ASIC达到了Mobileye的汽车标准。”

图计算

Munagala解释说，尽管嵌入式AI出现在许多不同类型的神经网络中，但“所有神经网络都是基于图的”。从理论上讲，这使开发人员可以利用图本机结构在单个体系结构上构建多个神经网络和整个工作流。因此，该公司为其GSP制定的新营销策略是“ 100％图形本地化”。

但是，Blaize在图计算领域并非完全是独角兽。Graphcore，Mythic和现在失败的Wave Computing都谈到了嵌入式AI处理中的“数据流图的优化和编译”。

Terrill说：“当然，图形计算已有60多年的历史了。”

Munagala说，Blaize GSP声称在三个方面与其他基于图形的数据流处理器有所不同。首先，“我们的GSP是完全可编程的”，能够执行“各种各样的任务”。

其次，它是“可以在单个时钟周期内动态重新编程”。

第三，“我们提供流媒体的集成”，这使得延迟最小化成为可能。他解释说，巨大的效率乘数是通过“数据流机制”交付的，在这种机制中，非计算数据的移动被最小化或消除了。

GSP架构的图形本机性质可以最大程度地减少数据往返于外部DRAM的移动。外部仅需要第一个输入和最后一个输出，而中间的其他所有内容只是临时的中间数据。这导致大大减少了内存带宽和功耗。