微网讯,指令集架构是处理器的抽象模型。目前,主导微处理器市场的主要指令集架构包括ARM、MIPS、POWER和X86等。经过多年的发展,上述架构已经拥有稳定成熟的软件生态系统,但也存在一些问题,如引入复杂冗长的指令来获得兼容性,采用封闭指令集维护来防止软件生态系统的碎片化,使得客户无法随意扩展自己的这种架构的指令集。在IoT/AIoT普及、定制化软硬件架构盛行的今天,这种封闭指令集架构的问题逐渐显露出来。
每个时代都有自己鲜明的特点,处理器指令集架构也不例外。RISC-V指令集架构是时代的产物。凭借免费开放的指令集和便捷的指令集扩展标准等优势,受到了国内外芯片设计企业、高校和芯片设计爱好者的欢迎。
目前,有许多开源组织、研究机构和商业公司免费开源他们的RISC-V处理器IP和相关的工具和软件。一些开源的RISC-V处理器IP在性能和功耗上可以和商用处理器IP竞争,甚至超过一些商用处理器IP。
RISC-V作为指令集架构的新贵,目前还处于发展初期。虽然基本指令集的定义已经完善,但许多指令扩展标准仍处于开发阶段。更值得一提的是其软件生态的发展。用缺乏来形容一点都不为过,正是这种缺乏制约了RISC-V的进一步推广和在实际芯片产品中的应用。但从开源RISC-V处理器的数量、不断提升的速度和代码的质量来看,RISC-V有着不可估量的发展前景,也预示着开源硬件时代的到来。
正是在这样的背景下,海山和海明兄弟义无反顾地走上了创业之路。他们不仅是资深开源爱好者,也是最好的合作伙伴,其中海山主要开发软件,海明主要开发硬件。能够在软件和硬件上互补是他们最大的优势。
插图:远创科技创始人海山和海明
两兄弟携手走上创业之路。
早在2006年,开源微处理器还不为业界所知和接受的时候,两人就开始利用业余时间,搭建5级流水线RISC处理器Potato-I和配套的GCC编译器。最后,他们以比赛的形式将处理器代码提交到Xilinx的OpenHW网站上,并在第一届Xilinx开源硬件大赛中取得了优异的成绩。
处理器架构的美丽和编译器内部的魔力一直吸引着两位创始人。不仅他们的工作和学习是围绕这两个方向发展的,处理器和编译器的设计也成为了他们一生的爱好。早在2015年,RISC-V指令集开放后,两人就开始设计实现一个RISC-V处理器核,开始合资进入微处理器市场的想法由此产生。但由于当时国内业界对RISC-V了解不多,对微处理器设计不够重视,两者最终未能得到投资人的认可,只好作罢。
放弃第一次创业后,兄弟俩选择再次进入职场,其中海明加入了国内AI初创企业云知声,而海山则继续在国外知名公司从事软件研发工作。能够软硬件互补,他们从未放弃开源的爱好,也就是从2015年那一刻开始,海山开始了RISC-V LLVM编译器的业余开发,几年后完成了LLVM编译器的后端研发。
2019年5月,海山用当时市面上功能最全的RISC-V LLVM编译器创立了北京翻译核心技术,其可靠性和稳定性已经达到商业化指标。海明紧随其后,也加入了翻译核心技术。至此,两兄弟再次开始了翻译核心技术的创业之路。
由于创业之初就有成熟稳定的RISC-V LLVM编译器,翻译核心技术成立后不久,推出了RISC-V商用LLVM编译器和基于该编译器的RISC-V AI工具软件,并通过这个AI工具行业在RISC-V硬件上首次实现了TensorFlow XLA演示。核心技术RISC-V LLVM编译器和AI编译器不仅为RISC-V处理器在人工智能领域提供了强大的工具链支持,也为RISC-V处理器走向智能Android设备打开了大门。
下一步将是开放人工智能市场
对于Transcore科技来说,LLVM编译器的研发成功是公司成立的基石,接下来就是正式迎接市场的考验,进而步入AI和Android。由于公司刚刚成立,不具备同时打造两款产品的条件。因此,在综合人力、物力、市场情况等因素后,两兄弟决定先专注于AI市场,从AI处理器切入,结合完善的AI工具链,打入AI IP/芯片市场。
其实进军AI市场是两兄弟深思熟虑的决定。“我总觉得2015年过早放弃RISC-V处理器的创业探索是一个很大的遗憾。可能是因为我想弥补这个遗憾吧。我一直在关注开源处理器的发展,后来发现了另一个即将爆发的芯片市场,是一个全新的芯片类型,也就是今天的AI芯片。于是果断加入云知声,有幸打造了云知声第一个语音AI芯片。当初国内专门设计AI芯片的公司和团队很少,市场也看不到遍地开花的知名AI芯片,所以我是国内第一个接触AI芯片的人。”海明回忆道。
他继续说道,“其实我第一次接触AI是在2006年。当初在我们实验室做某种检测设备的姐姐,每天用酒精训练她的设备。出于好奇,我不时询问训练的秘诀。也是从那一刻开始,我对AI的未来深信不疑,然后接触了一些有趣的机器视觉相关项目。这些经历可能和我后来选择AI芯片设计,成立AI芯片公司有着千丝万缕的联系。”
核心技术翻译演示
值得一提的是,2020年2月,Transcore Technology已经完成AIoT SoC芯片的FPGA演示平台。同时,在此前微电网举办的“第二届芯电云路演”中,易信科技还展示了其首款AIoT芯片的FPGA演示,主要展示了通过语音识别控制灯光系统的功能,包括开灯、关灯、调节灯光亮度等一系列控制命令。
“FPGA Demo的展示也意味着Transcore Technology不是一家只会讲故事的AI公司,更不是一家PPT芯片公司。我们确实在开发AI芯片产品。”海明进一步介绍,目前翻译芯的AI IP已经具备商用授权条件,AIoT SoC预计在2020年第三季度达到流媒体要求。预计第一款通用AIoT芯片将于2020年第四季度上市。
第一个AI芯片有两个优点。
“经过多年的努力,我对AI芯片的理解在不断变化。最根本的变化是从硬件优先到软件优先的变化。这种认知的改变也是Transcore技术产生的最根本的驱动力。”显然,海明对AI芯片有自己深刻的理解。
从海明的叙述中可以得知,海山其实最早也分享了这个观点:“一个软件开发人员,无论是偏执的还是有远见的,他总是走在我的前面,看在我的前面。当我痴迷于构建AI芯片的时候,他已经开始准备今天的AI编译器了。建立Transcore技术的基础和信心来自于LLVM编译器和AI编译器。我也坚信时间会证明这两款软件的价值,也会证明Transcore技术的存在价值。”
在海明看来,其实从AI概念爆发到现在,从AI芯片竞争力来看,经历了软件算法性能优先、芯片架构优先、再到芯片成本优先三个阶段,下一个阶段应该是“成本+通用性”优先。只注重成本控制,不具备通用性的AI芯片将继续存在,并以交钥匙模式出货,但在不久的将来,交钥匙方案将逐渐被低成本、通用性强的AI芯片所取代。所以海明认为,AI芯片最终会从交钥匙出货到转芯片模式。
在“turn-chip”模式下,AI芯片的架构对算法研究人员或工程师是透明的,他们可以直接在AI芯片上编译和烧录AI框架创建的模型,就像在GPU上开发AI应用一样方便。这也是Transcore Technology的终极目标:为芯片客户提供低成本、通用的AI芯片,让AI芯片的成本和AI算法移植的过程不再成为高性价比AI硬件产品开发的瓶颈。
基于此,Transcore Technology研发的首款AI芯片将有两大优势:一是通用性强,二是性价比高。何明海山选择开源和免费的RISC-V作为基本处理器,扩展其AI指令,建立自己的AI处理器。最后,客户可以借助Transcore Technology的AI编译器,将从AI模型到AI硬件的繁琐人工优化工作变成简单的机器编译过程。所以低成本和通用性是AI芯片的核心竞争力。
坚持不同以往的AI创业之路
“我们希望我们建造的是一个‘AISP’芯片,即一个基于人工智能的信号处理器芯片。该信号可以是声音、图像或由传感器收集的任何种类的信号。希望一线的RD人员,就像用Matlab开发DSP算法一样,用Tensorflow、caffe、pytorch等AI开发工具开发自己的AI算法,一键编译实现自己的硬件产品。”海明告诉王记伟记者。
海明认为,AI芯片投资的最佳窗口期已经过去。在过去的几年里,大量的公司在人工智能芯片架构设计和流式传输方面投入了RD的力量和资金。大家更关注芯片算力、能效比等硬参数,而对AI软件工具和RD投入的重视远远不够。这直接导致很多AI芯片在面对Google和NVIDA的嵌入式边缘计算平台时黯然失色。
在AI的创业之路上,Transcore Technology显然要走一条与以往玩家不同的道路。“我们强调芯片的多功能性和低成本。我们不仅把有限的资源投入到降低芯片成本的探索中,就像我们正在建设的开源SoC平台一样,还投入到工具软件的研发中,也就是我们AI软件生态系统的建设和完善。”海明说。
对于搭建集成自主ip和开源IP的SoC平台的必要性,海明表示:“随着芯片制造技术的日益成熟,芯片制造成本不断降低,随着社会的进步,人力成本会越来越贵,也就是芯片加工会越来越便宜,而芯片的IP成本可能会不降反升。另外,现在的芯片行业已经不是一个暴力的行业,一个芯片的销量和利润都远不如过去。这也对很多芯片厂商的成本控制能力提出了更高的要求。比如一个投资两三百万美元的芯片项目,除了人力和芯片加工,ip成本占总投资的一半以上,前两者下降有限,所以成本控制主要体现在IP成本的控制上。这也是搭建一个集自主研发IP和开源IP于一体的SoC平台的目的。”
谈起创业过程,海明感慨万千。虽然创业不到一年,但是经历了很多。抛开两兄弟无法掌控的外部环境,按照海明的话说,“万事开头难,更何况技术瓶颈更高的编译器,市场上不好打开的软件,竞争激烈的芯片,投资窗口期已过的AI芯片。”
罗马不是一天建成的!今天的译芯科技,还是一家刚刚成立不到一年的AI芯片初创公司,在竞争激烈的AI市场,还有很长的路要走。在海明为公司制定的三年计划中,AI终端芯片显然只是一个开始。未来,公司还将涉足AI云芯片市场,探索更多可能性。