直击用户痛点,趋动科技如何在AI算力的蓝海市场中迅速崛起?

时间:2021-11-04 04:23:47 投诉/举报

「G」Talk是一档聚焦于沙漠创投连续关注赛道的投资人对话栏目,我们通过投资人与创业者之间的问答和思辨,实验梳理出创始人、CEO们在所属赛道创业道路上的行业knowhow以及他们未来无限的可能。

第一期对话我们约请到了沙漠创投合伙人胡唐骏先生对话趋动科技CEO王鲲博士。6月8日,趋动科技对外宣布获得了由沙漠创投领投的近万万美元Pre-A轮投资。胡唐骏先生以为,随着全球AI产业生长的连续加速,AI应用在各行各业加速落地,AI手艺也随之成为科技巨头的标配。而在日渐成熟的AI产业中,有一片尚待开垦的蓝海市场——AI算力。

2020年,是真正意义上的新基建元年,市场普遍焦虑的“资源隆冬季”实在是加速市场生长、沉淀的要害节点。AI的场景落地甚至因由突如其来的疫情,一定程度上刺激了线上数字化的历程。而对于创业者而言,照样需要足够的焦点竞争力来应对外界种种庞大的转变。而AI 算力作为AI手艺与产业大规模生长的伟大驱动力,将成为整个新基建的焦点支持。但一方面算力昂贵,多年来难以实现“平民化”;另一方面,拥有大量算力的用户也面临着若何实现资源池化的新课题。

在这一靠山下,沙漠创投迅速锁定了趋动科技这一深耕AI算力十多年的团队,在第一次碰头即一拍即合。基于多年toB领域的投资履历,我们以为一个团队的产物、手艺和服务能力并为“三驾马车”,在创业公司的生长中起着至关重要的作用。趋动科技依附对用户痛点的深刻认知以及手艺和行业的前瞻性,在王鲲博士的率领下在一年内就迅速站稳AI算力市场,聚拢了多个行业头部客户,很好地验证了沙漠创投的这一看法。

以下是本次访谈的主要内容,经小编整理:

胡唐骏:趋动科技正在做的事情?

王鲲博士:当前,全球AI算力需求迅猛增进。2012年至今,云端AI算力已经增进了跨越30万倍,且在可预见的未来,仍将保持相当高的增速。

同时,在包罗互联网、安防、教育、医疗、智能制造及自动驾驶等行业,越来越多的用户最先将AI应用到生产场景之中,趋动科技看到了AI的高速生长,也看到了用户的诸多痛点。

AI市场里用户的痛点是什么?是算力昂贵。

由于用户缺乏AI算力的资源池化和虚拟化手艺,导致AI资源尤其是算力的行使率异常低,从而增加了成本。此外,用户没有办法很好地实现资源池化,因此也不能在数据中心内高效地调剂和使用AI算力。

趋动科技看到了AI用户的这些痛点,基于这些痛点以及团队的手艺靠山,推出了国际领先的AI算力虚拟化和资源池化解决方案,辅助客户构建数据中心级AI加速器资源池,用户可以共享使用数据中心内任何一台服务器之上的AI算力。

此外,通过辅助用户构建高效的AI算力资源池,不只能够辅助用户提高算力的行使率,从而降低成本,而且能够辅助用户将AI应用的开发和部署变得加倍简练与快捷。

事物生长的三个阶段make it work 、make itperform and make it cheap。AI算法已经让我们能够做到许多以前做不到的事情,人脸识别、目的检测、语音识别等等。都已经进入make it work的阶段。而算力的壮大才气够实现make it perform,以前可能一年才气完成的事情,现在一周甚至一天就能够完成。只有当AI手艺在各行各业落地,才气真正成为人类社会不能忽视的一部门,而AI算力的平民化则是这一趋势中不能忽视的一个阶段。

AI算力是AI手艺与产业大规模生长的伟大推动力,趋动科技以为AI算力的平民化是一定趋势,让每个企业都能够用得起高效率、高性能的算力是趋动科技的义务与挑战,也是产业生长的一定。

胡唐骏:能否从客户角度深入剖析我们对于“AI算力平民化”的追求?

王鲲博士:现在,趋动科技主要的客户中,除了使用公有云的,另有许多使用的是私有云或者夹杂云。

从客户角度而言,趋动科技现在的客户大部门拥有大量的AI算力,对他们而言,资源池化的价值比虚拟化手艺的价值更高。由于虚拟化手艺主要解决的是芯片在多个用户间共享的问题,而资源池化解决的是更高条理的问题。

例如,许多用户可能在数据中心里有几百台、上千台服务器,他们也有几千块甚至上万块的加速卡,对于这类用户而言,他们不只体贴每张卡的效率,也体贴整个数据中心从资源池角度的行使率和使用效率。

除了有公有云的客户,另有一些客户,如互联网行业或AI行业的巨头,可能使用自建的私有云,在AI算力池化方面也有异常强烈的需求。

虽然需求一直存在,但AI算力的资源池化却是一个对照新的课题。

数据中心的三个最主要的支柱是盘算、存储和网络,其中存储与网络的资源池化和软件界说已经生长得较为充实,但AI算力的软件界说和资源池化才刚刚最先。

以是,趋动科技的起步较早,从手艺角度而言,趋动科技提供的解决方案是当前市场上最好的选项之一。在AI算力池化这个新兴的蓝海市场,这是趋动科技的焦点竞争力。

胡唐骏:若何在确立云云短时间内取得这么好的成就?

王鲲博士:首先,团队层面。

我本人博士结业于中国科技大学盘算机系,是中国科学院优异博士论文奖,以及天下优异博士论文提名奖获得者。博士结业以后供职过三家IT行业巨头公司:IBM中国研究院、微软亚太研发团体以及戴尔EMC中国研究院。去职开办趋动科技之前,我是戴尔EMC中国研究院的院长。

趋动科技的焦点主干团队,包罗手艺团队、市场销售团队都有着IBM研究院、微软研究院、EMC研究院以及像BAT、字节跳动等国内外顶级科技公司的事情靠山,这些同事有着异常长时间的研究和事情履历。

此外,我们从十年前,甚至更早就最先研究CPU虚拟化、FGPA虚拟化、GPU虚拟化的课题,整个团队有着异常长时间的互助履历手艺积累,一直在芯片虚拟化和资源池化的方面,历久从事研究和开发的事情。

也就是说,趋动科技在芯片虚拟化和资源池化方面曾做过历久的研究和开发事情,长时间的积累与沉淀是趋动科技能够快速生长的焦点缘故原由。

我们看到,GPU资源池化市场是一个很明显的依赖手艺的市场,除了连续不停的积累所带来的厚积薄发,趋动科技始终保持在研发层面的伟大投入,并通过确立且不停完善的人才引进机制,确保在手艺层面的领先地位。

其次,市场环境层面。

2019年确立至今,我们在市场上看到了一些从去年到今年都没有转变的一部门,也看到了一些发生转变的部门。首先,没有改变的趋势是AI手艺仍然在全球范围内快速生长:AI的应用仍然在各个行业连续落地,整个行业、整个社会甚至整个全球对AI算力的需求依然高速增进。虽然我们在这个时间周期履历了一些“黑天鹅”事宜,但实际上我们看到,整个行业的生长态势是对照稳定的。

另外,在AI产业的高速生长中,国产AI芯片敏捷崛起,5G产业连续催生出新的场景和新的应用,像云游戏、云VR这样的应用,让我们看到除了AI场景以外,实在另有其他新的场景出现在拓展市场的界限,继续拉动人类社会对于算力的需求,也给我们的生长带来越来越好的市场环境,这是在发生转变的部门。

再次,企业层面。

经由多年的课题研发,我们预判未来的AI算力市场一定会有一个高速的增进。在这其中,趋动科技作为自力第三方软件公司有怪异的优势——对所有的硬件芯片来讲,趋动科技都是完全自力的第三方。因此,我们可以投入研发气力,在国产AI芯片市场中只管多的支持硬件芯片厂商。

实际上,我们已经支持了寒武纪的MLU100,另有几家国产芯片,我们也在陆续支持之中。未来,我们的愿景是辅助企业用户和芯片用户构建一个异构的加速器资源池,用户可以基于自己对价钱、成本、算力、性能等各方面的思量,采购差别厂商的加速芯片,用户的AI应用不需要修改代码就能运行在由我们的软件所构建的异构加速器资源池之上,充实行使来自差别厂商的加速芯片,这是我们的目的和愿景,固然从手艺上这样的愿景挑战也是异常大的。

而从硬件芯片厂商的角度而言,其更多的精神会放在自家芯片的研发以及性能调优、工具链等方面的事情上,反而会跟趋动科技形成了异常好的互补关系。

每家芯片厂商都市起劲把芯片做得更好,软件做得更完整,而趋动科技作为自力的第三方软件厂商,会只管地在统一平台上兼容多家芯片,最终实现互助共赢,让企业客户能够用得上物美价廉而又天真的AI算力。

胡唐骏:对于我们已有客户的落地情形希望?可以分享一些案例么?

王鲲博士:分享两个我们在头部互联网企业的典型用户案例。他们都需要使用AI算力GPU资源池来提高效率,杀青营业目的。

第一个案例,客户是一家头部互联网电商平台。我们知道人工智能里既有推理义务,也有训练义务。这个客户有大量的在线推理义务要跑。他们的推理义务有一个特点,就是既要使用相当一部门GPU资源,也要使用相当一部门的CPU的资源。在这种情形下,若是没有我们的GPU资源池化手艺,这个义务就必须要放在一个GPU服务器上去跑。而当跑在GPU服务器上以后,客户很快就发现了他们的CPU成为瓶颈,GPU行使率无论若何都不能够提升。由于“整个木桶的短板”并不在GPU上而在CPU上。

客户在使用我们的软件之前也思量过闪开发部门来改代码,把这个推理义务拆成两个部门:CPU上一个部门和GPU上一个部门。可在实际上,首先这种拆义务的做法成本异常高,其次这种做法也无法通用。第一个碰着这种情形的营业部门要改,第二个营业部门遇到了类似的问题也得改代码,这个方式并不通用。

而使用我们的GPU池化软件就很好地帮他解决了这个问题。我们能够帮客户确立一个GPU资源池,客户可以把所有这些推理营业直接跑在纯CPU的服务器上,通过网络来使用资源池内里的远程的GPU,而客户的代码完全不需要做任何修改,就可以直接跑起来。

以是在这种情形下,第一我们解决了客户的问题,他们的CPU、GPU都可以充实行使。第二,客户完全不需要改任何代码,成本异常低,可以很快上线,运行效果也异常的好。从效果看,我们的软件辅助客户显著地提高了GPU行使率,降低了成本。

另外一个案例是头部互联网搜索的客户,也是想要使用GPU资源池。不外他们的营业不是推理而是训练。客户有许多台GPU服务器,有的是4卡服务器,有的是8卡服务器。他们的需求是把所有GPU卡都统一纳入到一个资源池来治理。举个例子,若是是100台8卡服务器,客户希望看到的不是100个8张卡的小资源池而是1个800张卡的大资源池,在这一个资源池里他们希望能够做到任何训练义务都能够跑起来。建成资源池之前,若是服务器只有8张卡,若是要跑一个跨越8卡的训练,它是跑不起来的。

我们辅助他们构建了一个伟大的GPU资源池,使他们能够跑更大规模的训练义务。这是给客户带来的第一个利益,其次原来的多台GPU服务器,就像是一个个小水桶,可能会导致每一台服务器在运行中有一些剩余的零星的卡,比方说这台服务器剩一张卡,那台服务器剩两张卡,这种情形是很普遍的。

在这种情形下,这些零星的碎片化的资源是很难行使起来的。然则在我们的软件框架之下,我们把所有GPU卡所有放在一个资源池内里,就不会存在这种碎片化的资源情形。这台机械剩一张卡,那台机械剩两张卡,没有关系,我们可以把这三张卡放在一起给到用户的另一个义务,把它用起来,使得整个的资源池里没有这样的碎片,行使率自然就会变得更高,用户的营业也可以跑得更快。

这两个案例是现在两个异常典型的,一个是训练的义务,一个是推理的义务,他们都有异常强的资源池化需求,也都是头部的客户。他们的使用场景不一样,但他们的需求点对我们的软件来说,是异常靠近的。

胡唐骏:资源隆冬和疫情对行业以及你们有什么影响?

王鲲博士:近年来,许多媒体和投资机构经常提到资源隆冬,实在从资源角度而言算不上隆冬,而是回归理性,回归商业本质。

从大环境角度而言,不管是面临资源隆冬照样新冠疫情,真诚地缔造价值、做有意义的事情的企业并不会殒命,倒下的企业实在已经处在慢性殒命的过程中,只不外被外力加速了历程。

一个公司从初创时期的idea一直做到上市甚至成为巨头,自己就要履历种种风雨,没有哪家企业能够一直保持顺风顺水的状态。经受住疫情磨练的公司,反而会凤凰涅槃,拥有加倍兴旺的生命力和竞争力,实在有利于推动实体经济和前沿手艺的生长。

我们在疫情时代看到,大部门客户对于降本增效的需求是在快速而且显著提升的,也就是我们通常提到的要加速线上化、数字化。这对我们来讲实在是一件异常好的事情。趋动科技猎户座资源池化解决方案软件的本质就是辅助用户降低算力的成本,借由AI算力的平民化让客户降本增效。以是可以肯定地讲,这次疫情之于我们,不只没有让我们的营业生长减速,反而是加快了我们营业的开展。

我们团队是从国家法定假期竣事后的第一天就恢复了上班。虽然我们都是远程在家办公 ,然则借助种种视频会议系统,大部门客户也很早就启动了远程办公,而且我们的软件部署也支持远程操作,这是软件企业的优势之一。越来越多的客户来领会我们的软件能帮他们做什么,若何协助他们降本增效。

我们现在覆盖了头部的几十家互联网、AI、另有公有云等领域的企业,他们都在使用或试用我们的软件。我们已经是公有云国际巨头AWS的手艺互助伙伴,让AWS的客户能够使用我们的手艺。

胡唐骏:我们未来大方向层面的计划?

王鲲博士:趋动科技未来主要有两方面的计划:第一是保持大规模的研发投入,以确保手艺层面的市场领先地位;第二是加速商业化历程。

趋动科技在市场上的手艺是领先的,我们要始终保持这种手艺上的领先性,我们会连续加大研发投入,吸引最优异的人才加入我们,这始终是我们的焦点要务之一。不管未来除了AI行业、云游戏、云VR,趋动是否进入其他领域,这一点都不会变。

现在,趋动科技已经搭建了完整的售前、销售、市场团队。在COO石凤华的领导下,正在异常高效地开展相关事情,我们会连续地加大市场方面的投入,加速商业化历程。

趋动科技刚刚完成了由沙漠创投领投的新一轮融资,从资源层面获得了极大的助力,有利于实现刚刚提到的研发投入和加速商业化历程这两个重要义务。未来我们也会在融资方面继续关注,在合适的时间节点,再来看后续的资源层面的支持。