百度牵手浪潮打造ABC一体机背后:要做未来的手机和笔电
前不久,百度云智峰会(ABC SUMMIT)上,百度与浪潮共同发布了ABC一体机,产品面向模型训练Training和线上预测Inference两大类AI计算场景,可根据客户AI业务规模及对计算力需求,精准匹配计算系统。
ABC一体机系统采用模块化设计,涵盖浪潮SR-AI整机柜、AGX-2、GX4等多样化计算平台,单台计算节点可以提供2-64个不等的异构加速卡。在深度学习框架方面,可支持TensorFlow、Caffe、CNTK、PaddlePaddle等主流算法框架。
应用场景方面,ABC一体机能够支持人脸识别、文字识别OCR、语音识别等众多功能,帮助传统行业和中小互联网企业实现金融远程开户、安防智能监控、智能语音助手、银行卡快速识别等。
其实,百度与浪潮联合打造的ABC一体机并非一款软硬件一体的单品这么简单,其更是双方多年技术积累、融合,和对市场需求调研的结果。那么,ABC一体机背后到底有怎样的商业逻辑?9月26日下午,在NVIDIA GTC China大会上,浪潮人工智能与高性能产品部总经理刘军与百度云事业部技术委员会主席张发恩接受了亿欧等国内知名媒体采访,揭开了ABC一体机背后的故事,本文是采访内容整理。
瞄准万亿市场,BAT以外的大中型企业都是ABC一体机的目标客户
记者:ABC一体机是双方联合研发的,其研发的技术难点有哪些?这个产品和同类产品相比,创新性体现在哪几个方面?
刘军:百度和浪潮在多年的业务合作中,突破和解决了许多技术难点,因此在ABC一体机的研发过程中,不存在太多的难点,应用的都是百度在AI实践中比较成熟的解决方案,以及浪潮采用最新GPU技术研发的硬件平台。
张发恩:我觉得刘总说得非常到位,ABC一体机横空出世,它代表了软硬最强的两方的合作,百度在AI的软件层面、经验层面毋庸置疑,是国内的AI领军企业;浪潮在硬件层面也是中国的佼佼者,百度和浪潮联手推出ABC一体机,应该是把软和硬最好的部分集成起来,来服务中国的企业。
百度云事业部技术委员会主席张发恩
记者:你们如何定位ABC一体机的目标客户?
张发恩:我在百度云这几年时间接触了大量的2B用户,发现中国的2B用户分为两类:一类是中小企业,这类企业会使用公有云服务,公有云上会有深度学习平台、GPU服务,当然底层也是浪潮的机器,它是虚拟化,最终是提供服务的。
第二类是规模以上的企业,首先在中国有一个非常典型的需求,就是必须要私有化,数据不能上云,这在大企业当中非常明显。这类企业需要具备开发AI的能力,这些能力要开发的时候,就必须要建设异构计算的平台,或者AI软件、模型开发,这些都需要建设。这些建设现在来看,国内是一段真空期或者空白期,今天百度和浪潮的合作就是想要把这段空白期给填补了。
国内规模以上企业市场非常庞大,可以庞大到以几万亿、几十万亿来统计。
记者:未来大中型企业采用ABC一体机会不会形成一个标准化的东西?
张发恩:今天的ABC一体机服务集群最高可以调度到1000台服务器、5000张GPU卡、10万作业并发,也就BAT不是目标客户,剩下的都是。
我们做ABC一体机并不是从零开始,而是根据我们做了很多项目以后抽算出来的一体机,因为我们发现市场有大量的需求,之前我们就做了一年多,一直没有把它发布出来了。截至目前,ABC一体机的客户包括魅族、vivo、上海电气、首钢、宝钢等。
下一代产品会加入更多的场景软件
记者:双方在这个产品上有什么联合推广的想法么?产品研发和迭代方面有没有什么计划?
刘军:关于联合推广,也是双方在策略上一个重要的考虑方面。因为ABC一体机是面向2B的企业客户,而浪潮拥有超过9000家渠道合作伙伴,以及遍布全国的实施和服务体系,我们会把在2B方面的渠道优势利用起来,共同将这种创新研发的成果推广到更多的行业客户。
对于未来发展,实际上我们这个产品在双方合作立项的时候已有比较全面的规划。大体有三个层面,一个是在下面底层的系统平台上面;另外一个是上面的管理调度、分配的系统级的软件,比如框架;再上一层是场景一体机的解决方案,现在已经有做的比较好、比较成熟的产品方案,往后会有越来越多的场景软件,把它加入进来。
记者:做ABC一体机的时候,你们是如何做大数据分析和处理的?怎么样去维护数据的安全?
张发恩:先说第二个问题,其实数据安全,尤其是对于云这样的企业,是它最基本的生存原则、基本准则,是绝对不可能破这条线的。今天的云有两种形式,一个是公有云,一个是私有云或者混合云。我们在公有云方面,绝对是通过了国家的各种安全认证,这是一条红线,用户的数据安全是第一位的。
在私有云或者混合云的场景上,这个相当于我们的硬件一体机集群,其实是部署在用户的机房当中,这种安全对用户来讲他心里是更放心的,因为资产是他的资产,他的数据资产也存在于自己的硬件资产之上,我觉得一般用户对这种安全应该是没有顾虑的。
刚才第一个问题,AI离不开大数据,我们的企业用户在做一个场景或者在做一个应用的时候,今天大部分都是基于监督式的深度学习,一定需要标注数据。一般的标注数据需要不大的话,我们会发动企业内部的人去标注一批数据,一般几千条、几万条;如果数据量需要更大,百度云会提供数据标注和采集服务。
举个例子,比如首钢,我们的数据标注和采集,花了两天时间标注了40万张图片。要训练一个好的模型是需要数据的,数据是需要采集和标注的,我们百度云也提供这种一体化的方案、一站式服务,也就是我们的ABC一体机也会提供数据采集和标注服务的。
“很多企业连猪跑都没有见过,AI真是好东西”
记者:您觉得ABC一体机对推动整个AI行业会有什么影响?
今天我们发现除了互联网企业之外,很多企业连猪跑都没有见过,ABC一体机的使用给他带来的就是震撼的效果,没想到AI还能做这个。
举个例子,浦发银行原来很多反欺诈、反作弊,他们原来用一堆变量,乘以一个权重,加起来等于多少分,就是一个打分表,这个打分表的数量权重很少。这是一个非常简单的模型,早期的时候这种欺诈模式因为没有互联网,没有电话,也没有这么多骗子,可能看看你的身高体重就打分了。
今天的场景不一样,我们面临的是信息爆炸的时代,有互联网、移动支付,都不用卡了。今天的反欺诈模型是一个更复杂的模型,这个模型怎么去做?用深度学习去做,深度学习做的效果真的是要鼓掌,真好。这个时候金融行业就会发现,AI真是好东西,比我们原来确实先进多了,现在金融行业不是很落后的行业了。
刘军:我补充一句,刚才说到ABC一体机对于整个行业的意义,有点像福特发明的T型车,原来那个车只有很少数人才能玩得起、用得起的东西,突然一下变成大规模、工业化的生产品了之后,成千上万的行业客户就能够一下子使用起来,能够把它创造出各种各样的生产力,我觉得这是非常重要的。
福特发明的T型车
在ABC一体机之前,只有很少数AI科技公司、科学家、很牛的人做AI;有了ABC一体机,万千行业大家都能够做了,我觉得这就是它的意义,是非常重要的。
记者:ABC一体机现在用于医疗、工业比较多,再以后是不是在各行各业都可以用?推广之后,是不是也加速了AI应用的落地?
刘军:其实你刚才说的仅仅是现在行业里面看到的客户,也就是大概5%、10%,其实越来越多的行业都进入到这个里面来,包括大家想象不到的传统钢铁行业,快递行业,气象预报,他们与AI结合以后,做出来的东西会让人赞叹。
记者:刚才张总提到了,国内很多企业没见过猪跑,其实我特别感兴趣,您说的这个没见猪跑的应该包括现在人脸识别、语音识别,除此之外还有哪些?
张发恩:人脸识别只是机器视觉里面,如果机器视觉是这么宽的一个应用的话,人脸识别只是这么窄的应用,这里面还有大量的机器视觉应用;我们今天听到特别多的是人脸识别、语言识别,耳熟能详,因为这些应用相对来说比较普世,很多人都在做它。
但是这里面我们举个例子,比如说中草药的识别,这个草药到底是什么?没有经验的人还真不知道,但是可以用手机拍一下,马上可以告诉你这是什么。这个行业其实并没有那么宽,也没有那么普世,但是AI能不能帮助它?可以。
我们最近谈了一个水电厂,这个电厂里面有些关键设备必须要监控,而且只有有经验的人才可以看得出来,那这个AI也可以去帮助它。还有宝钢的钢包,就是一个大茶杯,里面全是钢水,这个大茶杯是不是足够安全?有经验的人会看这个大茶杯里面有没有裂缝,有没有烧穿,有没有腐蚀,这些今天全都是工程师来看的,非常热;这个事AI可以做得很好。
未来ABC一体机就是大家手中的手机和notebook
提问:您觉得一体机代表一种什么样的趋势?
刘军:其实我们用的手机和笔记本电脑,就是一体机,那上面有处理器、内存、硬盘、硬件,有操作系统,装好了office,它就是一个一体机,我们所有的设备发展的最终目标都是一体机。比如说我们今天去买车,一定是开上车就要跑,不能别人给我几个轮子,我再去装起来,那样就好麻烦。所以我们一起做的努力,要让更多的万千的行业客户快速地进来,一定是用软硬件结合的一体机的方式,才能够快速地推进这个过程,降低门槛。所以我们的未来ABC一体机就是大家手中的手机和notebook(笔记本电脑)。
记者:我看到你们的一个规划,未来在其他行业或者其他应用,其实也是在计划类似一体机这样的模式。
刘军:对,它需要有一个足够广阔的市场,我们也希望能够打破制约客户应用的技术门槛并提升效率,如果能这两个结合起来,市场就会非常大。我们看到中国市场未来是百万级的客户数量规模,几万亿的市场想象空间,值得大家把未来的AI做成今天的笔记本电脑和手机。