关于我们

质量为本、客户为根、勇于拼搏、务实创新

< 返回新闻公共列表

AI技术落地过程存挑战 UCloud用云计算赋能AI

发布时间:2018-05-24 10:53:15

  飞象网讯 (文颐/文)5月23日消息,如果说2017 年是人工智能技术爆发的“元年”,那么 2018 年则是人工智能技术的“落地之年”。那么,在AI技术实际落地的过程中,会遇到什么样的瓶颈? 企业的人工智能之路如何走才能稳健有力呢?近日,国内领先的中立云服务提供商UCloud给出了答案。

AI技术落地过程存挑战 UCloud用云计算赋能AI

  

  在日前UCloud主办的Think in Cloud 2018大会上,UCloud 高级研发工程师宋翔接受飞象网采访时总结了AI的挑战来自三大方面:一是基础环境,在AI入门阶段基础环境是非常大的挑战,涉及AI框架、算法库、GPU技术库、存储等各种设备,各类交叉选择之后的环境更加复杂,如何选择适合自己的研发环境是一大挑战;二是AI系统建设,这个过程中需要考虑算法兼容性、平台扩展性、分布式化、纵向扩展、高可用以及容灾能力等问题;三是投入产出问题,如何用较少的投入得到较高的回报?如何通过调研精确需求,控制研发成本,如何降低资源成本和运营成本,让研发人员更关注算法,都是AI所面临的挑战。

  如何应对这些挑战呢?UCloud认为解决这些问题的核心方法就是实现平台化,包括环境分离、分布式化、可扩展性和资源共享四个方面。环境分离方面有两个主要方向,一是通过容器的封装把软件和运行环境隔离,把存储和计算隔离,让更多的存储资源可以接入到AI环境中去;二是数据分离,因为对AI来说,训练过程中的数据非常重要,只需要提供本地存储的接口即可访问各种数据层,实现良好的数据访问。

  同时,平台化能做到良好的资源共享,例如通过UCloud的AI训练平台和在线服务平台,用户想做AI训练,只需要把任务提交到训练平台,就可以在平台上自动的完成任务,而无需要关心这个任务是否失败、到底在哪台机器上跑等一系列问题,可以大大简化AI算法人员使用平台的复杂度;对于算法人员或业务人员来说,有了在线服务平台,当他实现算法之后,可以用这个平台快速地部署自己分布式的在线任务,而无需自己搭建一个分布式的环境或服务。

  也许有人会问,云服务商发力人工智能为哪般?为什么说云计算跟人工智能的落地有很大的关系呢?随着云计算的发展,不同行业企业的数据生产和消费都是在云计算平台上进行的。云计算就是为了提供计算能力而产生的。所以,天然来说,在云计算上做机器学习的训练和推理是非常自然的一件事情。

  于是,我们看到UCloud推出了支持人工智能算法框架的大规模分布式计算平台——UAI-Inference。UAI-Inference面向初创企业、传统企业AI转型而生,旨在提供易部署、易运维、更安全以及多AI框架支持的海量AI在线服务节点,自动实现负载均衡、扩容缩容。按实际使用量计费,普遍适用于常见的AI在线服务场景,如图像识别、自然语言处理。

  宋翔介绍说,UAI-Inference提供了类似Serverless的架构,为用户提供了“两步走”的部署模式。首先,向用户提供SDK工具包,内含接口代码框架、代码和数据打包模板以及第三方依赖库描述模板。用户只需根据SDK工具包内的代码框架编写接口代码,准备好相关代码和AI模型以及第三方库列表,就可以通过打包工具一键完成任务的在线部署。

  任务打包完毕后,用户可以通过UAI-Inference分布式的AI在线服务PaaS平台进行后续管理和维护。该平台可以同时管理上万个计算节点,并拥有自动请求负载均衡、自动资源管理的功能。用户只需要将业务部署在平台上,就无须操心其后续的运维,也就是“免运维”。

  宋翔表示,云计算解决了系统运维问题,它没有解决应用运维的问题。Serverless架构可以解决应用运维的问题,让UAI-Inference变成以应用为中心、以算法为中心的服务。



/template/Home/Shiwaix2/PC/Static