Kubernetes推动人工智能发展

源节点: 845717

在过去的二十年中,人工智能(AI)已经成为影响所有领域的大趋势。 到2020年,对AI初创公司的投资超过40亿美元,比9.3年增长2019%。 87%的AI项目失败还有很多 因素 造成这个。

要创建有效的AI驱动的应用程序,需要对所有项目组件进行创新思考,包括应用程序开发,登台,部署以及与其他应用程序的集成。

“编码并不是AI工程师面临的唯一挑战。 构建基于AI的应用程序需要具有众多工具的复杂IT环境。” 

由于企业AI系统使用多种数据类型,因此在平台之间传输数据具有挑战性。 AI计算需要大量的计算资源。 管理基础架构的成本很高,并且受快速增长的项目的限制。

人工智能项目可能会遇到 供应商锁定 协议,例如何时项目必须使用单个云提供商。 如果供应商提高价格或开始经历更多的停机时间,则可能会遇到挑战。 在这种情况下,可以通过转移到其他供应商来改进AI项目。 尽管如此,由于搬迁成本,合同约束或技术问题,这可能仍然很困难。

Kubernetes提供了一个解决方案,因为AI算法必须进行扩展才能达到最佳效果。

什么是Kubernetes?

Kubernetes 在科技新闻中占有重要地位。 开发者社区于2015年首次了解了Google的开源Kubernetes平台。Kubernetes在集群服务器上运行和协调容器化的应用程序。 该平台通过支持高可用性的可扩展方法来管理容器化应用程序和服务的生命周期。

什么是集装箱化?

集装箱 以一种与系统其余部分隔离的方式在操作系统上运行应用程序。 该应用程序运行时就好像拥有自己的操作系统实例一样。 但是,可能有许多容器在同一操作系统上运行。

容器允许轻松分发和应用程序以及它们所需的基础结构。

人工智能需要许多协调的软件组件和昂贵的图形处理单元(GPU),以加速AI机器学习和模型训练。

当AI系统的任务是在不均衡的高负载下工作时,Docker Swarm可以手动优化基础架构优化。 Kubernetes会自动执行此操作。

Kubernetes致力于协调所有应用程序和计算机资源 作为协调者的管理者 自动化部署,管理,扩展和容器的联网。

案例研究:Kubernetes精心策划的AI项目 

此案例研究是关于部署在 智能办公室. 该系统应用程序包括前端,后端,WebRTC视频流以及用于视频处理的基于AI的功能。 

简而言之,可以将AI辅助视频处理视为一系列连续过程,这些过程是:

1)解码

2)AI计算

3)编码

AI计算用于 人脸识别,面膜佩戴检测或热筛查。 所有这些过程都需要大量的计算资源,尤其是在 实时处理案例.

如果系统的高负载曲线在每小时,每天,每周或季节性的基础上波动较大,则需要自动计算机资源管理。 当出现新的视频处理请求时,后端将在Kubernetes API的帮助下自动缩放并自动添加更多服务器来处理该请求。 因此,Kubernetes充当Orchestrator进行自动扩展并提供实时计算机资源优化。 

Kubernetes在AI开发中的未来

2020年的大流行迫使每家企业对意外变化迅速做出反应。 Kubernetes在基于云的本机系统上提供了可用的解决方案,以加快软件开发速度,同时还可以在现代应用程序中灵活地使用数据。

ThKubernetes的可扩展性和分布式架构是AI项目的理想选择。 这 这些解决方案的成熟使得在2021年一年有望在这个令人兴奋的AI开发领域取得更大的增长。

资料来源:https://www.aiiottalk.com/kubernetes-drives-artificial-intelligence-development/

时间戳记:

更多来自 谈话