Kubernetes керує розвитком штучного інтелекту

За останні двадцять років штучний інтелект (ШІ) став мегатенденцією, яка впливає на всі сектори. У 2020 році інвестиції в стартапи зі штучним інтелектом перевищили 40 мільярдів доларів, що на 9.3% більше, ніж у 2019 році. З іншого боку, 87% проектів ШІ зазнають невдачі, і багато фактори спричинити це.

Щоб створити ефективну програму, керовану штучним інтелектом, потрібне інноваційне мислення щодо всіх компонентів проекту, включно з розробкою, розміщенням, розгортанням та інтеграцією з іншими програмами.

«Програмування — не єдиний виклик для інженерів ШІ. Для створення додатків на основі ШІ потрібне складне ІТ-середовище з безліччю інструментів». 

Оскільки корпоративні системи штучного інтелекту працюють з багатьма типами даних, передача даних з платформи на платформу є складною. Обчислення ШІ потребують значних обчислювальних ресурсів. Управління інфраструктурою є дорогим і має обмеження для проектів, що швидко розвиваються.

Проекти AI можуть зіткнутися з a блокування постачальника угоду, наприклад, коли проект має використовувати одного хмарного постачальника. Проблеми можуть виникнути, якщо постачальник підвищить ціни або почне відчувати збільшення часу простою. У таких випадках проект ШІ можна покращити шляхом переходу до іншого постачальника. Однак це може бути складно через вартість переїзду, договірні обмеження чи технічні проблеми.

Kubernetes пропонує рішення, оскільки алгоритми ШІ повинні масштабуватися, щоб бути оптимально ефективними.

Що таке кубернети?

Кубернетес займає важливе місце в новинах технологій. Спільнота розробників вперше дізналася про платформу Google Kubernetes з відкритим кодом у 2015 році. Kubernetes запускає та координує контейнерні програми на кластерних серверах. Платформа керує життєвим циклом контейнерних програм і служб за допомогою масштабованих методів, які підтримують високу доступність.

Що таке контейнеризація?

Контейнеризація запускає програму в операційній системі ізольовано від решти системи. Програма працює так, ніби вона має власний екземпляр операційної системи; однак може існувати багато контейнерів, що працюють на одній операційній системі.

Контейнери дозволяють легко розповсюджувати та повторно використовувати програми разом із необхідною для них інфраструктурою.

Штучний інтелект потребує багатьох узгоджених програмних компонентів і дорогих графічних процесорів (GPU) для прискорення машинного навчання ШІ та навчання моделей.

Коли системі ШІ доручено працювати з високим нерівномірним навантаженням, Docker Swarm може оптимізувати оптимізацію інфраструктури вручну. Kubernetes робить це автоматично.

Kubernetes працює над координацією всіх програм і комп’ютерних ресурсів управління як оркестровця, що автоматизує розгортання, керування, масштабування та об’єднання контейнерів у мережу.

Приклад: проект штучного інтелекту, керований Kubernetes 

У цьому прикладі йдеться про систему відеоспостереження та безпеки, розгорнуту в a розумний офіс. Системні додатки включають інтерфейс, бек-енд, потокове відео WebRTC і функцію на основі ШІ для обробки відео. 

Коротше кажучи, обробку відео за допомогою ШІ можна розглядати як серію послідовних процесів, які:

1) Розшифровка

2) обчислення ШІ

3) Кодування

Обчислення ШІ використовуються для розпізнавання обличчя, виявлення носіння маски для обличчя або термічний скринінг. Усі ці процеси потребують значних обчислювальних ресурсів, особливо в випадок обробки в режимі реального часу.

Якщо крива високого навантаження системи змінюється щогодини, щодня, щотижня або сезонно, потрібне автоматизоване керування ресурсами комп’ютера. Коли з’являється новий запит на обробку відео, бек-енд автоматично масштабується за допомогою API Kubernetes і автоматично додає додаткові сервери для обробки запиту. Таким чином, Kubernetes працює як оркестратор для автоматичного масштабування та оптимізації комп’ютерних ресурсів у реальному часі. 

Майбутнє Kubernetes у розробці ШІ

Пандемія 2020 року змусила кожен бізнес швидко реагувати на несподівані зміни. Kubernetes зробив доступними рішення, створені на базі хмарної системи, щоб прискорити темпи розробки програмного забезпечення, а також забезпечити гнучке використання даних із сучасними програмами.

ThМасштабованість і розподілена архітектура Kubernetes є ідеальним вибором для проектів ШІ. The Дозрівання цих рішень робить 2021 рік роком, на який можна очікувати більшого зростання на цій захоплюючій арені розвитку ШІ.

Джерело: https://www.aiiottalk.com/kubernetes-drives-artificial-intelligence-development/