Kubernetes driver udvikling af kunstig intelligens

I de sidste tyve år er kunstig intelligens (AI) dukket op som en megatrend, der påvirker alle sektorer. I 2020 oversteg investeringen i AI-startups 40 milliarder dollars, hvilket var en stigning på 9.3 % fra 2019. På den anden side 87 % af AI-projekter mislykkes, og mange faktorer forårsage dette.

At lave en effektiv AI-drevet applikation kræver innovativ tænkning om alle projektkomponenter, herunder applikationsudvikling, iscenesættelse, implementering og integration med andre applikationer.

"Kodning er ikke den eneste udfordring for AI-ingeniører. At bygge AI-drevne applikationer kræver et komplekst it-miljø med et utal af værktøjer." 

Da virksomhedens AI-systemer arbejder med mange datatyper, er det en udfordring at overføre data fra platform til platform. AI-beregninger kræver betydelige beregningsressourcer. Det er dyrt at administrere infrastrukturen og underlagt begrænsninger for hurtigt voksende projekter.

AI-projekter kan støde på en leverandørlåsning aftale, som når et projekt skal bruge en enkelt cloud-udbyder. Der kan opstå udfordringer, hvis leverandøren hæver priserne eller begynder at opleve øget nedetid. I sådanne tilfælde kan AI-projektet forbedres ved at flytte til en anden leverandør. Alligevel kan dette være svært på grund af omkostningerne ved flytningen, kontraktmæssige begrænsninger eller tekniske problemer.

Kubernetes giver en løsning, fordi AI-algoritmer skal skaleres for at være optimalt effektive.

Hvad er Kubernetes?

Kubernetes er fremtrædende i teknologinyheder. Udviklerfællesskabet lærte først om Googles open source Kubernetes-platform i 2015. Kubernetes kører og koordinerer containeriserede applikationer på tværs af klyngeservere. Platformen styrer livscyklussen for containeriserede applikationer og tjenester med skalerbare metoder, der understøtter høj tilgængelighed.

Hvad er containerisering?

containere kører et program på et operativsystem på en måde, der er isoleret fra resten af ​​systemet. Applikationen kører, som om den har sin egen instans af operativsystemet; alligevel kan der være mange containere, der kører på det samme operativsystem.

Containere tillader nem distribution og genbrug af applikationer sammen med den nødvendige infrastruktur.

AI kræver mange koordinerede softwarekomponenter og dyre grafikbehandlingsenheder (GPU'er) for at fremskynde AI maskinlæring og modeltræning.

Når et AI-system får til opgave at arbejde med en høj belastning, der er ujævn, kan Docker Swarm optimere infrastrukturoptimering manuelt. Kubernetes gør dette automatisk.

Kubernetes arbejder på at koordinere alle applikationer og computerressourcer ledelse som orkestrator automatiserer implementering, administration, skalering og containernes netværk.

Casestudie: Et Kubernetes-orkestreret AI-projekt 

Dette casestudie handler om et videoovervågnings- og sikkerhedssystem indsat i et smart kontor. Systemapplikationerne inkluderer en frontend, en backend, WebRTC-videostreaming og en AI-baseret funktion til videobehandling. 

Kort sagt kan AI-assisteret videobehandling opfattes som en række på hinanden følgende processer, som er:

1) Afkodning

2) AI-beregning

3) Kodning

AI-beregning bruges til ansigtsgenkendelse, ansigtsmaske iført detektion eller termisk screening. Alle disse processer kræver betydelige computerressourcer, især i tilfælde af realtidsbehandling.

Hvis systemets høje belastningskurve er ustabil på time-, dag-, ugentlig- eller sæsonbasis, er der behov for automatiseret computerressourcestyring. Når en ny videobehandlingsanmodning vises, skaleres bagenden automatisk ved hjælp af Kubernetes API og tilføjer automatisk flere servere til at behandle anmodningen. Så Kubernetes arbejder som Orchestrator til automatisk skalering og leverer optimering af computerressourcer i realtid. 

Fremtiden for Kubernetes i AI-udvikling

Pandemien i 2020 tvang enhver virksomhed til at reagere hurtigt på uventede ændringer. Kubernetes stillede løsninger til rådighed bygget på det cloud-native system for at accelerere softwareudviklingstempoet og samtidig muliggøre fleksibel databrug med moderne applikationer.

ThKubernetes skalerbarhed og distribuerede arkitektur er det perfekte valg til AI-projekter. Det modning af disse løsninger gør 2021 til et år til at forvente mere vækst i denne spændende AI-udviklingsarena.

Kilde: https://www.aiiottalk.com/kubernetes-drives-artificial-intelligence-development/