Administrere Amazon EBS volumgjennomstrømningsgrenser i Amazon OpenSearch Service-domener | Amazon Web Services

Administrere Amazon EBS volumgjennomstrømningsgrenser i Amazon OpenSearch Service-domener | Amazon Web Services

Tidsstempel: 8. september 2023 1:09
Kilde node: 2260569

I dette blogginnlegget diskuterer vi virkningen av Amazon Elastic Block Store (Amazon EBS) volum IOPS og gjennomstrømningsgrenser på Amazon OpenSearch-tjeneste domene og hvordan man kan forhindre/dempe gjennomstrømningsreguleringssituasjon.

Amazon OpenSearch Service er en administrert tjeneste som gjør det enkelt for deg å utføre nettstedsøk, interaktiv logganalyse, applikasjonsovervåking i sanntid og mer. Basert på OpenSearch-pakken med åpen kildekode, lar Amazon OpenSearch Service deg søke, visualisere og analysere opptil petabyte med tekst og ustrukturerte data.

Et OpenSearch Service-domene inneholder primært noder med følgende sett med roller.

  • Cluster manager (dedikert master): Ansvarlig for å administrere klyngen og sjekke helsen til datanodene i klyngen.
  • Data: Ansvarlig for å betjene søke- og indekseringsforespørsler og lagre de indekserte dataene.
  • Ultravarmt: Noder som bruker Amazon S3 som en støttebutikk for å gi rimeligere lagring.

Når du oppretter et OpenSearch Service-domene, velger du lagringen for datanodene med lokal Ikke-flyktig Memory Express (NVMe) eller med Amazon EBS-volumer.

Hvis OpenSearch Service-datanodelagringen støttes av Amazon EBS-volumer, avhengig av arbeidsbelastningen din, kan EBS-gjennomstrømning ha stor innvirkning på ytelsen til OpenSearch Service-domenet. EBS-volumytelsesberegningen er definert av følgende to nøkkelparametere.

  • IOPS definerer antall IO-operasjoner som utføres per sekund.
  • gjennomstrømming er et mål på hvor mye data som kan overføres i løpet av en gitt tidsperiode. Det måles vanligvis i byte per sekund.

Hver gang IOPS eller gjennomstrømning av datanoden bryter den maksimalt tillatte grensen for EBS-volumet eller EC2-forekomsten av datanoden, opplever OpenSearch Service-domenet IOPS eller gjennomstrømningskontroll. Dette kan resultere i høy søke- og indekseringsforsinkelse og i det verste scenariet knutekrasj også.

Maksimalt tillatt IOPS og gjennomstrømning for datanoden

Den maksimalt tillatte verdien for IOPS eller gjennomstrømmingen for datanoden i et OpenSearch Service-domene er minimum av de to følgende verdiene.

Gjennomstrømsregulering og dens innvirkning på et Amazon OpenSearch Service-domene

Gjennomstrømningsregulering skjer når den totale EBS-gjennomstrømningen på en datanode overskrider den maksimalt tillatte gjennomstrømningsverdien for den datanoden i OpenSearch Service-domenet.

ThroughputThrottle-beregningen for domenet eller noden kan sees i Amazon CloudWatch-konsollen på følgende sted.

  • Domain: "ES/OpenSearchService > Per-domene, per-klient-beregninger"
  • node: "ES/OpenSearchService > ClientId, DomainName, NodeId"

Verdien på 1 i ThroughputThrottle-beregningen angir en strupehendelse for domenet eller noden.

Hvis en datanode i domenet opplever struping av gjennomstrømming i en konsistent periode, kan det resultere i følgende ytelsesforringelse for datanoden.

  • Langsommere EBS-volumytelse.
  • Høy lese-/skriveforsinkelse.

Dette kan påvirke kontrollene som utføres av klyngeadministratoren eller datanoden. Det kan resultere i:

  • FS (filsystem) helsesjekkfeil utført av datanoden.
  • Følgersjekkfeil utført av klyngeadministrator på grunn av høy forespørselsforsinkelse.

Dette vil resultere i at klyngelederen merker slike datanoder som usunne, noe som resulterer i at datanoden fjernes fra klyngen. Dette kan føre til en gul eller rød klyngestatus.

Beregning av gjennomstrømningsverdi

Total gjennomstrømning for datanoden er de totale bytene som er lest og skrevet til EBS-volumet per sekund. Følgende beregninger gir lese- og skrivegjennomstrømmingen for datanoden i Amazon Opensearch Service-domenet.

Total gjennomstrømning for datanoden i OpenSearch Service-domenet beregnes som følgende.

Throughput = ReadThroughputMicroBursting + WriteThroughputMicroBursting

Følg disse trinnene for å få total gjennomstrømning for datanoden.

  1. Gå til Amazon Cloudwatch-beregninger.
  2. Gå til ES/OpenSearchService > ClientId, DomainName, NodeId.
  3. Plukke ut ReadThroughputMicroBursting og WriteThroughputMicroBursting beregning.
  4. Gå til Grafiske beregninger.
  5. Bruk Legg til matematikk og lag formler for å summere ReadThroughputMicroBursting og WriteThroughputMicroBursting verdier.

Håndtering av gjennomstrømningsgass

Når den maksimalt tillatte gjennomstrømningsgrensen brytes på datanoden i et OpenSearch Service-domene, en diskgjennomstrømningsgass varsel sendes til AWS-konsollen. Gjennomstrømsregulering på datanoden kan skje på grunn av ulike årsaker, for eksempel følgende.

  • En plutselig økning i indekskurs or søkerate til datanoden til OpenSearch Service-domenet.
  • A blå grønn hendelse som skjer på OpenSearch Service-domenet i rushtiden.
  • OpenSearch Service-domenet er underskalert.

Vi foreslår følgende tiltak for å forhindre gjennomstrømningskontroll for OpenSearch Service-domenet.

  • Overvåk trafikken til OpenSearch Service-domenet og lag alarmer på søke- og indekstrafikken som sendes til OpenSearch Service-domenet.
  • Sett opp utenfor rushtiden for OpenSearch Service-domene slik at oppdateringene som fører til blå grønn distribusjoner utføres når det er mindre etterspørsel.
  • Overvåk ThroughputThrottle klyngeberegninger for OpenSearch Service-domenet.
  • Overvåke skjevhet i skårene for OpenSearch Service-domenet. Shard-skjevhet kan føre til ujevn lastfordeling av trafikk til datanoder og kan føre til varme noder i klyngen, som kan oppleve høy indeks- og søketrafikk som resulterer i struping.
  • Hvis du treffer EBS-volum- eller EC2-forekomstgrenser for datanoden, må du skalere opp OpenSearch Service-domenet for å unngå gjennomstrømningskontroll. Sjekk grensene gitt av EBS-volumer og  Amazon EBS optimalisert forekomster brukt av datanoden og skaler opp OpenSearch-klyngen tilsvarende.

Hvert scenario krever spesifikk undersøkelse og passende tiltak for å løse det. Likevel foreslår vi følgende retningslinjer som en del av en bredere tilnærming til håndtering av gjennomstrømningsgass.

  • Hvis høy gjennomstrømning sees på et spesifikt sett med datanoder mesteparten av tiden, kan skjevheter i skårene forårsake varme noder. I slike tilfeller vil løsning av skårskjevheter hjelpe situasjonen.
  • Hvis OpenSearch Service-domenet opplever ujevne trafikkmønstre, se etter plutselige utbrudd som resulterer i struping. I slike scenarier kan effektivisering av trafikkmønsteret være nyttig.
  • Hvis gjennomstrømningsregulering sees på de fleste nodene i klyngen med konsistente trafikkmønstre, bør oppskalering av OpenSearch Service-domenet vurderes.

konklusjonen

I dette innlegget dekket vi Amazon EBS-gjennomstrømningsreguleringen i OpenSearch Service-domenet, dens innvirkning og måter å overvåke og håndtere den på. Vi kom med forslag som kan brukes til å håndtere slike strupende situasjoner.

Relaterte linker

Om forfatterne

Pranit Kumar er en senior programvareutvikler som jobber med OpenSearch hos Amazon Web Services. Han er interessert i distribuerte systemer og å løse komplekse problemer.

Dhrubajyoti Das er en ingeniørsjef som jobber med OpenSearch hos Amazon Web Services. Han er dypt interessert i høyskalerbare systemer og infrastrukturrelaterte utfordringer.

Tidstempel:

Mer fra AWS Big Data