See postitus on kirjutatud koos Sherwin Chuga Alidast.
Alida aitab maailma suurimatel kaubamärkidel luua väga kaasatud teadusringkondi, et koguda tagasisidet, mis soodustab paremat kliendikogemust ja tooteinnovatsiooni.
Alida kliendid saavad ühe küsitluse kohta kümneid tuhandeid kaasatud vastuseid, seetõttu otsustas Alida meeskond oma klientide ulatuslikuks teenindamiseks kasutada masinõpet (ML). Traditsiooniliste loomuliku keele töötlemise (NLP) mudelite kasutamisel leidsid nad aga, et need lahendused ei suutnud täielikult mõista avatud küsitluse vastustest leitud nüansirikast tagasisidet. Mudelid jäädvustasid sageli ainult pinnapealseid teemasid ja tundeid ning jätsid tähelepanuta olulise konteksti, mis võimaldaks täpsemat ja sisukamat ülevaadet.
Sellest postitusest saame teada, kuidas Anthropici Claude Instant modell töötab Amazonase aluspõhi võimaldas Alida meeskonnal kiiresti luua skaleeritava teenuse, mis määrab keerukamate küsitlusvastuste raames täpsemalt teema ja meeleolu. Uus teenus saavutas teema kinnitamise 4–6-kordse paranemise, koondades tihedalt mitukümmend võtmeteemat, võrreldes sadade mürarikaste NLP-märksõnadega.
Amazon Bedrock on täielikult hallatav teenus, mis pakub ühe API kaudu valikut suure jõudlusega alusmudeleid (FM-e) juhtivatelt tehisintellekti ettevõtetelt, nagu AI21 Labs, Anthropic, Cohere, Meta, Stability AI ja Amazon. võimaluste komplekt, mida vajate turvalisuse, privaatsuse ja vastutustundliku tehisintellektiga generatiivsete AI-rakenduste loomiseks.
Amazon Bedrocki kasutamine võimaldas Alidal tuua oma teenus turule kiiremini kui siis, kui nad oleksid kasutanud teisi masinõppe (ML) pakkujaid või tarnijaid.
Väljakutse
Valikvastustega ja avatud küsimuste kombinatsiooniga küsitlused võimaldavad turu-uurijatel saada terviklikumat vaadet, jäädvustades nii kvantitatiivseid kui kvalitatiivseid andmepunkte.
Valikvastustega küsimusi on lihtne skaalal analüüsida, kuid neil puudub nüanss ja sügavus. Vastuse suvandite määramine võib põhjustada ka osalejate vastuste kallutamist või käivitamist.
Avatud küsitluse küsimused võimaldavad vastajatel anda konteksti ja ootamatut tagasisidet. Need kvalitatiivsed andmepunktid süvendavad teadlaste mõistmist kaugemale sellest, mida valikvastustega küsimused suudavad üksi tabada. Vabas vormis teksti väljakutse seisneb selles, et see võib viia keeruliste ja nüansirikaste vastusteni, mida traditsioonilisel NLP-l on raske täielikult mõista. Näiteks:
„Kogesin hiljuti mõningaid eluraskusi ning olin tõeliselt masenduses ja pettunud. Kui ma sisse läksin, olid töötajad minu vastu alati väga lahked. See on aidanud mul rasketest aegadest üle saada!”
Traditsioonilised NLP meetodid tuvastavad teemad kui "raskused", "pettumus", "lahked töötajad" ja "rasketest aegadest läbi tulemine". See ei suuda eristada vastaja üldist praegust negatiivset elukogemust konkreetsetest positiivsetest poekogemustest.
Alida olemasolev lahendus töötleb automaatselt suuri avatud vastuseid, kuid nad soovisid, et nende kliendid saaksid parema konteksti mõistmise ja kõrgetasemelise teema järelduse.
Amazonase aluspõhi
Enne LLM-ide kasutuselevõttu pidi Alida oma olemasolevat ühe mudeli lahendust täiustama tihedas koostöös valdkonnaekspertidega ning uute mudelite väljatöötamisega, koolitamisega ja viimistlemisega spetsiaalselt iga tööstuse vertikaali jaoks, kus Alida kliendid tegutsevad. See oli nii aja- kui ka kulumahukas ettevõtmine.
Üks läbimurdeid, mis muudavad LLM-id nii võimsaks, on tähelepanumehhanismide kasutamine. LLM-id kasutavad enesetähelepanu mehhanisme, mis analüüsivad sõnade vahelisi seoseid antud käsus. See võimaldab LLM-idel paremini käsitleda varasemas näites kirjeldatud teemat ja sentimenti ning pakub uut põnevat tehnoloogiat, mida saab väljakutse lahendamiseks kasutada.
Amazon Bedrockiga saavad meeskonnad ja üksikisikud kohe asuda vundamendimudeleid kasutama, ilma et peaksid muretsema infrastruktuuri loomise või ML-raamistike seadistamise ja konfigureerimise pärast. Saate alustada järgmiste sammudega.
- Veenduge, et teie kasutajal või rollil on Amazon Bedrocki ressursside loomise või muutmise õigus. Üksikasju vt Identiteedipõhised poliitikanäited Amazon Bedrocki jaoks
- Logige sisse Amazonase aluspõhi konsooli.
- Kohta Juurdepääs mudelile lehel, vaadake üle EULA ja lubage oma kontol soovitud FM-id.
- Alustage FM-idega suhtlemist järgmiste meetodite abil:
Alida juhtkond soovis Amazon Bedrocki varakult kasutusele võtta, sest nad tunnustasid selle võimet aidata oma meeskondadel uusi generatiivseid tehisintellektil põhinevaid lahendusi kiiremini turule tuua.
Vincy William, Alida inseneriosakonna vanemdirektor, kes juhib teema ja tundeanalüüsi teenuse loomise eest vastutavat meeskonda, ütleb:
„LLM-id pakuvad kvalitatiivses analüüsis suure hüppe ja teevad asju (skaalal, mis on inimlikult võimatu teha). Amazon Bedrock on mängu muutja, see võimaldab meil ilma keerukuseta kasutada LLM-e.
Insenerimeeskond koges Amazon Bedrockiga alustamist koheselt. Nad võiksid valida erinevate alusmudelite hulgast ja hakata keskenduma kiirele projekteerimisele, selle asemel, et kulutada aega mudelite käitamiseks õige suuruse määramisele, varustamisele, juurutamisele ja ressursside konfigureerimisele.
Lahenduse ülevaade
Alida peaarhitekt Sherwin Chu jagas Alida mikroteenuste arhitektuuri lähenemisviisi. Alida koostas teema ja sentimenti klassifikatsiooni teenusena, mille esimene rakendus oli küsitluse vastuste analüüs. Selle lähenemisviisiga eemaldatakse tavalised LLM-i juurutamise väljakutsed, nagu viipade haldamise keerukus, lubade piirangud, päringupiirangud ja korduskatsed, ning lahendus võimaldab kulutavatel rakendustel töötada lihtsa ja stabiilse API-ga. See abstraktsioonikihi lähenemine võimaldab ka teenuse omanikel pidevalt täiustada sisemisi juurutamise üksikasju ja minimeerida API-d rikkuvaid muudatusi. Lõpuks võimaldab teeninduspõhine lähenemine ühest punktist rakendada mis tahes andmehaldus- ja turbepoliitikat, mis areneb tehisintellekti juhtimise küpsemisel organisatsioonis.
Järgnev diagramm illustreerib lahenduse arhitektuuri ja voogu.
Alida hindas erinevate pakkujate LLM-e ja leidis, et Anthropicu Claude Instant on õige tasakaal kulude ja jõudluse vahel. Tehes tihedat koostööd kiire insenerimeeskonnaga, soovitas Chu rakendada kiiret aheldamisstrateegiat, mitte ühe monoliidi kiiret lähenemisviisi.
Kiire aheldamine võimaldab teil teha järgmist.
- Jaotage oma eesmärk väiksemateks loogilisteks sammudeks
- Koostage iga sammu jaoks viip
- Esitage viibad järjestikku LLM-ile
See loob täiendavaid kontrollpunkte, millel on järgmised eelised:
- Lihtne on süstemaatiliselt hinnata sisestusviibale tehtud muudatusi
- Saate rakendada täpsuse ja jõudluse üksikasjalikumat jälgimist ja jälgimist igal etapil
Selle strateegia peamised kaalutlused hõlmavad LLM-ile tehtud päringute arvu suurenemist ja sellest tulenevat üldise eesmärgi täitmiseks kuluva aja pikenemist. Alida kasutusjuhtumi puhul otsustasid nad nende mõjude tasakaalustamiseks koondada avatud vastuste kogu ühe viipaga LLM-ile.
NLP vs. LLM
Alida olemasolev NLP-lahendus tugineb avatud uuringu vastuste analüüsimiseks klasterdamisalgoritmidele ja statistilisele klassifikatsioonile. Kui seda kasutati kohviku mobiilirakenduse tagasiside näidiseks, eraldas see sõnamustrite põhjal teemasid, kuid sellest puudus tõeline arusaam. Järgmises tabelis on mõned näited, mis võrdlevad NLP ja LLM vastuseid.
Küsitluse vastus | Olemasolev traditsiooniline NLP | Amazoni aluspõhi koos Claude Instantiga | |
teema | teema | Tunne | |
Ma tellin oma jooke peaaegu eranditult mugavusrakenduse bc kaudu ja pole nii piinlik tellida super kohandatud jooke, lol. Ja mulle meeldib preemiaid teenida! | ['rakendus bc mugavus', 'jook', 'preemia'] | Mobiilse tellimise mugavus | positiivne |
Rakendus töötab päris hästi, ainus etteheide on see, et ma ei saa oma kinkekaardile lisada soovitud arvu raha. Miks peab selle täitmiseks konkreetselt olema 10 dollarit?! | ['kaebus', 'rakendus', 'kinkekaart', 'numbriraha'] | Mobiilse tellimuse täitmise kiirus | negatiivne |
Näitetulemused näitavad, kuidas olemasolev lahendus suutis asjakohaseid märksõnu eraldada, kuid ei suuda saavutada üldisemat teemarühma määramist.
Seevastu Amazon Bedrocki ja Anthropic Claude Instanti abil saab kontekstipõhise koolitusega LLM määrata vastused eelnevalt määratletud teemadele ja määrata sentimenti.
Lisaks Alida klientidele paremate vastuste pakkumisele säästis selle konkreetse kasutusjuhtumi puhul lahenduse leidmine traditsiooniliste NLP-meetodite asemel LLM-i abil palju aega ja vaeva sobiva mudeli väljaõppel ja hooldamisel. Järgmises tabelis võrreldakse traditsioonilise NLP-mudeli ja LLM-i kontekstipõhist koolitust.
. | Andmenõue | Koolitusprotsess | Mudeli kohanemisvõime |
Traditsioonilise NLP mudeli väljaõpe | Tuhanded inimmärgistatud näited |
Automatiseeritud ja käsitsi funktsioonide projekteerimise kombinatsioon. Iteratiivne treeni ja hinda tsükleid. |
Aeglasem pööre mudeli ümberõpetamise vajaduse tõttu |
LLM-i kontekstipõhine koolitus | Mitu näidet |
Koolitatud käigult viipade piires. Piiratud konteksti akna suurusega. |
Kiiremad iteratsioonid, muutes viipa. Piiratud säilitamine kontekstakna suuruse tõttu. |
Järeldus
Alida Anthropicu Claude Instanti mudeli kasutamine Amazon Bedrockis näitab LLM-ide võimsat võimet analüüsida avatud uuringu vastuseid. Alida suutis luua suurepärase teenuse, mis oli nende NLP-põhise teenusega võrreldes teemaanalüüsis 4–6 korda täpsem. Lisaks vähendas LLM-ide kontekstisiseste viipetehnoloogia kasutamine oluliselt arendusaega, kuna traditsioonilise NLP-mudeli koolitamiseks ei olnud vaja kureerida tuhandeid inimese märgistatud andmepunkte. See võimaldab Alidal anda oma klientidele varem rikkalikumat teavet!
Kui olete valmis alustama Amazon Bedrockiga oma vundamendimudeli uuendust, vaadake seda linki Seadistage Amazon Bedrock. Kui olete huvitatud muude intrigeerivate Amazon Bedrocki rakenduste kohta lugemisest, vaadake Amazon Bedrocki spetsiifiline jaotis AWS-i masinõppe blogist.
Autoritest
Kinman Lam on AWS-i ISV/DNB lahenduse arhitekt. Tal on 17-aastane kogemus tehnoloogiaettevõtete loomisel ja kasvatamisel nutitelefonide, geograafilise asukoha määramise, asjade Interneti ja avatud lähtekoodiga tarkvara valdkonnas. AWS-is kasutab ta oma kogemusi, et aidata ettevõtetel ehitada üles tugev infrastruktuur, et vastata kasvavate ettevõtete kasvavatele nõudmistele, tuua turule uusi tooteid ja teenuseid, siseneda uutele turgudele ja rõõmustada oma kliente.
Sherwin Chu on Alida peaarhitekt, kes aitab tootemeeskondi arhitektuurilise suuna, tehnoloogia valiku ja keerukate probleemide lahendamisega. Ta on kogenud tarkvarainsener, arhitekt ja juht, kes on üle 20 aasta töötanud erinevate tööstusharude SaaS-i valdkonnas. Ta on loonud ja haldanud arvukalt B2B ja B2C süsteeme AWS-i ja GCP-ga.
Mark Roy on AWS-i peamine masinõppearhitekt, kes aitab klientidel kavandada ja luua AI/ML-i ja generatiivseid AI-lahendusi. Alates 2023. aasta algusest on ta keskendunud lahenduste arhitektuuriga seotud jõupingutustele Amazon Bedrocki, AWS-i lipulaeva generatiivse tehisintellekti pakkumise ehitajatele, käivitamiseks. Marki töö hõlmab laia valikut kasutusjuhtumeid, mille peamine huvi on generatiivne tehisintellekt, agendid ja ML-i skaleerimine kogu ettevõttes. Ta on aidanud ettevõtteid kindlustuse, finantsteenuste, meedia ja meelelahutuse, tervishoiu, kommunaalteenuste ja tootmise valdkonnas. Enne AWS-iga liitumist oli Mark arhitekt, arendaja ja tehnoloogiajuht üle 25 aasta, sealhulgas 19 aastat finantsteenuste valdkonnas. Markil on kuus AWS-i sertifikaati, sealhulgas ML Specialty Certification.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://aws.amazon.com/blogs/machine-learning/alida-gains-deeper-understanding-of-customer-feedback-with-amazon-bedrock/
- :on
- :on
- :mitte
- $ UP
- 10
- 100
- 121
- 135
- 17
- 19
- 2%
- 20
- 20 aastat
- 2023
- 25
- 5
- 7
- 8
- 9
- a
- võime
- Võimalik
- MEIST
- abstraheeritud
- abstraktsioon
- konto
- täpsus
- täpne
- täpselt
- Saavutada
- saavutada
- üle
- lisama
- Täiendavad lisad
- Lisaks
- aadress
- ained
- AI
- AI juhtimine
- Tehisintellekti toega
- AI / ML
- algoritme
- võimaldama
- lubatud
- võimaldab
- peaaegu
- üksi
- mööda
- Ka
- alati
- Amazon
- Amazon Web Services
- summa
- an
- analüüs
- analüüsima
- analüüsides
- ja
- vastuseid
- Antroopne
- mistahes
- API
- app
- taotlus
- rakendused
- rakendatud
- lähenemine
- arhitektuuri-
- arhitektuur
- OLEME
- AS
- määrama
- loovutamine
- At
- tähelepanu
- Automatiseeritud
- automaatselt
- ära
- AWS
- AWS-i masinõpe
- B2B
- B2C
- Saldo
- põhineb
- partii
- BE
- sest
- olnud
- Kasu
- Parem
- vahel
- Peale
- Suur
- suurim
- Blogi
- mõlemad
- brändid
- läbimurdeid
- tooma
- lai
- ehitama
- ehitajad
- Ehitus
- ehitatud
- ettevõtted
- kuid
- by
- CAN
- Saab
- võimeid
- lüüa
- pildistatud
- Püüdmine
- kaart
- juhul
- juhtudel
- sertifikaat
- sertifikaadid
- väljakutse
- väljakutseid
- Changer
- Vaidluste lahendamine
- Vormista ost
- juht
- valik
- Valisin
- klassifikatsioon
- Claude
- lähedalt
- Klastrite loomine
- Kohv
- kogumine
- kombinatsioon
- ühine
- Ühenduste
- Ettevõtted
- võrreldes
- võrrelda
- kaebus
- täitma
- keeruline
- keerukus
- seadistamine
- kaalutlused
- konsool
- piiranguid
- tarbivad
- kontekst
- kontekstuaalne
- jätkuvalt
- kontrast
- mugavus
- Maksma
- võiks
- kaaned
- looma
- loob
- otsustav
- kureerima
- Praegune
- klient
- Kliendid
- kohandatud
- tsüklit
- andmed
- andmepunktid
- Süvene
- sügavam
- rõõm
- edastamine
- nõudmisi
- näitab
- juurutamine
- sügavus
- Disain
- üksikasjalik
- detailid
- määrab
- arendama
- arendaja
- & Tarkvaraarendus
- skeem
- raske
- suund
- Juhataja
- pettunud
- eristama
- do
- ei
- alla
- tosin
- joogid
- kaks
- iga
- innukas
- Ajalugu
- Varajane
- Teenimine
- leevendada
- lihtne
- mõju
- jõupingutusi
- jõupingutusi
- tööle
- võimaldama
- lubatud
- võimaldab
- püüdma
- hõivatud
- insener
- Inseneriteadus
- sisene
- ettevõte
- meelelahutus
- Eeter (ETH)
- hindama
- hinnatud
- arenema
- näide
- näited
- põnev
- ainult
- täidesaatev
- olemasolevate
- kogemus
- kogenud
- Kogemused
- ekspertide
- väljavõte
- kiiremini
- tunnusjoon
- tagasiside
- Lõpuks
- finants-
- finantsteenused
- esimene
- Lipulaev
- voog
- Keskenduma
- keskendumine
- Järel
- eest
- edasi
- avastatud
- Sihtasutus
- raamistikud
- Alates
- kütused
- täitmine
- täielikult
- kasu
- Kasum
- mäng
- mängu-Box
- koguma
- GCP
- üldistatud
- generatiivne
- Generatiivne AI
- saama
- saamine
- kingitus
- Andma
- antud
- hea
- valitsemistava
- Grupp
- Kasvavad
- olnud
- käepide
- raskused
- Olema
- võttes
- he
- tervishoid
- aitama
- aitas
- aidates
- aitab
- kõrgetasemeline
- suure jõudlusega
- kõrgelt
- tema
- omab
- terviklikku
- Kuidas
- aga
- HTML
- http
- HTTPS
- sajad
- i
- identifitseerima
- if
- illustreerib
- Vahetu
- kohe
- rakendada
- täitmine
- parandama
- paranemine
- in
- sisaldama
- hõlmab
- Kaasa arvatud
- Suurendama
- kasvav
- inimesed
- tööstusharudes
- tööstus
- tööstuse eksperdid
- Infrastruktuur
- Innovatsioon
- sisend
- teadmisi
- kiire
- selle asemel
- kindlustus
- suhtlevad
- huvi
- huvitatud
- sisemine
- sisse
- intrigeeriv
- Sissejuhatus
- asjade Interneti
- IT
- kordused
- ITS
- liitumine
- jpg
- Võti
- märksõnad
- Laps
- Labs
- puudus
- Põgenemine
- keel
- suur
- algatama
- kiht
- viima
- juht
- Juhtimine
- juhtivate
- Leads
- Hüpe
- Õppida
- õppimine
- vähem
- Finantsvõimendus
- elu
- nagu
- piirid
- LINK
- llm
- loogiline
- LoL
- armastus
- masin
- masinõpe
- tehtud
- säilitamine
- tegema
- juhitud
- juhtiv
- käsiraamat
- tootmine
- märk
- Markuse oma
- Turg
- turud
- küpseb
- mai..
- me
- tähendusrikas
- mehhanismid
- Meedia
- Vastama
- Meta
- meetodid
- mikroteenus
- mikroteenused
- minimeerima
- vastamata
- ML
- mobiilne
- mobiilirakenduse
- mudel
- mudelid
- muutma
- raha
- järelevalve
- rohkem
- my
- Natural
- Loomulik keel
- Natural Language Processing
- Vajadus
- negatiivne
- Uus
- uute toodete
- nlp
- Nuance
- nüansirikas
- number
- arvukad
- eesmärk
- of
- pakkumine
- Pakkumised
- tasakaalustama
- sageli
- on
- ainult
- avatud
- avatud lähtekoodiga
- tegutses
- vastupidine
- Valikud
- or
- et
- tellimine
- organisatsioon
- Muu
- üle
- üldine
- enda
- omanikud
- lehekülg
- osavõtja
- eriline
- mustrid
- jõudlus
- luba
- Platon
- Platoni andmete intelligentsus
- PlatoData
- Punkt
- võrra
- Poliitika
- poliitika
- positiivne
- võimalik
- post
- võimas
- vajadus
- kingitusi
- ilus
- esmane
- Peamine
- Eelnev
- privaatsus
- probleemi lahendamine
- protsess
- töötlemine
- Toode
- Tooteinnovatsioon
- Toodet
- Tooted ja teenused
- küsib
- anda
- pakkujad
- jätkates
- kvalitatiivne
- kvantitatiivne
- Küsimused
- kiiresti
- valik
- Lugemine
- valmis
- tõesti
- saama
- hiljuti
- tunnustatud
- Lühendatud
- filtreeri
- Suhted
- asjakohane
- toetub
- taotleda
- Taotlusi
- teadustöö
- Teadlased
- Vahendid
- vastus
- vastuste
- vastutav
- tulemuseks
- Tulemused
- säilitamine
- läbi
- rikkam
- õige
- jõuline
- Roll
- jooks
- SaaS
- proov
- salvestatud
- ütleb
- skaalautuvia
- Skaala
- ketendamine
- turvalisus
- julgeolekupoliitika
- vaata
- valima
- vanem
- tunne
- teenima
- teenus
- Teenused
- komplekt
- kehtestamine
- mitu
- jagatud
- näitama
- märgatavalt
- lihtne
- alates
- ühekordne
- SIX
- SUURUS
- väiksem
- nutikas telefon
- So
- tarkvara
- Tarkvara insener
- lahendus
- Lahendused
- mõned
- allikas
- Ruum
- Eriala
- konkreetse
- eriti
- Kulutused
- Stabiilsus
- stabiilne
- Personal
- algus
- alustatud
- statistiline
- Sammud
- salvestada
- lihtne
- Strateegia
- selline
- sobiv
- super
- parem
- Uuring
- süsteemid
- tabel
- võtab
- meeskond
- meeskonnad
- Tehnoloogia
- tehnoloogiaettevõtted
- kümneid
- tekst
- kui
- et
- .
- oma
- seetõttu
- Need
- nad
- asjad
- see
- tuhandeid
- Läbi
- tihedalt
- aeg
- korda
- et
- sümboolne
- teema
- Teemasid
- raske
- Jälgimine
- traditsiooniline
- Rong
- koolitus
- tõsi
- lõpuks
- ootamatu
- mõistma
- mõistmine
- peale
- us
- kasutama
- kasutage juhtumit
- Kasutatud
- Kasutaja
- kasutusalad
- kasutamine
- kommunaalteenused
- eri
- suur
- müüjad
- vertikaalid
- väga
- kaudu
- vaade
- mahud
- vs
- tahan
- tagaotsitav
- oli
- Tee..
- we
- web
- veebiteenused
- läks
- olid
- M
- millal
- mis
- WHO
- miks
- lai
- Lai valik
- will
- william
- aken
- koos
- jooksul
- ilma
- sõna
- sõnad
- Töö
- töö
- töötab
- maailma
- muretsema
- oleks
- aastat
- sa
- Sinu
- sephyrnet