Kielimallien (AI) käyttö vastuullisesti lääketieteellisissä laitteissa

Generatiiviset kielimallit, jotka tunnetaan puhekielenä "AI:na", ovat levittäneet aaltoja monilla eri sektoreilla erilaisissa rooleissa, aina asiakastuen chatboteista ohjelmointiavustajat, ja jopa uudelle aallolle verkkohakutyökalut.

Niin monien (suuri kielimalli) LLM-pohjaisten tuotteiden tunkeutuminen on myös herättänyt kiihkeää keskustelua niiden luotettavuudesta, erityisesti korkean riskin sovelluksissa. Lääketieteen alalla potentiaalisesti jättimäinen mahdollisuus on tasapainossa elämän ja kuoleman panoksissa. Tätä uutta teknologiaa on käytettävä vastuullisesti siten, että se voi parantaa kliinikon taitoja tai parantaa potilaskokemusta altistamatta kumpaakaan lisääntyneelle riskille.

Korkean riskin järjestelmissä hyvä nyrkkisääntö on, että luotu teksti ei saa olla käyttäjälle päin. Tämä on tärkeää useista syistä. Ensinnäkin LLM:t ovat tilastollisia tekstigeneraattoreita, joilla ei ole tunnetta lausunnon tarkkuudesta tai vivahteesta. Et voi luottaa siihen, että LLM:llä on tosiasiallisia tuloksia, ja vaikka voit hieroa tilastoja oikeaan suuntaan, tämä ei yksinkertaisesti riitä kriittisiin tehtäviin, jotka vaativat enemmän hallintaa ja tarkkuutta.

Toiseksi LLM:t ovat altis nopealle injektiolle, tekniikka, joka sisältää mallin syöttämisen virittämisen sen käyttäytymisen muokkaamiseksi. Tämä hyödyntämismenetelmä voi ohittaa turvallisuuskoulutuksen tai jopa sen toiminnalle asetettuja rajoituksia.

Lopuksi nämä asiat voivat altistaa tuotteen omistajan oikeudelliselle vastuulle, kuten tuomioistuimet ovat tehneet holdingyhtiöt vastuuseen kielimalliin perustuvien agenttien, jotka näennäisesti toimivat heidän puolestaan, antamista lupauksista.

Tämä herättää kysymyksen: kuinka tätä uutta teknologiaa käytetään a turvallista tavalla?

Korkean riskin sovelluksissa determinismi on avainasemassa. Perusdeterminismin saavuttaminen LLM:illä ei ole erityisen vaikeaa, vaikka semanttinen determinismi on huomattavasti vaikeampi taata.

DiagnoosiBot9000 shouldnt Vastaa samalla tavalla samankaltaisiin syötteisiin muotoilusta tai välimerkeistä (tai jopa sanamuodosta) riippumatta, mutta jos kirjoitusvirhe, väärä pilkku tai pieni muutos syöttötekstissä voi johtaa virheelliseen diagnoosiin, on vaikea myydä automatisoitu järjestelmä.

Sen sijaan syötteenä voidaan käyttää taulukkotietoja. Johdonmukaisuus ei ainoastaan ​​lisää luotettavuutta, vaan mahdollistaa myös yksinkertaisempien (tai enemmän kvantisoitujen) mallien samankaltaisten tulosten saavuttamisen kuin paljon suurempi LLM, joka toimii epämääräisemmällä sanamuodolla. Tämä voi johtaa merkittäviin säästöihin pitkällä aikavälillä, kun otetaan huomioon pilvipalvelujen GPU-vuokrakustannusten nousutrendi.

Myös muiden kielimalliteknologian toimintojen, kuten semanttisen luokituksen ja upotusten, käyttöä tulee harkita, jotka tarjoavat ainutlaatuisia etuja työkaluketjun komponentteina.

Merkintöjen luokittelu suuressa tekstikorpuksessa on työläs tehtävä, jota voidaan massiivisesti yksinkertaistaa LLM:illä. Jokaisen yksittäisen merkinnän tarkastelemisen sijaan voidaan keskittyä reunatapauksiin, joita automaattinen luokitin ei voinut varmuudella merkitä.

Upotukset tarjoavat samanlaisen toiminnon, joka tislaa lauseen tai kappaleen tehokkaasti vektoriksi, jota voidaan verrata muista tekstikappaleista luotuihin vektoreihin semanttisen samankaltaisuuden määrittämiseksi. Luokittelu- ja upotusmallit ovat myös yleensä paljon kevyempiä kuin ihmisen kirjoittamista matkivat LLM:t.

Käyttäjäkohtaisten generatiivisten kielimallien käytön välttäminen riskialttiissa sovelluksessa ei ainoastaan ​​säästä mahdollisia brändäys- ja oikeudellisia päänsärkyjä, vaan säästää myös huomattavia summia rahaa tehokkaampien vastineiden toteuttamiseen, joilla on edelleen kyky toimia pienemmässä ongelmassa. tilaa.

On monia hyvin hallittuja markkinarakoja, jotka voivat hyötyä parin viime vuoden aikana kehitetyistä teknologioista. Jatkuva edistyminen LLM:ien kehittämisessä vahvistaa entisestään niiden käyttökelpoisuutta tehokkaina työkaluina niille, jotka pystyvät käyttämään niitä vastuullisesti.

Thor Tronrud on tutkimukseen ja data-analyysiin keskittynyt ohjelmistoinsinööri StarFish Medicalissa, joka on erikoistunut koneoppimistyökalujen kehittämiseen ja soveltamiseen. Aiemmin magnetohydrodynaamisten simulaatioiden parissa työskennellyt astrofyysikko Thor liittyi StarFishiin vuonna 2021 ja on soveltanut koneoppimistekniikoita ongelmiin, kuten kuvan segmentointiin, signaalianalyysiin ja kielenkäsittelyyn.

 

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://starfishmedical.com/blog/using-ai-in-medical-devices/