AI Weekly: Watson Health og semi-autonome kjørefeil viser farene ved overlovende AI

Denne uken i AI banket virkeligheten på – både for AI helseteknologi og semi-autonome kjøresystemer. IBM gikk med på å selge eiendelene fra Watson Health-virksomheten til investeringsselskapet Francisco Partners, etter divisjonens kraftige nedgang. I mellomtiden kunngjorde Insurance Institute for Highway Safety (IIHS), en ideell organisasjon finansiert av forsikringsbransjen, et nytt vurderingsprogram designet for å evaluere hvor godt «delvise» automatiseringssystemer som Teslas autopilot gir beskyttelse for å forhindre misbruk.

Tvillingutviklingen er symbolsk for AI-industriens evige problem: å erkjenne AIs begrensninger. Slates Jeffrey Funk og Gary Smith gjør en grundig jobb av å oppsummere altfor optimistiske AI-spådommer de siste årene, inkludert Ray Kurzweils uttalelse om at datamaskiner vil ha intelligens på "menneskelig nivå" og "evnen til å fortelle en vits, være morsom, være romantisk, være kjærlig, være sexy" av 2029.

Som enhver ekspert vil bekrefte, er AI ikke i nærheten av å nærme seg intelligens på menneskelig nivå – emosjonell eller på annen måte. (Kurzweils nye estimat er 2045.) På samme måte har ikke autonome biler og AI-drevet helsevesen oppnådd de høye høydene futuristene en gang så for seg at de ville nå. Det er en viktig leksjon i å sette forventninger - fremtiden er tross alt ikke lett å forutsi - men også et eksempel på hvordan jakten på profitt forsterker hype-syklusen. Under press for å vise avkastning, har noen helseteknologiske og autonome kjøretøyselskaper kollapset under vekten av deres overløfter, som denne ukens nyheter viser.

Ride høyt på Watson-seieren mot Jeopardy! mester Ken Jennings, lanserte IBM Watson Health i 2015, og posisjonerte serien med AI-drevne tjenester som fremtiden for utvidet omsorg. Selskapets salgsargument var at Watson Health kunne analysere mengder med medisinske data - langt raskere enn noen menneskelig lege kunne, tilsynelatende - for å generere innsikt som forbedrer helseresultater.

IBM brukte angivelig 4 milliarder dollar på å styrke Watson Health-divisjonen sin med oppkjøp, men teknologien viste seg i beste fall å være ineffektiv – og i verste fall skadelig. EN STAT rapporterer fant ut at plattformen ofte ga dårlige og utrygge råd om kreftbehandling fordi Watson Healths modeller ble trent ved å bruke feilaktige, syntetiske medisinske journaler i stedet for ekte pasientdata.

Watson Healths bortgang kan delvis tilskrives IBM-sjef Arvind Krishnas skiftende prioriteringer, men økende kynisme om AIs helseegenskaper spilte uten tvil også en rolle. Studier har vist at nesten alle øyesykdomsdatasett kommer fra pasienter i Nord-Amerika, Europa og Kina, noe som betyr at algoritmer for diagnostisering av øyesykdom er mindre sikre på å fungere godt for rasegrupper fra underrepresenterte land. An revisjon av en UnitedHealth Group-algoritme fastslått at det kunne undervurdere halvparten av antallet svarte pasienter som trenger større omsorg. Og en voksende mengde arbeid antyder at algoritmer som oppdager hudkreft har en tendens til å være mindre presise når de brukes på svarte pasienter, delvis fordi AI-modeller trent på bilder av lyshudede pasienter.

Semi-autonome, AI-drevne kjøresystemer kommer under lignende gransking, spesielt ettersom bilprodusenter øker utrullingen av produkter de hevder nesten kan kjøre bil selv. I oktober 2021 ble Tesla beordret til å overlevere data til National Highway Traffic Safety Administration som en del av en etterforskning av selskapets biler som krasjet inn i parkerte kjøretøy. Mistanken var at Teslas autopilot var ansvarlig – enten delvis eller helt – for den farlige oppførselen.

Det er ikke en urimelig antagelse. Sent i fjor rullet Tesla ut en Oppdater til autopilot med en feil som fikk det automatiske bremsesystemet i Teslas til å koble seg inn uten åpenbar grunn. Dette førte til at biler raskt sakte ned mens de kjørte nedover motorveien, noe som satte dem i fare for å bli kjørt bak.

Tesla er ikke den eneste leverandøren som har slitt med å perfeksjonere semi-autonom bilteknologi. En nøktern 2020-studie fra American Automobile Association fant at de fleste semi-autonome systemene på markedet – inkludert de fra Kia og BMW – fikk problemer i gjennomsnitt hver åttende mil. For eksempel, når de møtte et deaktivert kjøretøy, forårsaket systemene en kollisjon 66 % av tiden.

I 2016 var GM tvang å presse tilbake utrullingen av Super Cruise-funksjonen på grunn av uspesifiserte problemer. Ford nylig forsinket BlueCruise-systemet for å "forenkle" teknologien.

Det bringer oss til ukens nyheter: Forsikringsinstituttets rangeringsprogram å evaluere semi-autonome systems sikkerhetsbeskyttelse. Gruppen håper det vil oppmuntre bilprodusenter til å lage bedre design når det første settet med vurderinger, som for tiden er under utvikling, er utstedt i år.

"Måten mange av disse systemene fungerer på gir folk inntrykk av at de er i stand til å gjøre mer enn de egentlig er," sa forsker Alexandra Mueller fra Insurance Institute i en uttalelse. "Men selv når sjåfører forstår begrensningene ved delvis automatisering, kan tankene deres fortsatt vandre. Som mennesker er det vanskeligere for oss å være årvåkne når vi ser på og venter på at et problem skal oppstå enn det er når vi kjører selv."

Det er alt for å si at AI - enten selvkjørende eller sykdomsdiagnoserende - er feilbar, akkurat som menneskene som designer den. Visjoner om en Jetsons fremtiden kan være fristende, men når liv står på spill, har historien vist at det er best å være altfor forsiktig.

For AI-dekning, send nyhetstips til Kyle Wiggers - og husk å abonnere på AI Ukentlig nyhetsbrev og bokmerke vår AI-kanal, Maskinen.

Takk for at du leste,

Kyle Wiggers

Senior stabsskribent

Kilde: https://venturebeat.com/2022/01/21/ai-weekly-watson-health-and-semi-autonomous-driving-failures-show-the-dangers-of-overpromising-ai/