Faren med Metas nye superdatamaskin er selskapet bak

I slutten av januar, Meta — Facebooks morselskap — annonsert den jobbet med en superdatamaskin med kunstig intelligens som vil være den raskeste i verden etter at den ble ferdigstilt i sommer. De AI Research SuperCluster, eller RSC, vil hjelpe selskapet med å bygge nye AI-modeller som til slutt kan danne ryggraden i metaversen. 

Kunngjøringen fornyet debatten om etikken i å legge til enda en avansert superdatamaskin til vårt arsenal av raskt voksende storskalateknologier. Reaksjonene på RSC varierte fra «skummelt» til «dystopisk».

Men teknologiutvikling er ikke problemet. I stedet er det menneskene bak – som profittbesatte administrerende direktører med tilgang til mengder av forbrukerdata – som bør bekymre oss.

Bedriftsledere tar i økende grad i bruk AI-teknologi for å gjøre driften mer effektiv, øke produktiviteten, øke innovasjonen og appellere til flere kunder. I en meningsmåling blant bedriftsledere i fjor, mer enn 85% sa at AI er i ferd med å bli en "mainstream-teknologi" i selskapet deres. 

AI er nå en gjennomgripende del av hverdagen vår. Den brukes til å kuratere foreslått innhold på Netflix og Spotify. Det hjelper med å beregne trafikkhastigheten på navigasjonsapplikasjoner. Når du skriver inn et spørsmål i Google, leter AI etter relevant innhold på internett.

Fordi vi nå møter AI på daglig basis, har manglene og de etiske implikasjonene av teknologien i økende grad blitt presset inn i offentligheten.

De beryktede Facebook-varslererapportene i fjor høst utløste kongresshøringer og økt gransking av algoritmene til den sosiale medieplattformen. Interne dokumenter avslørte at Facebook bevisst bruker AI for å presse brukere mot radikalt innhold for å øke brukerengasjementet. Firmaet sier nå det håper å bruke AI for å løse disse problemene.

Det var raseri sent i fjor da Amazons Alexa ba en 10 år gammel jente om å plugge en telefonlader halvveis inn i en stikkontakt og røre en krone til de synlige utstikkerne. Stemmeassistenten angivelig fant utfordringen "på internett."

Etiske hensyn som disse og mer – fra effekten av AIs rasemessige skjevheter til bekymringer om personvern og overvåking – vil få større betydning etter hvert som AI fortsetter å utvikle seg. Og neste generasjon kunstig intelligens dukker opp raskt.

Elon Musks OpenAI og Googles DeepMind hevder å utvikle kunstig generell intelligens – autonom teknologi som kan lære og forstå intellektuelle menneskelige oppgaver. OpenAIs system skrev en overbevisende essay om hvorfor resirkulering er dårlig for verden. Metas superdatamaskin går tydeligvis ned samme vei.

Og så er det kunstig generell intelligens – AI som ikke bare er begrenset til noen få spesifikke evner, men som kan lære en rekke forskjellige oppgaver, omtrent som mennesker kan. (Mitt eget selskap, FutureAI, er i dette området.) Det er absolutt risiko forbundet med AGI-teknologi. Siden AGI kan lære uavhengig av mennesker, vil det en dag langt overgå menneskelig intelligens. Men før vi begynner å bekymre oss for dommedagsscenarier med hærer av Terminator-lignende roboter, må vi huske at mennesker vil være de som programmerer og driver AGI-er.

AI og dens mer generelle fremtidige fetter AGI er målrettede systemer. Det betyr at oppførselen til AGI-er vil være et direkte resultat av målene mennesker gir dem. Hvis vi programmerer AGI-er med menneskelignende mål om rikdom, penger og makt, vil de ha potensielt farlige, menneskelignende feil. 

Det er ikke vanskelig å forestille seg et scenario der dette skjer. Vi har allerede vært vitne til konsekvensene – valginnblanding og andre forsøk på å påvirke opinionen, for eksempel – av at kunstig intelligens faller i gale hender. 

Med stadig mer intelligent teknologi kan ondsinnede aktører mer effektivt skape profitt eller få politisk kontroll. Hvis for eksempel administrerende direktører begynte å eksperimentere med AGI-systemer som kunne tjene penger på forbrukerdata enda mer effektivt, kan vi ha grunn til bekymring. 

Men hvis mennesker trener AGI-systemer til å forfølge mål om utforskning og oppdagelse, vil de være mer godartede. I dette scenariet vil AGI-er avdekke fenomener utenfor menneskelig forståelse.

Selvfølgelig er det umulig å garantere at fremtiden til AGI vil være helt positiv. Det er alltid en mulighet for at hackere kan tilrane seg AGI-systemer. Og siden AGI til slutt vil være i stand til å designe påfølgende generasjoner på egen hånd, vil mennesker ha liten kontroll over det på det tidspunktet, uansett målene mennesker opprinnelig foreskrev for det.

Det er derfor det er vår plikt å lede de første generasjonene av AGI med velvillige mål. Når de begynner å skape sine egne fremtidige generasjoner, vil AGI-er følge de samme godmodige reglene som vi gjorde da de ble opprettet.

Akkurat nå er realiteten at Meta ikke kan stoppes fra å utvikle sin superdatamaskin AI, og selskapet har lagt enorme ressurser bak jakten på metaverset. Men det kan endre seg. Meta bare tapte 200 milliarder dollar av markedsverdien på grunn av et fall i Facebook-brukere. Så ettersom etiske problemer dukker opp med metaverse AI og blir mye publisert, kan vi forvente at Meta også vil bli tøylet av brukerne.

Enda viktigere, det er uten tvil enda flere intelligente AI-systemer som kommer i hælene på Metas superdatamaskin. Selv om vi ikke kan stoppe den umettelige etterspørselen etter avanserte teknologier, kan vi velge hvordan – og hvem – skal programmere de som ennå ikke har kommet.

Charles J. Simon er grunnlegger og administrerende direktør i FutureAI, et DC-basert dypteknologiselskap i tidlig stadium som utvikler kunstig generell intelligens.

Kilde: https://venturebeat.com/2022/02/04/the-danger-of-metas-new-supercomputer-is-the-company-behind-it/