Det har den britiske regjeringen gjort annonsert (enda) flere tillegg til den ekspansive og kontroversielle planen for å regulere nettinnhold – også kjent som Online sikkerhetsregning.
Den sier at den siste pakken med tiltak som skal legges til utkastet er ment å beskytte nettbrukere mot anonym trolling.
Lovforslaget har langt bredere mål som helhet, og omfatter et omfattende innholdsmodereringsregime rettet mot eksplisitt ulovlig innhold, men også "lovlige, men skadelige" ting - med et påstått fokus på å beskytte barn mot en rekke skader på nettet, fra nettmobbing og pro-selvmord innhold til eksponering for pornografi.
Kritikere sier i mellomtiden at lovgivningen vil drepe ytringsfriheten og isolere Storbritannia, skape splinternettverk i Storbritannia, samtidig som det samler store juridiske risikoer og kostnader ved å drive digital virksomhet i Storbritannia. (Med mindre du tilfeldigvis er en del av klubben av "sikkerhetsteknologiske" firmaer som tilbyr å selge tjenester for å hjelpe plattformer med deres samsvar, selvfølgelig.)
De siste månedene har to stortingskomiteer gransket lovutkastet. En etterlyste et skarpere fokus på ulovlig innhold, mens en annen advarte regjeringens tilnærming er begge deler en risiko for uttrykk på nett og usannsynlig å være robust nok til å håndtere sikkerhetsproblemer - så det er rimelig å si at ministrene er under press for å gjøre revisjoner.
Derfor fortsetter regningen å endre form eller, vel, vokse i omfang.
Andre nylige (vesentlige) tillegg til utkastet inkluderer en krav om at nettsteder med voksent innhold bruker teknologier for aldersbekreftelse; og en massiv utvidelse av ansvarsregimet, med et bredere liste over kriminelt innhold legges til forsiden av regningen.
De siste endringene, som Department of Digital, Culture, Media and Sport (DCMS) sier vil bare gjelde for de største teknologiselskapene, betyr at plattformer vil bli pålagt å gi brukere verktøy for å begrense hvor mye (potensielt) skadelig, men teknisk lovlig innhold de kan bli utsatt for.
Kampanjerer på nettsikkerhet kobler ofte spredningen av målrettet misbruk som rasistiske hatytringer eller nettmobbing til kontoanonymitet, selv om det er mindre klart hvilke bevis de trekker på – utover anekdotiske rapporter om individuelle anonyme kontoer som er fornærmende.
Likevel er det like enkelt å finne eksempler på støtende innhold som blir delt ut av navngitte og verifiserte kontoer. Ikke minst den skarptunge statssekretæren for digital selv, Nadine Dorries, hvis tweets som surrer en LBC-journalist nylig førte til dette vanskelig gotcha øyeblikk på en stortingskomitéhøring.
Poenget er: Enkelteksempler – uansett hvor høye de er – forteller deg egentlig ikke så mye om systemiske problemer.
I mellomtiden, en nylig avgjørelse fra Den europeiske menneskerettighetsdomstolen – som Storbritannia fortsatt er bundet av – bekreftet viktigheten av anonymitet på nettet som et redskap for «den frie flyt av meninger, ideer og informasjon», med retten som tydelig viser et syn på at anonymitet er en nøkkelkomponent i ytringsfriheten.
Det er derfor helt klart at britiske lovgivere må trå forsiktig hvis myndighetenes krav om lovgivningen som forvandler Storbritannia til "det sikreste stedet å gå på nettet" – samtidig som de beskytter ytringsfriheten – ikke skal ende opp i makulering.
Gitt internett-trolling er et systemisk problem som er spesielt problematisk på visse høyrekkevidde, mainstream, annonsefinansierte plattformer, der virkelig sjofele ting kan bli massivt forsterket, kan det være mer lærerikt for lovgivere å vurdere de økonomiske insentivene knyttet til hvilket innhold som spres. – uttrykt gjennom 'datadrevne' innholdsrangerings-/overflatealgoritmer (som Facebooks bruk av polariserende "engasjementsbasert rangering", som ropt opp av varsler Frances Haugen).
Men Storbritannias tilnærming til å takle online trolling tar en annen takt.
Regjeringen fokuserer på å tvinge plattformer til å gi brukere muligheter for å begrense sin egen eksponering – til tross for at DCMS også anerkjenner den misbrukende rollen til algoritmer i å forsterke skadelig innhold (pressemeldingen påpeker at "mye" innhold som er uttrykkelig forbudt i sosiale nettverks vilkår og betingelser får "for ofte" lov til å holde seg oppe og "aktivt promotert til folk via algoritmer"; og Dorries selv slår ut "rogue algoritmer").
Ministrenes valgte løsning for problematisk algoritmisk forsterkning er ikke å presse på for håndhevelse av Storbritannias eksisterende databeskyttelsesregime mot personprofilerende adtech – noe personvern- og digitale rettighetsforkjempere har etterlyst i bokstavelig talt år – som absolutt kan begrense hvor påtrengende (og potensielt krenkende) individuelle brukere kan målrettes av datadrevne plattformer.
Snarere vil regjeringen at folk skal overlevere mer av deres personlige data til disse (vanligvis) adtech-plattformgigantene, slik at de kan lage nye verktøy for å hjelpe brukere med å beskytte seg selv! (Også relevant: Regjeringen er samtidig ser på å redusere nivået av innenlandsk personvern for briter som en er det 'Brexit-muligheter'... så, eh... 😬)
DCMS sier at de siste tilleggene til lovforslaget vil gjøre det et krav for de største plattformene (såkalt «kategori én»-selskaper) å tilby måter for brukere å verifisere identiteten deres og kontrollere hvem som kan samhandle med dem – for eksempel ved å velge et alternativ for å motta kun DM og svar fra bekreftede kontoer.
"Prakten vil ligge på plattformene for å bestemme hvilke metoder som skal brukes for å oppfylle denne identitetsverifiseringsplikten, men de må gi brukerne muligheten til å velge seg inn eller ut," skriver det i en pressemelding som kunngjør de ekstra tiltakene.
Dorries kommenterte i en uttalelse og la til: "Teknologifirmaer har et ansvar for å stoppe anonyme troll som forurenser plattformene deres.
"Vi har lyttet til oppfordringer til oss om å styrke våre nye sikkerhetslover på nett og kunngjør nye tiltak for å legge større makt i hendene på brukerne av sosiale medier selv.
"Folk vil nå ha mer kontroll over hvem som kan kontakte dem og være i stand til å stoppe flodbølgen av hat servert til dem av useriøse algoritmer."
Twitter tilbyr allerede bekreftede brukere muligheten til å se en feed med svar kun fra andre verifiserte brukere. Men Storbritannias forslag ser ut til å gå videre – krever at alle større plattformer legger til eller utvider slike funksjoner, gjør dem tilgjengelige for alle brukere og tilbyr en bekreftelsesprosess for de som er villige til å bevise en ID i bytte for å kunne maksimere rekkevidden. .
DCMS sa at loven i seg selv ikke vil fastsette spesifikke verifiseringsmetoder - snarere vil regulatoren (Ofcom) tilby "veiledning".
"Når det gjelder å verifisere identiteter, kan noen plattformer velge å gi brukerne en mulighet til å bekrefte profilbildet deres for å sikre at det er en ekte likhet. Eller de kan bruke tofaktorautentisering der en plattform sender en forespørsel til en brukers mobilnummer som de kan bekrefte. Alternativt kan verifisering inkludere personer som bruker en offentlig utstedt ID som et pass for å opprette eller oppdatere en konto», foreslår regjeringen.
Ofcom, tilsynsorganet som skal ha ansvaret for å håndheve nettsikkerhetsloven, vil gi veiledning om hvordan selskaper kan oppfylle den nye "brukerverifiseringsplikten" og "verifiseringsalternativene selskaper kan bruke", legger den til.
"Ved å utvikle denne veiledningen må Ofcom sikre at mulige verifiseringstiltak er tilgjengelige for sårbare brukere og rådføre seg med informasjonskommissæren, så vel som sårbare voksne brukere og tekniske eksperter," bemerker DCMS også, med et lite nikk til det massive temaet personvern.
Digitale rettighetsgrupper vil i det minste puste et tegn på lettelse over at Storbritannia ikke presser på for et fullstendig forbud mot anonymitet, slik noen online sikkerhetskampanjer har oppfordret til.
Når det kommer til det vanskelige temaet trolling på nett, i stedet for å gå etter fornærmende tale i seg selv, er Storbritannias strategi avhengig av å sette potensielle grenser for rekkeviddefriheten på vanlige plattformer.
"Å fullstendig forby anonymitet på nettet vil negativt påvirke de som har positive nettopplevelser eller bruker det for deres personlige sikkerhet, for eksempel ofre for vold i hjemmet, aktivister som bor i autoritære land eller unge mennesker som utforsker deres seksualitet," skriver DCMS, før de fortsetter å argumentere for det nye. plikt "vil gi en bedre balanse mellom å styrke og beskytte voksne - spesielt de sårbare - samtidig som ytringsfriheten på nettet ivaretas fordi det ikke vil kreve at noen juridisk ytringsfrihet fjernes".
"Selv om dette ikke vil forhindre anonyme troll fra å legge ut støtende innhold i utgangspunktet - forutsatt at det er lovlig og ikke strider mot plattformens vilkår og betingelser - vil det stoppe ofre fra å bli utsatt for det og gi dem mer kontroll over deres online opplevelse," det foreslår også.
Spurt om tanker om regjeringens balansegang her, Neil Brown, en internett-, telekom- og teknologiadvokat ved Dekodet lovlig, var ikke overbevist om tilnærmingens samsvar med menneskerettighetene.
"Jeg er skeptisk til at dette forslaget er i samsvar med den grunnleggende retten "til å motta og formidle informasjon og ideer uten innblanding fra offentlig myndighet", som nedfelt i Artikkel 10 Human Rights Act 1998," sa han til TechCrunch. «Ingen steder står det at ens rett til å formidle informasjon gjelder bare hvis man har verifisert sin identitet til en myndighetspålagt standard.
"Selv om det ville være lovlig for en plattform å velge å implementere en slik tilnærming, ser det ut til at tvingende plattformer til å implementere disse tiltakene er av tvilsom lovlighet."
I henhold til regjeringens forslag vil de som ønsker å maksimere sin synlighet/rekkevidde på nett måtte overlevere en ID, eller på annen måte bevise identiteten sin til store plattformer – og Brown gjorde også poenget at det kunne skape et "to-lags system" av uttrykk på nettet som kan (for eksempel) tjene det ekstroverte og/eller ubehagelige individet, samtidig som de nedgraderer synligheten til de mer forsiktige/risikovillige eller på annen måte sårbare brukere som er berettiget forsiktige med selv-ID (og sannsynligvis mye mindre sannsynlighet for å være troll uansett).
"Selv om forslagene stopper opp med å kreve at alle brukere skal overlevere mer personlige detaljer til sosiale medier, er resultatet at alle som ikke vil eller ikke kan verifisere seg vil bli en annenrangs bruker," foreslo han. "Det ser ut til at nettsteder vil bli oppmuntret, eller pålagt, å la brukere blokkere ubekreftede personer i massevis.
"De som er villige til å spre galle eller feilinformasjon, eller å trakassere, under sine egne navn, vil neppe bli berørt, siden det ekstra trinnet med å vise ID er usannsynlig å være en barriere for dem."
TechCrunch forstår at regjeringens forslag vil bety at brukere av brukergenererte plattformer som ikke bruker det virkelige navnet sitt som sin offentlig-vendte kontoidentitet (dvs. fordi de foretrekker å bruke et kallenavn eller annen moniker) fortsatt vil kunne dele (juridiske) synspunkter uten begrensninger på hvem som vil se tingene deres — forutsatt de hadde (privat) bekreftet identiteten sin med den aktuelle plattformen.
Brown var litt mer positiv til dette elementet med å fortsette å tillate pseudonymisert offentlig deling.
Men han advarte også om at mange mennesker fortsatt kan være for forsiktige til å stole på deres faktiske ID til plattformenes oppsamlingsdatabaser. (De utflukt av alle slags virale anonyme bloggere gjennom årene fremhever motivasjonene for at skjermede identiteter lekker.)
"Dette er marginalt bedre enn en "ekte navn"-policy - der det bekreftede navnet ditt blir offentliggjort - men bare marginalt, fordi du fortsatt trenger å overlevere "ekte" identitetsdokumenter til et nettsted," sa Brown og la til: "Jeg mistenker at folk som forblir pseudonyme for sin egen beskyttelse, med rette vil være på vakt mot opprettelsen av disse nye, massive datasettene, som sannsynligvis vil være attraktive for både hackere og useriøse ansatte.»
Brukerkontroller for innholdsfiltrering
I en annen ny plikt som legges til lovforslaget, sa DCMS at det også vil kreve kategori én-plattformer for å gi brukere verktøy som gir dem større kontroll over hva de blir utsatt for på tjenesten.
"Lovforslaget vil allerede tvinge selskaper innenfor rammen til å fjerne ulovlig innhold som bilder av seksuelt misbruk av barn, promotering av selvmord, hatforbrytelser og oppfordring til terrorisme. Men det er en økende liste over giftig innhold og atferd på sosiale medier som faller under terskelen for en straffbar handling, men som fortsatt forårsaker betydelig skade», skriver regjeringen.
"Dette inkluderer rasistiske overgrep, fremme av selvskading og spiseforstyrrelser, og farlig anti-vaksine-desinformasjon. Mye av dette er allerede uttrykkelig forbudt i sosiale nettverks vilkår og betingelser, men altfor ofte er det lov å holde seg oppe og promoteres aktivt til folk via algoritmer.»
"Under en annen ny plikt, vil 'kategori én'-selskaper måtte gjøre verktøy tilgjengelig for voksne brukere for å velge om de vil bli eksponert for lovlig, men skadelig innhold der det tolereres på en plattform," legger DCMS til.
"Disse verktøyene kan inkludere nye innstillinger og funksjoner som hindrer brukere i å motta anbefalinger om bestemte emner eller plassere følsomhetsskjermer over det innholdet."
Pressemeldingen gir eksemplet på "innhold om diskusjonen om selvskadegjenoppretting" som noe som kan "tolereres på en kategori én-tjeneste, men som en bestemt bruker kanskje ikke vil se".
Brown var mer positiv til denne planen om å kreve at store plattformer tilbyr et brukerkontrollert innholdsfiltersystem - med forbehold om at det ville trenge å genuint være brukerstyrt.
Han reiste også bekymringer om gjennomførbarhet.
«Jeg hilser ideen med innholdsfiler-systemet velkommen, slik at folk kan ha en viss grad av kontroll over hva de ser når de går inn på et nettsted for sosiale medier. Dette fungerer imidlertid bare hvis brukere kan velge hva som skal stå på deres egne personlige blokkeringslister. Og jeg er usikker på hvordan det ville fungere i praksis, siden jeg tviler på at automatisert innholdsklassifisering er tilstrekkelig sofistikert, sa han til oss.
«Når myndighetene refererer til «ethvert lovlig, men skadelig innhold», kan jeg velge å blokkere innhold med en spesiell politisk tilbøyelighet, for eksempel som forklarer en ideologi som jeg anser som skadelig? Eller er det antidemokratisk (selv om det er mitt valg å gjøre det)?
"Kan jeg kreve å blokkere alt innhold som var til fordel for covid-19-vaksinasjoner, hvis jeg anser det for å være skadelig? (Jeg gjør ikke.)
«Hva med krenkende eller krenkende kommentarer fra en politiker? Eller kommer det til å være et langt mer grunnleggende system, som i hovedsak lar brukere velge å blokkere nakenhet, banning og hva enn en plattform bestemmer for å skildre selvskading eller rasisme."
"Hvis det skal overlates til plattformer å definere hva de "visse temaene" er - eller, enda verre, regjeringen - kan det være lettere å oppnå teknisk. Jeg lurer imidlertid på om tilbydere vil ty til overblokkering, i et forsøk på å sikre at folk ikke ser ting de har bedt om å bli undertrykt.»
Et pågående problem med å vurdere Online Safety Bill er at store deler av spesifikke detaljer ganske enkelt ikke er klare ennå, gitt regjeringen har til hensikt å presse så mye detaljer gjennom sekundærlovgivningen. Og igjen i dag bemerket den at ytterligere detaljer om de nye pliktene vil bli beskrevet i kommende retningslinjer for praksis fastsatt av Ofcom.
Så, uten langt mer praksisspesifikasjoner, er det egentlig ikke mulig å forstå praktiske konsekvenser, for eksempel hvordan – bokstavelig talt – plattformer kan være i stand til eller prøve å implementere disse mandatene. Det vi sitter igjen med er for det meste regjeringsspinn.
Men hvis du ikke kommer fra det spinnet, hvordan kan plattformer generelt nærme seg et mandat til å filtrere "lovlig, men skadelig innhold"-emner?
Et scenario – forutsatt at plattformene selv får bestemme hvor de skal trekke 'skadegrensen' – er, som Brown forutsier, at de griper muligheten til å tilby en massivt vanilje 'overblokkert' feed for de som velger å ekskludere 'skadelige, men lovlige'. ' innhold; i stor grad for å redusere deres juridiske risiko og driftskostnader (NB: automatisering er superbillig og enkelt hvis du ikke trenger å bekymre deg for nyanser eller kvalitet; bare blokker hva som helst du er ikke 100 % sikker på at det er 100 % ikke-kontroversielt!).
Men de kan også bruke overblokkering som en manipulerende taktikk - med det endelige målet å motvirke folk fra å slå på et så massivt nivå av sensur, og/eller presse dem til å gå tilbake, frivillig, til den ikke-filtrerte feeden der plattformens polariserende innholdsalgoritmer ha et fyldigere innholdsspekter for å fange øynene og øke annonseinntektene... Trinn 3: Fortjeneste.
Utgangspunktet er at plattformer ville ha plausibel benektelse i dette scenariet - siden de ganske enkelt kan argumentere for at brukeren selv valgte å se skadelige ting! (Eller valgte i det minste ikke bort siden de slo av filteret eller aldri brukte det.) Aka: "Kan ikke skylde på AIs-regjeringen!"
Eventuelle datadrevne algoritmisk forsterkede skader ville plutselig være ute av kroken. Og skade på nettet ville bli brukerens feil for ikke å skru på den tilgjengelige høyteknologiske følsomhetsskjermen for å skjerme seg selv. Ansvaret avledet.
Noe som, ærlig talt, høres ut som den type regulering som ligger utenfor en adtech-gigant som Facebook med glede kan komme bak.
Fortsatt står plattformgigantene overfor mye risiko og byrder fra hele pakken med forslag som kommer til dem fra Dorries & co.
Det har også statssekretæren gjorde ingen hemmelighet av hvor munter hun ville være å låse inne slike som Mark Zuckerberg og Nick Clegg.
I tillegg til å være pålagt å proaktivt fjerne eksplisitt ulovlig innhold som terrorisme og CSAM – under trussel om massive bøter og/eller straffeansvar for navngitte ledere – ble lovforslaget nylig utvidet til å gi mandat til proaktiv fjerning av et mye bredere spekter av innhold, relatert til online handel med narkotika og våpen; menneskesmugling; hevnporno; bedrageri; fremme selvmord; og oppfordre til eller kontrollere prostitusjon for vinnings skyld.
Så plattformer må skanne etter og fjerne alt dette, aktivt og på forhånd, i stedet for å handle i etterkant på brukerrapporter slik de har vært vant til (eller ikke handle så mye, alt ettersom). Noe som virkelig øker innholdsvirksomheten deres som vanlig.
DCMS også nylig annonsert det vil legge til nye kriminelle kommunikasjonslovbrudd til lovforslaget også - og sa at det ønsket å styrke beskyttelsen mot "skadelig atferd på nettet" som tvangs- og kontrollerende atferd fra overgripere i hjemmet; trusler om å voldta, drepe og påføre fysisk vold; og bevisst dele farlig desinformasjon om hoax COVID-19-behandlinger – ytterligere utvide omfanget av innhold som plattformer må være klargjort og på utkikk etter.
Så gitt det stadig voksende omfanget av innholdsskanningsregimet som kommer nedover for plattformer – kombinert med teknologigiganters manglende vilje til riktig ressursinnhold til moderering av menneskelig innhold (siden det ville brenne fortjenesten deres) – kan det faktisk være mye enklere for Zuck & co for å bytte til en enkelt supervaniljefôr.
Lag kattebilder og babybilder helt ned - og håper øyeeplene ikke ruller bort og at overskuddet ikke renner ut, men Ofcom holder seg unna ... eller noe.
- &
- Om oss
- adgang
- Logg inn
- Handling
- Ad
- tillegg
- Ytterligere
- adresse
- aldersbekreftelse
- algoritmisk
- algoritmer
- Alle
- allerede
- Selv
- forsterkende
- Kunngjøring
- anonymitet
- En annen
- tilnærming
- Artikkel
- Autentisering
- Automatisert
- Automatisering
- tilgjengelig
- Tilgjengelig for alle
- Baby
- Ban
- før du
- være
- Biggest
- Bill
- Blokker
- kroppen
- virksomhet
- Sensur
- kostnad
- barn
- Barn
- krav
- klassifisering
- klubb
- kommer
- kommentarer
- kommunikasjon
- Selskaper
- overbevisende
- samsvar
- komponent
- innhold
- innholdsmoderasjon
- fortsetter
- kunne
- land
- Court
- Covid-19
- skape
- Opprette
- forbrytelser
- Criminal
- Kultur
- Nettmobbing
- dato
- databeskyttelse
- databaser
- håndtering
- Etterspørsel
- Til tross for
- detalj
- utvikle
- forskjellig
- digitalt
- digitale rettigheter
- desinformasjon
- dokumenter
- ned
- medikament
- ansatte
- spesielt
- europeisk
- eksempel
- utveksling
- Expand
- ekspanderende
- utvidelse
- erfaring
- Erfaringer
- eksperter
- Face
- rettferdig
- Egenskaper
- finansiell
- Først
- Fix
- flyten
- Fokus
- fokuserte
- svindel
- Gratis
- Frihet
- fullt
- funksjoner
- mål
- skal
- Regjeringen
- grip
- Grow
- Økende
- hackere
- hatmeldinger
- hjelpe
- her.
- Høy
- Hvordan
- HTTPS
- stort
- menneskerettigheter
- Tanken
- Identitet
- Identity Verification
- ulovlig
- iverksette
- betydning
- inkludere
- individuelt
- informasjon
- Internet
- utstedelse
- IT
- nøkkel
- stor
- siste
- Law
- lovgivere
- Lover
- lekke
- Led
- Lovlig
- Lovgivning
- Nivå
- ansvar
- linje
- LINK
- Liste
- lister
- Mainstream
- større
- Making
- merke
- Mark Zuckerberg
- målinger
- Media
- feil~~POS=TRUNC
- Mobil
- måneder
- mer
- navn
- Merknader
- tilby
- tilby
- på nett
- Meninger
- Opportunity
- Alternativ
- alternativer
- rekkefølge
- Annen
- ellers
- pass
- porsjoner
- personlig
- personlig informasjon
- fysisk
- bilde
- rør
- plattform
- Plattformer
- Plenty
- politikk
- Porno
- Pornografi
- mulig
- makt
- trykk
- Pressemelding
- press
- privatliv
- Problem
- problemer
- prosess
- Profil
- Profit
- fortjeneste
- forfremmelse
- forslag
- beskytte
- beskyttelse
- gi
- offentlig
- kvalitet
- spørsmål
- rasisme
- område
- motta
- redusere
- regulatorer
- slipp
- lindring
- Rapporter
- krever
- påkrevd
- ressurs
- Risiko
- Rull
- kjennelse
- Sikkerhet
- Sa
- skanne
- skanning
- Skjerm
- sekundær
- Gripe
- selger
- tjeneste
- Tjenester
- sett
- Del
- Kort
- signifikant
- Nettsteder
- So
- selskap
- sosiale medier
- noe
- sofistikert
- Snurre rundt
- Sport
- spre
- Tilstand
- Uttalelse
- opphold
- Strategi
- betydelig
- Suicide
- Bytte om
- system
- tech
- TechCrunch
- Teknisk
- Terrorisme
- loven
- trusler
- Gjennom
- i dag
- verktøy
- temaer
- lommelykt
- transformere
- Stol
- Uk
- Britisk regjering
- Oppdater
- us
- bruke
- Brukere
- kjøretøy
- Verifisering
- verifiserte kontoer
- Se
- synlighet
- Sårbar
- Wave
- web
- Nettsted
- nettsteder
- Hva
- om
- HVEM
- uten
- Arbeid
- virker
- ville
- år