Den brittiska regeringen har meddelade (ännu) fler tillägg till dess expansiva och kontroversiella plan för att reglera onlineinnehåll - aka Online säkerhetsräkning.
Den säger att det senaste åtgärdspaketet som ska läggas till utkastet är avsett att skydda webbanvändare från anonym trolling.
Lagförslaget har mycket bredare syften som helhet, som omfattar en genomgripande regim för innehållsmoderering som är inriktad på uttryckligen olagligt innehåll men också "lagliga men skadliga" saker – med ett påstående fokuserat på att skydda barn från en rad skador online, från nätmobbning och pro-självmord innehåll för exponering för pornografi.
Kritiker menar samtidigt att lagstiftningen kommer att döda yttrandefriheten och isolera Storbritannien, skapa splinternet Storbritannien, samtidigt som det ökar stora juridiska risker och kostnader för att göra digitala affärer i Storbritannien. (Om du inte råkar vara en del av klubben av "säkerhetsteknik"-företag som erbjuder att sälja tjänster för att hjälpa plattformar med deras efterlevnad förstås.)
De senaste månaderna har två parlamentariska utskott granskat lagförslaget. En efterlyste ett skarpare fokus på olagligt innehåll, medan en annan varnade att regeringens tillvägagångssätt är både och en risk för uttryck på nätet och det är osannolikt att de är tillräckligt robusta för att ta itu med säkerhetsproblem - så det är rimligt att säga att ministrarna är under press att göra ändringar.
Därför fortsätter räkningen att förändra formen eller, ja, växa i omfattning.
Andra nya (väsentliga) tillägg till utkastet inkluderar en krav på att webbplatser med barnförbjudet innehåll använder teknik för åldersverifiering; och en massiv utvidgning av ansvarsordningen, med en bredare lista över kriminellt innehåll läggs till i räkningen.
De senaste ändringarna, som Department of Digital, Culture, Media and Sport (DCMS) säger att endast kommer att gälla de största teknikföretagen, innebär att plattformar kommer att krävas för att förse användare med verktyg för att begränsa hur mycket (potentiellt) skadligt men tekniskt lagligt innehåll de skulle kunna utsättas för.
Kampanjerer om onlinesäkerhet kopplar ofta spridningen av riktade övergrepp som rasistiskt hatretorik eller nätmobbning till kontoanonymitet, även om det är mindre tydligt vilka bevis de drar på – utöver anekdotiska rapporter om att enskilda anonyma konton är kränkande.
Ändå är det lika lätt att hitta exempel på kränkande innehåll som delas ut av namngivna och verifierade konton. Inte minst den skarptungade utrikesministern för digital själv, Nadine Dorries, vars tweets som piska en LBC-journalist nyligen ledde till detta obekväma gotcha ögonblick vid en utfrågning i riksdagen.
Poängen är: Enstaka exempel – hur hög profil det än är – säger inte så mycket om systemproblem.
Samtidigt har en nyligen genomförd dom från Europeiska domstolen för mänskliga rättigheter – som Storbritannien fortfarande är bunden av – bekräftade vikten av anonymitet på nätet som ett medel för "det fria flödet av åsikter, idéer och information", där domstolen tydligt visar en uppfattning om att anonymitet är en nyckelkomponent i yttrandefriheten.
Det är därför mycket tydligt att brittiska lagstiftare måste trampa försiktigt om regeringens påståenden om lagstiftningen som förvandlar Storbritannien till "den säkraste platsen att gå online" – samtidigt som de skyddar yttrandefriheten – inte ska hamna i sönder.
Med tanke på att trolling på internet är ett systemproblem som är särskilt problematiskt på vissa breda, vanliga, annonsfinansierade plattformar, där riktigt vidriga saker kan förstärkas enormt, kan det vara mer lärorikt för lagstiftare att överväga de ekonomiska incitamenten kopplade till vilket innehåll sprids — uttryckt genom "datadrivna" innehållsrankning/surfacing-algoritmer (som Facebooks användning av polariserande "engagemangsbaserad rankning", som ropade upp av whistleblower Frances Haugen).
Men Storbritanniens inställning till att ta itu med trolling online tar en annan väg.
Regeringen fokuserar på att tvinga plattformar att ge användare möjlighet att begränsa sin egen exponering – trots att DCMS också erkänner algoritmernas missbrukande roll för att förstärka skadligt innehåll (dess pressmeddelande påpekar att "mycket" innehåll som uttryckligen är förbjudet i sociala nätverks allmänna villkor "alltför ofta" tillåts vara uppe och "aktivt främjas till människor via algoritmer", och Dorries själv slår ut "skurkliga algoritmer").
Ministrarnas valda lösning för problematisk algoritmisk förstärkning är inte att trycka på för att verkställa Storbritanniens befintliga dataskyddssystem mot folkprofilerande adtech – något som kampanjer för integritet och digitala rättigheter har efterlyst i bokstavligen år – vilket säkert kan begränsa hur påträngande (och potentiellt kränkande) enskilda användare kan riktas mot av datadrivna plattformar.
Snarare vill regeringen att folk ska lämna över mer av sina personuppgifter till dessa (vanligtvis) adtech-plattformsjättar så att de kan skapa nya verktyg för att hjälpa användare att skydda sig själva! (Också relevant: Regeringen är samtidigt se till att minska nivån på inhemskt privatlivsskydd för britter som ett är det "Brexit-möjligheter"... så, eh... 😬)
DCMS säger att de senaste tilläggen till lagförslaget kommer att göra det till ett krav för de största plattformarna (så kallade "kategori ett"-företag) att erbjuda sätt för användare att verifiera sina identiteter och kontrollera vem som kan interagera med dem - till exempel genom att välja ett alternativ för att ta bara emot DM och svar från verifierade konton.
"Det kommer att ligga på plattformarna att bestämma vilka metoder som ska användas för att uppfylla denna identitetsverifieringsplikt men de måste ge användarna möjlighet att välja in eller bort", skriver det i ett pressmeddelande som tillkännager de extra åtgärderna.
Dorries kommenterade i ett uttalande: "Teknikföretag har ett ansvar att stoppa anonyma troll som förorenar deras plattformar.
"Vi har lyssnat på uppmaningar till oss att stärka våra nya onlinesäkerhetslagar och tillkännager nya åtgärder för att lägga större makt i händerna på användarna av sociala medier själva.
"Människor kommer nu att ha mer kontroll över vem som kan kontakta dem och kunna stoppa flodvågen av hat som serveras av oseriösa algoritmer."
Twitter erbjuder redan verifierade användare möjligheten att se ett flöde med svar endast från andra verifierade användare. Men Storbritanniens förslag ser ut att gå längre – vilket kräver att alla större plattformar lägger till eller utökar sådana funktioner, gör dem tillgängliga för alla användare och erbjuder en verifieringsprocess för dem som är villiga att bevisa ett ID i utbyte mot att de kan maximera sin räckvidd .
DCMS sa att lagen i sig inte kommer att föreskriva specifika verifieringsmetoder - snarare kommer tillsynsmyndigheten (Ofcom) att erbjuda "vägledning".
"När det kommer till att verifiera identiteter kan vissa plattformar välja att ge användare möjlighet att verifiera sin profilbild för att säkerställa att den är en sann likhet. Eller de kan använda tvåfaktorsautentisering där en plattform skickar en uppmaning till en användares mobilnummer för att verifiera dem. Alternativt kan verifiering inkludera personer som använder ett statligt utfärdat ID som ett pass för att skapa eller uppdatera ett konto”, föreslår regeringen.
Ofcom, tillsynsorganet som kommer att ansvara för att verkställa lagförslaget om onlinesäkerhet, kommer att ge riktlinjer för hur företag kan uppfylla den nya "användarverifieringsplikten" och de "verifieringsalternativ som företag kan använda", tilläggs det.
"Vid utvecklingen av denna vägledning måste Ofcom säkerställa att de möjliga verifieringsåtgärderna är tillgängliga för sårbara användare och samråda med informationskommissionären, såväl som sårbara vuxna användare och tekniska experter," noterar DCMS också, med en liten nick till det massiva ämnet Integritet.
Digitala rättighetsgrupper kommer åtminstone att andas ett tecken av lättnad över att Storbritannien inte trycker på för ett fullständigt förbud mot anonymitet, som vissa onlinesäkerhetskampanjer har uppmanat till.
När det kommer till det knepiga ämnet trolling online, snarare än att gå efter kränkande tal i sig, bygger Storbritanniens strategi på att sätta potentiella gränser för räckviddsfriheten på vanliga plattformar.
"Att förbjuda anonymitet online helt och hållet skulle negativt påverka de som har positiva onlineupplevelser eller använder den för sin personliga säkerhet, såsom offer för övergrepp i hemmet, aktivister som bor i auktoritära länder eller unga människor som utforskar sin sexualitet", skriver DCMS innan de fortsätter att argumentera för det nya plikt "kommer att ge en bättre balans mellan att stärka och skydda vuxna - särskilt de utsatta - samtidigt som yttrandefriheten skyddas på nätet eftersom det inte kommer att kräva att någon laglig yttrandefrihet tas bort".
"Även om detta inte kommer att förhindra att anonyma troll lägger upp kränkande innehåll i första hand - förutsatt att det är lagligt och inte strider mot plattformens villkor - kommer det att stoppa offren att utsättas för det och ge dem mer kontroll över sin onlineupplevelse", säger det. föreslår också.
Frågade om tankar om regeringens balansgång här, Neil Brown, en internet-, telekom- och teknikjurist på Avkodat lagligt, var inte övertygad om dess överensstämmelse med mänskliga rättigheter.
"Jag är skeptisk till att det här förslaget är förenligt med den grundläggande rätten "att ta emot och förmedla information och idéer utan inblandning av offentlig myndighet", enligt artikel 10 Human Rights Act 1998, säger han till TechCrunch. ”Ingenstans står det att ens rätt att lämna information endast gäller om man har verifierat sin identitet enligt en myndighetsuppdragen standard.
"Även om det skulle vara lagligt för en plattform att välja att implementera ett sådant tillvägagångssätt, tycks tvingande plattformar att implementera dessa åtgärder enligt mig vara av tvivelaktiga laglighet."
Enligt regeringens förslag skulle de som vill maximera sin synlighet/räckvidd online behöva lämna över ett ID eller på annat sätt bevisa sin identitet till stora plattformar - och Brown påpekade också att det skulle kunna skapa ett "tvåskiktssystem" med onlineuttryck som kan (säg) tjäna den extroverta och/eller motbjudande individen, samtidigt som de nedgraderar synligheten för de mer försiktiga/riskvilliga eller på annat sätt sårbara användare som med rätta är försiktiga med själv-ID (och förmodligen mycket mindre benägna att vara troll ändå).
"Även om förslagen inte kräver att alla användare lämnar över mer personlig information till sociala medier, är resultatet att alla som inte vill eller kan verifiera sig själva kommer att bli en andra klassens användare", föreslog han. "Det verkar som om webbplatser kommer att uppmuntras, eller krävas, för att låta användare blockera overifierade personer i massor.
"De som är villiga att sprida galla eller desinformation, eller att trakassera, under sina egna namn kommer sannolikt inte att drabbas, eftersom det extra steget att visa ID sannolikt inte kommer att vara ett hinder för dem."
TechCrunch förstår att regeringens förslag skulle innebära att användare av användargenererade plattformar inom räckvidden som inte använder sitt riktiga namn som sin offentliga kontoidentitet (dvs. för att de föredrar att använda ett smeknamn eller annan moniker) fortfarande skulle kunna dela (juridiska) åsikter utan begränsningar för vem som skulle se deras saker — förutsatt de hade (privat) verifierat sin identitet med den aktuella plattformen.
Brown var lite mer positiv till denna del av att fortsätta tillåta pseudonymiserad offentlig delning.
Men han varnade också för att många människor fortfarande kan vara för försiktiga för att lita på sitt faktiska ID till plattformarnas samlade databaser. (De utflykt av alla möjliga virala anonyma bloggare under årens lopp belyser motiven för att skyddade identiteter läcker ut.)
"Detta är marginellt bättre än en policy för "riktiga namn" - där ditt verifierade namn offentliggörs - men bara marginellt, eftersom du fortfarande behöver lämna över "riktiga" identitetshandlingar till en webbplats", sa Brown och tillade: "Jag misstänker att människor som förblir pseudonyma för sitt eget skydd med rätta kommer att vara försiktiga med skapandet av dessa nya, massiva datamängder, som sannolikt kommer att vara attraktiva för både hackare och oseriösa anställda."
Användarkontroller för innehållsfiltrering
I en andra ny plikt som läggs till i lagförslaget, sa DCMS att det också kommer att kräva kategori ett-plattformar för att förse användare med verktyg som ger dem större kontroll över vad de utsätts för på tjänsten.
"Propositionen kommer redan att tvinga företag inom räckvidden att ta bort olagligt innehåll som bilder av sexuella övergrepp mot barn, främjande av självmord, hatbrott och uppvigling till terrorism. Men det finns en växande lista över giftigt innehåll och beteende på sociala medier som hamnar under tröskeln för ett brott men som ändå orsakar betydande skada”, skriver regeringen.
"Detta inkluderar rasistiska övergrepp, främjande av självskadebeteende och ätstörningar och farlig desinformation mot vaccin. Mycket av detta är redan uttryckligen förbjudet i sociala nätverks villkor men alltför ofta tillåts det att stanna uppe och främjas aktivt till människor via algoritmer.”
"Under en andra ny skyldighet kommer "kategori ett"-företag att göra verktyg tillgängliga för sina vuxna användare att välja om de vill exponeras för något lagligt men skadligt innehåll där det tolereras på en plattform, tillägger DCMS.
"Dessa verktyg kan inkludera nya inställningar och funktioner som hindrar användare från att ta emot rekommendationer om vissa ämnen eller placera känslighetsskärmar över det innehållet."
Dess pressmeddelande ger exemplet med "innehåll om diskussionen om självskadeåtervinning" som något som kan "tolereras på en kategori ett-tjänst men som en viss användare kanske inte vill se".
Brown var mer positiv till denna plan att kräva att stora plattformar erbjuder ett användarkontrollerat innehållsfiltersystem – med den varningen att det skulle behövas genuint vara användarstyrd.
Han tog också upp farhågor om genomförbarheten.
"Jag välkomnar idén med innehållsfiler, så att människor kan ha en viss grad av kontroll över vad de ser när de går in på en webbplats för sociala medier. Detta fungerar dock bara om användare kan välja vad som ska stå på deras egna personliga blockeringslistor. Och jag är osäker på hur det skulle fungera i praktiken, eftersom jag tvivlar på att automatiserad innehållsklassificering är tillräckligt sofistikerad”, sa han till oss.
"När regeringen hänvisar till "vilket som helst lagligt men skadligt innehåll", skulle jag kunna välja att blockera innehåll med en viss politisk inriktning, till exempel, som förklarar en ideologi som jag anser vara skadlig? Eller är det antidemokratiskt (även om det är mitt val att göra det)?
"Kan jag kräva att blockera allt innehåll som var till förmån för covid-19-vaccinationer, om jag anser att det är skadligt? (Det gör jag inte.)
"Vad sägs om kränkande eller kränkande kommentarer från en politiker? Eller kommer det att bli ett mycket mer grundläggande system, som i grunden låter användare välja att blockera nakenhet, svordomar och vad en plattform än bestämmer för att avbilda självskada eller rasism."
"Om det ska överlåtas till plattformar att definiera vad de "vissa ämnena" är - eller, värre, regeringen - kan det vara lättare att uppnå tekniskt. Men jag undrar om leverantörer kommer att ta till överblockering, i ett försök att se till att människor inte ser saker som de har bett om att undertryckas.”
En pågående fråga med att bedöma onlinesäkerhetsförslaget är att stora delar av specifika detaljer helt enkelt inte är klara ännu, med tanke på att regeringen har för avsikt att driva igenom så mycket detaljer via sekundärlagstiftning. Och idag, återigen, noterade den att ytterligare detaljer om de nya uppgifterna kommer att anges i kommande uppförandekoder som fastställts av Ofcom.
Så, utan mycket mer praxisspecifikationer, är det inte riktigt möjligt att korrekt förstå praktiska effekter, såsom hur — bokstavligen — plattformar kan kunna eller försöka implementera dessa mandat. Det vi har kvar är, mestadels, regeringsspinn.
Men om man ser bort från det snurrandet, hur kan plattformar i allmänhet närma sig ett mandat att filtrera "lagligt men skadligt innehåll"-ämnen?
Ett scenario - förutsatt att plattformarna själva får bestämma var de ska dra "skadliga" gränsen - är, som Brown förutspår, att de tar tillfället i akt att erbjuda ett massivt vanilj "överblockerat" foder för dem som väljer att utesluta "skadliga men lagliga" ' innehåll; till stor del för att minska deras juridiska risk och driftskostnader (OBS: automatisering är superbilligt och enkelt om du inte behöver oroa dig för nyanser eller kvalitet; bara blockera något du är inte 100% säker på att det är 100% icke-kontroversiell!).
Men de kan också använda överblockering som en manipulativ taktik – med det yttersta målet att avskräcka människor från att slå på en så massiv nivå av censur och/eller knuffa dem att frivilligt återvända till det icke-filtrerade flödet där plattformens polariserande innehållsalgoritmer ha ett fylligare innehållsspektrum för att fånga ögonglober och öka annonsintäkter... Steg 3: Vinst.
Den kicker är att plattformar skulle ha rimlig förnekelse i detta scenario - eftersom de helt enkelt kan argumentera för att användaren själva valde att se skadliga saker! (Eller åtminstone inte valde bort det eftersom de stängde av filtret eller annars aldrig använde det.) Aka: "Kan inte skylla på AIs regering!"
Eventuella datadrivna algoritmiskt förstärkta skador skulle plötsligt bli av. Och onlineskada skulle bli användarens fel för att inte slå på den tillgängliga högteknologiska känslighetsskärmen för att skydda sig själva. Ansvaret avleds.
Vilket, ärligt talat, låter som den typ av reglering som ligger utanför en adtech-jätte som Facebook glatt kan komma bakom.
Ändå står plattformsjättar inför massor av risker och bördor från hela paketet av förslag som kommer till dem från Dorries & co.
Utrikesministern har också gjorde ingen hemlighet om hur glada hon skulle vara det att låsa in sådana som Mark Zuckerberg och Nick Clegg.
Förutom att det krävs att proaktivt ta bort uttryckligen olagligt innehåll som terrorism och CSAM – under hot om massiva böter och/eller straffrättsligt ansvar för namngivna chefer – utökades lagförslaget nyligen till att kräva proaktiva borttagningar av ett mycket bredare utbud av innehåll, relaterat till online narkotika- och vapenhandel; människosmuggling; hämndporr; bedrägeri; främja självmord; och att hetsa till eller kontrollera prostitution i vinningssyfte.
Så plattformar kommer att behöva söka efter och ta bort allt det där, aktivt och i förväg, snarare än att agera i efterhand på användarrapporter som de har varit vana vid (eller inte agera särskilt mycket, allt efter omständigheterna). Vilket verkligen höjer deras innehållsaffär som vanligt.
DCMS också nyligen meddelat det skulle lägga till nya brottsliga kommunikationsbrott till lagförslaget också - säger att det ville stärka skyddet mot "skadliga onlinebeteenden" såsom tvång och kontrollerande beteende av hushållsmissbrukare; hot om att våldta, döda och utöva fysiskt våld; och medvetet dela farlig desinformation om hoax-covid-19-behandlingar – vilket ytterligare utökar omfattningen av innehåll som plattformar måste vara förberedda och på jakt efter.
Så med tanke på den ständigt växande räckvidden av innehållsskanningsregimen som kommer ner för plattformar – i kombination med teknikjättars ovilja att ordentligt resurser mänskligt innehållsmoderering (eftersom det skulle leda till deras vinster) – kan det faktiskt vara mycket lättare för Zuck & co för att byta till ett enda supervaniljfoder.
Gör kattbilder och babyfoton hela vägen ner - och hoppas att ögongloberna inte rullar iväg och att vinsten inte rinner ut men Ofcom håller sig borta ... eller något.
- &
- Om oss
- tillgång
- Konto
- Agera
- Ad
- Dessutom
- Annat
- adress
- åldersverifiering
- algoritmisk
- algoritmer
- Alla
- redan
- Även
- förstärkande
- Vi presenterar
- anonymitet
- Annan
- tillvägagångssätt
- Artikeln
- Autentisering
- Automatiserad
- Automation
- tillgänglig
- Tillgänglig för alla
- Bebis
- Förbjuda
- innan
- Där vi får lov att vara utan att konstant prestera,
- störst
- Bill
- Blockera
- kropp
- företag
- Censur
- laddning
- barn
- Barn
- hävdar
- klassificering
- klubb
- kommande
- kommentarer
- Trygghet i vårdförloppet
- Företag
- övertygande
- Efterlevnad
- komponent
- innehåll
- innehållsmått
- fortsätter
- kunde
- länder
- Domstol
- Covid-19
- skapa
- Skapa
- brott
- Kriminell
- kultur
- nätmobbning
- datum
- dataskydd
- databaser
- som handlar om
- Efterfrågan
- Trots
- detalj
- utveckla
- olika
- digital
- digitala rättigheter
- desinformation
- dokument
- ner
- drog
- anställda
- speciellt
- Giltigt körkort
- exempel
- utbyta
- Bygga ut
- expanderande
- expansionen
- erfarenhet
- Erfarenheter
- experter
- Ansikte
- verkligt
- Funktioner
- finansiella
- Förnamn
- Fast
- flöda
- Fokus
- fokuserade
- bedrägeri
- Fri
- Frihet
- full
- funktioner
- Målet
- kommer
- Regeringen
- ta
- Väx
- Odling
- hackare
- hatpropaganda
- hjälpa
- här.
- Hög
- Hur ser din drömresa ut
- HTTPS
- stor
- mänskliga rättigheter
- Tanken
- Identitet
- Identitetsverifiering
- Olaglig
- genomföra
- vikt
- innefattar
- individuellt
- informationen
- Internet
- fråga
- IT
- Nyckel
- Large
- senaste
- Lag
- lagstiftare
- Lagar
- läckage
- Led
- Adress
- Lagstiftning
- Nivå
- ansvar
- linje
- LINK
- Lista
- listor
- Vanliga
- större
- Framställning
- markera
- Mark Zuckerberg
- åtgärder
- Media
- desinformation
- Mobil
- månader
- mer
- namn
- Anmärkningar
- erbjudanden
- erbjuda
- nätet
- Åsikter
- Möjlighet
- Alternativet
- Tillbehör
- beställa
- Övriga
- annat
- pass
- Personer
- personlig
- personlig information
- fysisk
- Bild
- Röret
- plattform
- Plattformar
- Massor
- policy
- Porr
- Pornografi
- möjlig
- kraft
- tryck
- Pressmeddelande
- tryck
- privatpolicy
- Problem
- problem
- process
- Profil
- Vinst
- vinster
- främjande
- förslag
- skydda
- skydd
- ge
- allmän
- kvalitet
- fråga
- rasism
- område
- motta
- reducerande
- regulatorer
- frigöra
- lindring
- Rapport
- kräver
- Obligatorisk
- resurs
- Risk
- Rulla
- dom
- Säkerhet
- Nämnda
- scanna
- scanning
- screen
- sekundär
- Gripa
- sälja
- service
- Tjänster
- in
- Dela
- Kort
- signifikant
- Områden
- So
- Social hållbarhet
- sociala medier
- något
- sofistikerade
- Snurra
- Sporter
- spridning
- Ange
- .
- bo
- Strategi
- väsentlig
- Självmord
- Växla
- system
- tech
- TechCrunch
- Teknisk
- Terrorism
- lagen
- hot
- Genom
- i dag
- verktyg
- ämnen
- brännaren
- omvandla
- Litar
- Uk
- Brittiska regeringen
- Uppdatering
- us
- användning
- användare
- vehikel
- Verifiering
- verifierade konton
- utsikt
- synlighet
- Sårbara
- Våg
- webb
- Webbplats
- webbsidor
- Vad
- om
- VEM
- utan
- Arbete
- fungerar
- skulle
- år