Modifiera konstverk med glasyr för att störa konstgenererande algoritmer

Modifiera konstverk med glasyr för att störa konstgenererande algoritmer

Tidsstämpel: 20 mars 2023 7:00
Källnod: 2021805

Med framväxten av maskingenererad konst har vi också sett en stor diskussion börja om etiken i att använda existerande, mänskligt skapad konst för att träna dessa konstmodeller. Deras försvarare kommer ofta att hävda att originalkonsten inte kan reproduceras av generatorn, men detta motsägs av det faktum att en möjlig fråga till dessa generatorer är att producera konst i en specifik konstnärs stil. Det är här funktionsextraktion kommer in i bilden, och Glasyr verktyg som ett potentiellt obfuskeringsverktyg.

Utvecklad av forskare vid University of Chicago, teorin bakom detta verktyg täcks i deras förtryckspapper. Det väsentliga konceptet är att en konstnär kan välja en "mantelstil" som mål, som används av Glaze för att beräkna specifika störningar som läggs till i originalbilden. Dessa störningar är inte lätta att upptäcka av det mänskliga ögat, men kommer att plockas upp av funktionsextraktionsalgoritmerna för nuvarande maskingenererade konstmodeller.

Som ett resultat, när denna modell sedan uppmanas att skapa konst i stil med den här konstnären som täckte sin konst, kommer resultatet att bli konst i stil med kappan, inte konstnärens. Verktyget är tillgängliga för nedladdning som en betaversion för MacOS och Windows (10+). De FAQ beskriver inte möjligheten till en Linux-version, men påpekar hjälpsamt svaret på frågor som om cloaking är lätt att besegra med hjälp av filter eller skärmdumpar (kort sagt: nej).

Oavsett vad du tycker om huruvida innehållet i träningsdatauppsättningar kräver samtycke från den ursprungliga skaparen, är det svårt att argumentera mot artisters rättigheter att skydda sin stil med hjälp av sådana kappor när de lägger upp innehåll online.

(Tack till [Tina Belmont] för tipset)

Tidsstämpel:

Mer från Hacka en dag