Generativní umělá inteligence je právě teď všude v zábavním průmyslu a mnozí v herním průmyslu jsou nadšeni z hledání nových způsobů, jak ji integrovat do svých produktů, s vývojáři her a vydavateli, jako je Ubisoft a Square Enix, držiteli platforem a hardwarovými společnostmi, jako je např. Epic a Nvidia. Tato nová průmyslová posedlost se stále formuje a zůstává nezodpovězeno mnoho otázek o tom, kolik by to mohlo v budoucnu stát, kdo k nim bude mít přístup a k jakému účelu bude ve skutečnosti sloužit, nemluvě o obavách o práci. ztráty a jiné škody. Za tím vším se ale skrývá větší otázka, která hrozí prasknutím vratké bubliny generativní umělé inteligence: Je celý boom založen na ukradené práci?
Vytváření a trénování systémů strojového učení často vyžaduje data – beaucoup dat. Někdy máme štěstí a můžeme si vytvořit vlastní data. Když OpenAI trénovala bota, aby hrál 1v1 Mid zápasy v Dota 2, udělali to procesem zvaným posílení učení, kdy bot hrál proti sobě znovu a znovu, s jedinou zpětnou vazbou, kdo vyhrál a kdo prohrál. Tato zpětná vazba, někdy nazývaná „odměna“, pomáhá systému strojového učení hrát jakousi „horkou a chladnou“ hru a měnit své vnitřní zapojení, aby se pokusil získat lepší odměnu, až příště provede skvrnu. Pokud jste dost staří na to, abyste si pamatovali hru Black & White (nebo, nedej bože, Creatures), pak tyto hry fungovaly na podobném principu. Pokud váš mazlíček udělal dobrou věc, dáte mu pamlsek, a pokud právě hodil několik vesničanů do jezera, napomínáte ho (nebo mu dáte pamlsek, chcete-li).
Někdy si nedokážeme vytvořit vlastní data. Pokud chceme vychovat umělou inteligenci, aby se stala umělcem, nemůžeme to nechat jen čmárat a učit se z výsledků, protože nemůžeme snadno definovat, jaká by měla být zpětná vazba. Ve hře DOTA 1 1v2 Mid, pokud zemřete, je konec hry a podobné cíle jsou pro Chess, Go, Starcraft a mnoho dalších her, které se AI snažila hrát. V umění je definování vítězů a poražených podstatně obtížnější. Potřebujeme tedy najít data, která již existují, uměleckou datovou sadu, která již vypadá jako věci, které bychom chtěli, aby náš systém strojového učení uměl. Ale kde to najdeme? Kde najdeme odpověď na všechny životní problémy: na náhodných webových stránkách.
Je pravděpodobné, že pokud jste slyšeli o systému strojového učení, který generuje umění – Midjourney, Stable Diffusion, DALL-E – byl trénován na milionech nebo miliardách obrázků získaných přímo z internetu. Většina těchto datových sad je nefiltrovaná a jsou shromažďována ze stránek roztroušených po webu, zejména webů se snadno přístupným obsahem, jako je Flickr, Reddit nebo databáze obrázků. Jsou také masivní, s jednou populární datovou sadou, LAION-5b, obsahující více než pět miliardy obrázky. Všechny tyto obrázky jsou shromažďovány automaticky, s velmi malým pokusem o filtrování obsahu. Výsledkem je, že datové sady používané k trénování těchto modelů AI jsou plné obsahu chráněného autorskými právy, nelegálního materiálu a osobních informací. A to vše je zabudováno do ziskových produktů AI, které velká část z nás používá každý den – včetně herních vývojářů, novinářů a samotných hráčů.
To je hlavní důvod, proč uvidíte tolik lidí zveřejňovat online příspěvky o „kradení“ obsahu AI. Jedním z nejznámějších efektů těchto obskurních a právně sporných datových sad je, že můžete požádat AI, aby napodobila styl konkrétního umělce, jako je Greg Rutkowski, který ilustroval hry jako série Anno a karetní hry jako Magic. : Setkání. Rutkowského práce je oblíbená, široce sdílená online a jasně označená jeho jménem, což znamená, že AI uvidí mnoho příkladů své práce, jak kdysi objevil. Ale existuje mnoho dalších příkladů, o kterých možná nikdy neuslyšíte nebo se nedostanou na světlo. Například AI Dungeon – která používala OpenAI GPT-2 ke generování RPG příběhů – vzala a použila tisíce vašich vlastních dobrodružných příběhů z online komunity bez povolení, což vedlo k velkému zklamání ze strany původních autorů (všimněte si, že téměř každé vlákno na ten odkaz je docela fuj, ale stejně je tam pro váš kontext).
Krádež je někdy jednoduchá a někdy komplikovaná. Když zabloudím do souboje s bossem ve Valheimu, na který se moji přátelé připravovali hodiny, a já sesbírám všechnu kořist jako hladová fantazijní Roomba, zjevně to není krádež – je to jen sdílení bohatství. V reálném světě, kde jsou zapojeny soudy a právní systémy, je krádež mnohem šedivější. Hry jsou často kritizovány za to, že „kradou“ věci z jiných her nebo médií – ať už jde o výskyty bytostí v Palworld, tanec ve Fortnite nebo celé hry, jako tomu bylo u Ridiculous Fishing od Vlambeera a Threes od Ashera Volmera. Ne vždy se ale shodneme na tom, co je to krádež, zvláště v soudních síních. Žaloby ohledně Fortnite byly všechny zamítnuty, ale v případě malých nezávislých vývojářů, jejichž práce byla naklonována, neměli prakticky žádný právní postih. Rozhodování o tom, co je krádež, je bohužel často více o moci než o spravedlnosti.
Právě teď probíhá po celém světě několik soudních sporů proti různým modelům umělé inteligence, společnostem a datovým souborům za porušování nejrůznějších zákonů a předpisů. U některých modelů bylo prokázáno, že si zapamatují osobní údaje a později je zveřejní, zatímco jiné byly vyškoleny v oblasti škodlivého obsahu nebo reprodukují díla chráněná autorským právem. Do podrobností těchto systémů se ponořují techničtější právní argumenty – například pouhé školení o materiálu chráněném autorským právem představuje porušení autorských práv. Není jasné, který z těchto argumentů, pokud vůbec nějaký, u soudu obstojí. Společnosti argumentují, že to vše spadá pod princip fair use, že škodlivý obsah je dočasnou chybou v systému, kterou lze později opravit, a že licenční smlouvy pomohou umělcům v budoucnu poskytnout úlevu.
Často ale nemusí nutně jít o to, co je legální. aujourd'hui, ale o tom, jak chceme, aby svět fungoval v budoucnu. Existuje mnoho, mnoho příkladů za minulé století, kdy regulujeme technologie ne proto, že by porušovaly stávající zákony, ale protože umožňují lidem obcházet tyto zákony způsoby, které nikdo jiný nemohl očekávat. Argumenty, které obhajují toto rozsáhlé vykořisťování tvůrčí práce, se však míjí účinkem. To není otázka zákonnosti, ale otázka lidskosti. Má smysl chránit kreativní práci a lidi, kteří na ní tvrdě pracují, protože hraje ve společnosti velmi důležitou roli.
Právě tohoto dlouhodobého poškození se mnozí kreativci a výzkumníci AI obávají nejvíce. Podobně jako nedávné propouštění ve videoherním průmyslu trvá dlouho, než se plně projeví účinky velkých změn v tomto odvětví. Všechny hry, které měly v daném roce vyjít, pravděpodobně vyjdou a spousta z nich bude zábavná a možná vás napadne, zda tato propouštění skutečně něco ovlivnila? Ale může trvat roky, než si všimneme dopadu takového narušení, a desetiletí, než bude zvráceno. Důvodem, proč dnes mohly být tyto generativní systémy umělé inteligence vytvořeny, je to, že na internetu bylo možné pozorovat desítky, ne-li staletí lidské kreativity. Pokud hrají roli v devalvaci nebo destabilizaci pracovních míst, která těmto lidem pomohla vytvořit toto umění, z jaké kultury se budeme učit na konci tohoto století? I když jste zarytým akcelerátorem umělé inteligence, mnozí se obávají, že jsme internet trvale infikovali takovým množstvím obsahu generovaného umělou inteligencí, že může být nemožné přetrénovat systém umělé inteligence na obsahu vytvořeném lidmi.
Náš videoherní průmysl je překvapivě křehký, i když se v některých ohledech zdá, že se v průběhu desetiletí stává stále gigantičtějším. Mnoho z nejskvělejších nápadů v jeho historii, mnoho z nejslavnějších tvůrců nebo nejoblíbenějších her se zrodilo na okraji průmyslu nebo jiných médií, často od lidí ve zranitelné ekonomické situaci. Malé změny, které se v tuto chvíli zdají neškodné, mají často dalekosáhlé účinky – a již existují důkazy, že generativní umělá inteligence ovlivnila kvalitu a kvantitu nezávislé tvůrčí práce. Ať už si myslíte, že generativní umělá inteligence je dobrá nebo špatná, zdá se neuctivé ignorovat obavy a stížnosti lidí, kteří tak tvrdě pracovali za malou odměnu na vytvoření bohaté a krásné komunity, ze které pochází naše minulost. Bez ohledu na to, co říkají soudy, bez ohledu na to, jaké předpisy jsou schváleny, bez ohledu na to, jak tyto společnosti vypadají, když se usadí prach, může již být způsobeno mnoho škod.
