Můžete se s AI dostat do problémů? – ChatGPT nejen z právní roviny

Co je to AI?

Na úvod bych rád stručně objasnil, co to AI vlastně je. Podle samotného ChatGPT je AI jednoduše „zkratka pro umělou inteligenci, což jsou počítačové systémy, které se učí provádět úkoly, které obvykle vyžadují lidskou inteligenci“. Dnes najdeme mnoho různých AI programů . Mezi nejznámější patří chatboti - ti lepší z nich (mezi nimi i ChatGPT) zodpoví téměř jakoukoliv otázku, a dokonce napíšou domácí úkol nebo i složitější esej. Ne vždy má ale AI pravdu, stále se totiž jedná o „pouhý“ generátor textu a může se v mnoha věcech mýlit. Dále se setkáme s AI tvořící grafický obsah podle vašeho textového zadání nebo s umělou inteligencí, která podle nahrávek hlasu poskytnutých uživatelem vytvoří nahrávky úplně nové.

Zejména zde vidím velké riziko spojené s „deep fake“. Dnes již není vůbec těžké narazit na internetu například na Joea Bidena vyprávějícího, jak si užil víkendovou párty, což může být možná úsměvné. Pokud se ale takový nástroj dostává do špatných rukou, má potenciál být velmi efektivním prostředkem pro šíření věrohodných, ale nepravdivých informací. Totéž platí i o textovém chatbotu, který už je využíván k phishingovým útokům. Program totiž dokáže napsat text v mnoha jazycích, a útočník tak může rozesílat emaily odkudkoli ze zahraničí bez sebemenší znalosti jazyka dotčené oběti. Dalším způsobem zneužití může být tvorba škodlivého kódu. AI totiž dokáže vytvářet i funkční počítačové programy.

Kdo vlastní generovaný text?

Odpověď na tuto otázku najdeme velmi lehce, stačí nahlédnout do podmínek užívání OpenAI (společnost stojící za ChatGPT). Zde se dozvíme, že veškerá práva k textům vytvořeným ChatGPT, ale i ke grafickému obsahu vytvořeným DALL-E, náleží vám jako koncovému uživateli.[1] A to jak pro osobní, tak pro komerční účely.[2] OpenAI si totiž dle vlastních slov kladou za cíl zajistit, aby AI prospívala celému lidstvu. Toho dosahují ať už touto otevřenou „politikou“, nebo například tím, že své služby poskytují zcela zdarma.

Důležité je zmínit, že stále zůstáváte vlastníky textů do ChatGPT vložených, OpenAI si však vyhrazuje právo informace v nich využít pro další generování textu. Zjednodušeně řečeno se díky tomuto kroku může program dále rozvíjet, „vzdělávat“, a pokud udělá chybu, můžeme jej opravit a příště si bude správnou informaci „pamatovat“. Proto byste nikdy neměli do AI nahrávat žádná (například osobní) data, ke kterým nechcete, aby měl přístup kdokoli jiný než vy. A také byste neměli vytvářet texty příčící se zákonům, jelikož za jejich tvorbu na vás padá plná odpovědnost.[3]

Využití AI jako disciplinární přestupek

Rovněž vyvstává otázka, zda se studenti, používající ChatGPT a podobné nástroje, proviní proti disciplinárnímu řádu, či ne. Na první pohled by si přece člověk mohl říct, že tomu tak není, protože plagiát je definován jednoznačně jako „úmyslné kopírování cizího textu a jeho vydávání za vlastní“.[4] Přestože jsme výše uvedli, že k výstupu z ChatGPT vlastní veškerá práva ta osoba, jež úkol ChatGPT zadala, nemůžeme jednoduše uzavřít, že by se nejednalo v případě užití textů vytvořených ChatGPT o plagiátorství. Problematika totiž není tak černobílá, jak by se mohlo zdát.

Také proto jsem se sešel s předsedou disciplinární komise Právnické fakulty MU Lukášem Potěšilem, aby mi tuto problematiku lépe osvětlil. Podle jeho názoru nemůžeme veškerá ustanovení v disciplinárním řádu brát čistě z jazykového hlediska a musíme se dívat i na jejich účel. Tímto způsobem tedy musíme využití ChatGPT podřadit pod článek 2, odst. 1, písmeno d) Disciplinárního řádu pro studenty Masarykovy univerzity, kde najdeme ustanovení týkající se práce na zakázku, tzv. „ghostwritingu“, které výslovně říká, že „podváděním při plnění studijních povinností je poskytnutí nebo využití služby spočívající ve vyhotovení práce jinou osobou než studentem předkládajícím tuto práci ke splnění své studijní povinnosti.“[5]

Na druhé straně ale zdůraznil, že bychom neměli ChatGPT a celkově umělou inteligenci chápat jako a priori špatnou věc, protože může být i dobrým pomocníkem – například při zpracování rešerší. Proti tomu však podle něj můžeme argumentovat názorem, že pro studenty je důležité si tuto činnost osvojit a pochopit její celkovou podstatu . A zde se podle něj můžeme zamýšlet, zda nejsou takovéto pohledy lehce zpátečnické, kdy mi tuto situaci vysvětlil dobrou analogií – bude v budoucnu po někom potřeba chtít, aby se učil řídit auto, jestliže se budou řídit sama? Je nutné, aby se studenti tyto činnosti v budoucnu učili, jestliže k tomu budou mít dostatečné nástroje? Tyto a jiné další otázky nejdou jednoduše zodpovědět, a proto je třeba se na věc podívat do hloubky a pochopit, jak AI funguje a nakolik ji můžeme brát jako pomocníka a nakolik jako zneužitelný nástroj.

Problém odhalování

Hlavní zádrhel nastává v okamžiku odhalování. I když dnes již existují programy, které dokáží text vygenerovaný AI odhalit,[6] stále musí dohánět náskok chatbotů text vytvářejících, navíc šance na odhalení není příliš vysoká. Existují totiž i programy, které text „přežvýkají“, slova zamění za synonyma a rázem máme na světě naprosto originální práci nerozpoznatelnou žádným programem.[7]

Stalo se tak například i v Rusku, kde student obhájil diplomovou práci zcela napsanou pomocí ChatGPT. Práci podle svých slov napsal během 23 hodin a univerzitní systém na odhalování plagiátů stanovil, že je práce z 82 % originální.[8]

Revoluce ve školství?

Příchod ChatGPT přinesl řadu otázek v systému školství. Jak jsme již řekli výše, pro vynalézavé studenty je více než jednoduché napsat práci na jakékoli téma v řádu několika minut. Jak se tedy k tomuto problému staví české a zahraniční instituce? Například na školách v americkém New Yorku se na ChatGPT již nedostanete, teda alespoň ze školního serveru ne.[9] Na jiných školách naopak plánují naprosté zbourání zažitých pořádků, třeba zrušení domácích písemných prací a jejich nahrazení ústními zkouškami.[10]

Podle Pavla Hnáta, prorektora Vysoké školy ekonomické v Praze, se mimoškolní písemné úkoly budou nově soustředit zejména na kritické myšlení, analýzu a úsudek, které podle něj AI nedokáže nahradit. Diplomové práce stále zůstanou, školy však budou klást mnohem větší důraz na obhajobu a ústní konzultace nabytých znalostí. S tím souvisí připravovaná novela zákona o vysokých školách, při prokázání podvodu totiž bude možné titul odebrat i po sedmi letech (oproti původním třem ).[11]

Podobný názor jako Pavel Hnát zastává i Lukáš Potěšil. Klade si totiž otázku, jestli je nutné po všech 350 studentech požadovat, aby vytvořili originální a přínosné vědecké dílo. Ne každý student totiž musí mít odborné vědecké ambice a třeba může vynikat naprosto jinými způsoby – těmto studentům by pak více vyhovovala jiná forma, a to například napsání určité klauzury, rozhodnutí nebo podání.

Slovo závěrem

V závěru mohu jen konstatovat, že rozvoj umělé inteligence přináší mnoho výhod, ale také potenciální rizika, zejména v oblasti šíření dezinformací a kybernetických útoků. Z právního hlediska je vlastnictví textů a grafického obsahu generovaného AI přiděleno uživateli, a to jak pro osobní, tak komerční účely. Zejména studenti si ale musí dávat pozor, aby při využívání AI nešli proti vnitřním předpisům svých škol. Dále je důležité, aby byly stanoveny přesné limity a regulace pro využívání umělé inteligence, aby se minimalizovala škodlivá činnost a zajišťovala ochrana soukromí a práv uživatelů. Při regulaci však nemůžeme zacházet do příliš velkých extrémů, a ignorovat tím obrovský potenciál, který umělá inteligence nabízí, a podle mého názoru bychom měli dál pracovat na jejím zlepšení a zařazení do našeho běžného života, abychom ji využili pro dobro celého lidstva.

Úvodní foto: Ilustrační fotografie vytvořená pomocí AI softwaru Canva

[1] OpenAI. Terms of use [online]. OpenAI. 1. 3. 2023. [7. 3. 2023]. https://openai.com/policies/terms-of-use

[2] Schaefer Enrico. Can you use ChatGPT to make money? Traverse Legal. 14. 1. 2023. [7. 3. 2023]. https://www.traverselegal.com/blog/can-you-use-chatgpt/

[3] Bowan Nerushka. Who owns the content created by ChatGPT? Social Media Law Bulletin. 30. 12. 2022. [7. 3. 2023]. https://www.socialmedialawbulletin.com/2022/12/who-owns-the-content-created-by-chatgpt/

[4] Masarykova univerzita. Plagiátorství. Masarykova univerzita – Úřední deska. 2023. [9. 3. 2023]. https://www.muni.cz/o-univerzite/uredni-deska/plagiatorstvi

[5] Masarykova univerzita. Disciplinární řád pro studenty Masarykovy univerzity. Masarykova univerzita – Úřední deska. 2023. [27. 3. 2023]. https://www.muni.cz/o-univerzite/uredni-deska/disciplinarni-rad-pro-studenty

[6] Kirchner Jan Hendrik. New AI classifier for indicating AI-written text. OpenAI. 31. 1. 2023. [27. 3. 2023]. https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text

[7] Příklad takového programu: QuillBot, dostupný z: https://quillbot.com/?utm_medium=paid_search&utm_source=google&utm_campaign=paraphrase_premium&campaign_type=performance_max

[8] ČTK. Diplomka napsaná umělou inteligencí? Žádný problém, v Rusku ji student obhájil. Hospodářské noviny. 15. 3. 2023. [27. 3. 2023]. https://zahranicni.hn.cz/c1-67183710-diplomka-napsana-umelou-inteligenci-zadny-problem-v-rusku-ji-student-obhajil

[9] Karlík Tomáš. Newyorkské školy zasahují proti umělé inteligenci, zakázaly program ChatGPT. ČT24. 9. 1. 2023. [7. 3. 2023]. https://ct24.ceskatelevize.cz/veda/3556377-newyorske-skoly-zasahuji-proti-umele-inteligenci-zakazaly-program-chatgpt

[10] Křižíková, Iveta. Nucená revoluce na univerzitách. Kvůli umělé inteligenci se změní zkoušení, odebrat titul půjde i po 7 letech. lidovky.cz. 15. 2. 2023. [7. 3. 2023]. https://www.lidovky.cz/domov/vysoka-skola-univerzita-chatgpt-boj-obrana-umela-inteligence.A230214_183351_ln_domov_rkj#paywall-locked

[11] Křižíková, Iveta. Nucená revoluce na univerzitách. Kvůli umělé inteligenci se změní zkoušení, odebrat titul půjde i po 7 letech. lidovky.cz. 15. 2. 2023. [7. 3. 2023]. https://www.lidovky.cz/domov/vysoka-skola-univerzita-chatgpt-boj-obrana-umela-inteligence.A230214_183351_ln_domov_rkj#paywall-locked