Vzor - Směrnice o podmínkách používání nástrojů umělé inteligence

3.15.1

Vzor – Směrnice o podmínkách používání nástrojů umělé inteligence

Mgr. Mgr. Radana Burešová

1.1 Účelem této směrnice je stanovení podmínek používání nástrojů umělé inteligence (dále jen "AI") při výkonu práce pro zaměstnavatele.

 NahoruII.
Zahájení/ukončení využívání nástrojů AI

2.1 Nástroje AI lze využívat pouze v případě, že je daný nástroj uveden v příloze I této směrnice, a to výlučně pro účely², které jsou v ní uvedeny.

2.2 Vyvstane-li potřeba užívání nástroje AI, který v příloze I není uveden, nebo nástroje, který v ní uveden je, pro účel, který v této příloze není tomuto nástroji přiřazen, oznámí se tato potřeba ......................... [označení pracovní pozice příslušného pracovníka] (dále jen "manažer nástrojů AI"), a to prostřednictvím formuláře, jehož vzor je obsažen v příloze II této směrnice. Manažer nástrojů AI o schválení daného nástroje/účelu rozhodne bez zbytečného odkladu. V případě schválení tento nástroj, resp. účel doplní do přílohy I a toto její rozšíření oznámí všem dotčeným zaměstnancům prostřednictvím e-mailu. V případě vyřazení nástroje/účelu z přílohy I se postupuje obdobně.

2.3 K využívání u zaměstnavatele jsou vhodné zejména nástroje AI, které:

2.3.1 jsou efektivní ve vztahu ke svému účelu,

2.3.2 splňují požadavky stanovené právními předpisy a interními předpisy zaměstnavatele,

2.3.3 pokud jde o podmínky jejich používání (terms of use), umožňují jejich užívání k zamýšleným účelům, zejména:

• nestanoví, že získané výstupy budou poskytovatelem využity pro další zdokonalování (učení) nástroje, nebo umožňují účinné zamezení tomuto postupu (tzv. opt-out),

• nestanoví, že držitelem práv k získaným výstupům je jiná osoba než zaměstnavatel,

• umožňují migraci nebo export dat z nástroje AI,

• zaručují požadovanou úroveň (dostupnost) služeb (SLA),

• obsahují ustanovení o možnosti využívat daný nástroj pro komerční účely a poskytovat získané výstupy třetím osobám,

2.3.4 jsou dostatečně spolehlivé a bezpečné, a to i z hlediska kybernetické bezpečnosti,

2.3.5 mají důvěryhodného poskytovatele.

 NahoruIII.
Správa nástrojů AI

3.1 Správu nástrojů AI u zaměstnavatele vykonává manažer nástrojů AI³.

3.2 Manažer nástrojů AI:

3.2.1 rozhoduje o schválení/zákazu používání nástrojů AI, a to zejména na základě kritérií uvedených v bodě 2.3,

3.2.2 před schválením použití nástrojů AI posuzuje jejich bezpečnost a důvěryhodnost jejich poskytovatelů,

3.2.3 vede evidenci schválených/zakázaných nástrojů AI a průběžně ji aktualizuje; k tomuto účelu zajistí, aby byl ohledně všech schválených/zakázaných nástrojů AI vyplněn formulář uvedený v příloze II této směrnice (dále jen "karta nástroje AI"),

3.2.4 aktualizuje přílohu I této směrnice a o jejích změnách neprodleně prostřednictvím pracovního e-mailu informuje dotčené zaměstnance zaměstnavatele,

3.2.5 zajišťuje pravidelnou aktualizaci údajů uvedených v kartě nástroje AI; za tímto účelem zejména nejméně 1 x měsíčně ověřuje slučitelnost podmínek používání nástrojů AI s účely, k nimž jsou využívány u zaměstnavatele,

3.2.6 v případě změn podmínek používání nástroje AI, které mohou mít nepříznivý dopad na zaměstnavatele, provede opětovné posouzení používání daného nástroje AI nebo jeho účelu, a popřípadě zakáže jeho další používání; nepříznivý dopad na zaměstnavatele mohou mít zejména ustanovení podmínek používání, která se týkají:

• právní odpovědnosti, licencí,

• možnosti poskytovatele AI využívat získané výstupy k dalšímu zdokonalování nástroje,

• skutečnosti, že držitelem práv k získaným výstupům je jiná osoba než zaměstnavatel, zejména poskytovatel nástroje AI,

• dostupnosti služeb (SLA) a

• možnosti provést migraci/export dat,

3.2.7 zajišťuje soulad využívání nástrojů AI u zaměstnavatele s právními předpisy, zejména s nařízením Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci⁴), podmínkami jejich používání a interními předpisy zaměstnavatele,

3.2.8 v návaznosti na legislativní změny aktualizuje přílohy III a IV této směrnice a o jejich změnách neprodleně prostřednictvím pracovního e-mailu informuje dotčené zaměstnance zaměstnavatele,

3.2.9 zajišťuje plnění požadavků na vysoce rizikové systémy AI, vyplývajících pro zaměstnavatele zejména z kapitoly III oddílu 2 aktu o umělé inteligenci,

3.2.10 navrhuje zaměstnavateli vhodná opatření týkající se používání nástrojů AI, a to včetně změn této směrnice,

3.2.11 vede evidenci zaměstnanců oprávněných používat při práci nástroje AI,

3.2.12 zajišťuje školení zaměstnanců o využívání AI,

3.2.13 zajišťuje seznámení zaměstnanců s touto směrnicí,

3.2.14 přiděluje a eviduje přístupové/přihlašovací údaje k nástrojům AI,

3.2.15 je kontaktní osobou zaměstnavatele pro záležitosti AI, a to jak pro zaměstnance zaměstnavatele, tak pro poskytovatele nástrojů AI.

3.3 Zaměstnanci jsou povinni zajistit, aby přístupové údaje k nástrojům AI, popř. přístup k samotným nástrojům AI nezískaly nepovolané osoby.

 NahoruIV.
Zakázané postupy v oblasti AI a vysoce rizikové systémy AI

4.1 Zakázané postupy v oblasti AI jsou uvedeny v článku 5 aktu o umělé inteligenci. Zakázané postupy v oblasti AI obsažené v tomto ustanovení ke dni 13. června 2024 jsou uvedeny v příloze III této směrnice.

4.2 Uplatňování zakázaných postupů v oblasti AI ve smyslu aktu o umělé inteligenci je nepřípustné.

4.3 Za vysoce rizikové systémy AI se považují systémy AI uvedené v článku 6 a příloze III aktu o umělé inteligenci. Vysoce rizikové systémy AI obsažené ke dni 13. června 2024 v příloze III aktu o umělé inteligenci jsou uvedeny v příloze IV této směrnice.

4.4 Vysoce rizikové systémy AI lze používat pouze za podmínek stanovených příslušnými právními předpisy, zejména aktem o umělé inteligenci. V této souvislosti je rovněž třeba dodržovat vnitřní předpisy zaměstnavatele a pokyny a opatření manažera nástrojů AI.

 NahoruV.
Vstupní údaje

5.1 Při využívání nástrojů AI se zakazuje⁵ používání:

5.1.1 osobních údajů jakýchkoli osob,

5.1.2 dat, která jsou předmětem obchodního tajemství zaměstnavatele,

5.1.3 jiných dat, která je v zájmu zaměstnavatele třeba považovat za důvěrná,

5.1.4 dat, která jsou chráněna v rámci práv třetích osob, zejména dat chráněných právy k duševnímu vlastnictví,

a to zejména jako vstupních dat.

5.2 Zaměstnanci jsou povinni dokumentovat znění zadání (promptů) zadávaných AI následujícím způsobem:

..................................................................................................................

 NahoruVI.
Výstupy

6.1 V rozsahu, v jakém to umožňují podmínky používání nástroje AI a právní předpisy, vykonává veškerá práva k získaným výstupům zaměstnavatel. Zaměstnanci nejsou oprávněni využívat nástroje AI, které jim poskytl nebo zpřístupnil zaměstnavatel, pro soukromé účely.

6.2 Zaměstnanec, který svou činností přispěl k vytvoření výstupu AI, je povinen ověřit jeho správnost, pravdivost, přesnost a spolehlivost. Zaměstnanec je povinen upozornit manažera nástrojů AI na skutečnost, že nástroj AI ne zcela ojediněle vytváří výstupy, které jsou nesprávné, nepravdivé, nepřesné nebo nespolehlivé a že daný nástroj z tohoto nebo jakéhokoli jiného důvodu není způsobilý k plnění svého účelu.

 NahoruVII.
Transparentnost

7.1 Nástroje AI musí být používány transparentním způsobem. Zejména je třeba dotčené zaměstnance, odběratele a partnery informovat⁶ o skutečnosti, že komunikují nebo interagují se systémem AI, nebo že jejich zboží nebo služba byly vytvořeny za přispění nástroje AI, a to následujícím způsobem:

..................................................................................................................

7.2 Odběratelé musí být při objednávce nebo uzavření smlouvy upozorněni na skutečnost, že zboží nebo služba, které mají být dodány nebo poskytnuty, budou realizovány za přispění nástrojů AI a na z toho vyplývající důsledky, spočívající zejména v tom, že jim z tohoto důvodu nelze zaručit výhradní práva ke zboží nebo službě, které jsou zcela jedinečné.

 NahoruVIII.
Vlastní nástroje AI

8.1 Při vyvíjení vlastních nástrojů AI nebo přizpůsobování nástrojů AI vlastním potřebám je třeba postupovat v úzké součinnosti s manažerem nástrojů AI. Zejména je třeba:

8.1.1 manažera správy nástrojů AI s přiměřeným časovým předstihem informovat o záměru vytvořit nebo přizpůsobit nástroj AI,

8.1.2 řídit se pokyny manažera nástrojů AI,

8.1.3 zajistit, aby nově vytvořený/přizpůsobený nástroj AI splňoval požadavky uvedené v bodě 2.3,

8.1.3 zajistit, aby nově vytvořený/přizpůsobený nástroj AI splňoval veškeré požadavky vyplývající z právních předpisů, zejména pokud jde o ochranu osobních údajů, práv k duševnímu vlastnictví, včetně aktu o umělé inteligenci, a byl v souladu s podmínkami používání poskytovatelů systémů, na nichž je daný nástroj založen,

8.1.4 zajistit, aby nebyla ohrožena spolehlivost, bezpečnost, dostupnost a důvěryhodnost zaměstnavatele ani jeho systémů,

8.1.5 před zahájením používání vytvořeného/přizpůsobeného nástroje AI požádat manažera nástrojů AI o jeho schválení podle bodu 2.2,

8.1.6 zajistit, aby veškerá práva k vytvořenému/přizpůsobenému nástroji AI náležela zaměstnavateli.

Přílohy

1. Schválené nástroje AI

2. Žádost o schválení/zákaz používání nástroje AI a o využívání nástrojů AI k dalším účelům

3. Zakázané postupy v oblasti AI

4. Vysoce rizikové systémy AI podle přílohy III aktu o umělé inteligenci

Tato směrnice nabývá účinnosti dne .......... [doplnit]

Za zaměstnavatele:

..................................

[jméno, příjmení, pracovní pozice]

Příloha 1 – Schválené nástroje AI⁷

Příloha 2 – Žádost o schválení/zákaz* používání nástroje AI a o využívání nástrojů AI k dalším účelům

* Nehodící se škrtněte.

Příloha 3 – Zakázané postupy v oblasti AI

a) uvádění na trh, uvádění do provozu nebo používání systémů AI, které využívají podprahových technik mimo vědomí osob nebo záměrně manipulativních či klamavých technik, jejichž cílem nebo důsledkem je podstatné narušení chování osoby nebo skupiny osob tím, že znatelně zhoršují jejich schopnost učinit informované rozhodnutí, což vede k tomu, že přijmou rozhodnutí, které by jinak neučinily, což dotčené osobě, jiné osobě nebo skupině osob způsobuje nebo by s přiměřenou pravděpodobností mohlo způsobit významnou újmu;

b) uvádění na trh, uvádění do provozu nebo používání systémů AI, které využívají zranitelnosti fyzické osoby nebo určité skupiny osob v důsledku jejich věku, zdravotního postižení nebo specifické sociální nebo ekonomické situace a jejichž cílem nebo důsledkem je podstatné narušení chování této osoby nebo osoby náležející k této skupině tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by s přiměřenou pravděpodobností mohlo způsobit významnou újmu;

c) uvádění na trh, uvádění do provozu nebo používání systémů AI pro hodnocení nebo klasifikace fyzických osob nebo skupin osob v určitém časovém úseku na základě jejich sociálního chování nebo známých, odvozených nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede k jednomu nebo oběma následujícím důsledkům:

• ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo skupinami osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny;

• ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo skupinami těchto osob, které je neodůvodněné nebo nepřiměřené jejich sociálnímu chování nebo jeho závažnosti;

d) uvádění na trh, uvádění do provozu pro tento konkrétní účel nebo používání systémů AI pro posuzování rizik fyzických osob s cílem posoudit nebo předvídat riziko, že fyzická osoba spáchá trestný čin, a to výhradně na základě profilování fyzické osoby nebo posouzení jejích osobnostních znaků a vlastností; tento zákaz se nevztahuje na systémy AI používané na podporu lidského posouzení zaměřeného na zapojení osoby do trestné činnosti, které je již založeno na objektivních a ověřitelných skutečnostech přímo souvisejících s trestnou činností;

e) uvádění na trh, uvádění do provozu pro tento konkrétní účel nebo používání systémů AI, které…