Dne 21. května 2024 schválila po Evropském parlamentu (13. března 2024) i Rada Evropské unie Nařízení o umělé inteligenci, neboli tzv. Akt o AI (AI Act). Jedná se o přelomový právní předpis, který je první svého druhu na světě. Cílem Aktu o AI je omezit rizika spojená s vývojem a praktickým využitím technologií AI a tento vývoj a využití v Evropské unii umožnit. Akt o AI proto zavádí nová a ucelená pravidla pro fungování a regulaci AI technologií. Lze předpokládat, že Akt o AI bude mít vliv na vznik a obsah také dalších právních norem mimo Evropskou unii, včetně jejich harmonizace s úpravu Aktu o AI.
Cíle Aktu o AI
- Bezpečnost a důvěryhodnost AI technologií
- Transparentnost
- Odpovědnost poskytovatelů AI technologií
- Podpora inovací v oblasti AI technologií
Co přináší Akt o AI
-
Systém AI
Nové nařízení upravuje podmínky fungování systémů AI.
Systémem AI se dle nařízení rozumí strojový systém navržený tak, aby fungoval s různými úrovněmi autonomie, který může po zavedení vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí.
-
Klasifikace systémů AI dle rizik
Systémy AI jsou Aktem o AI klasifikovány dle míry rizika do 4 základních úrovní:
- zakázané systémy AI
- vysoce rizikové systémy AI
- systémy AI s omezeným rizikem
- systémy AI s minimálním rizikem
„Rizikem“ je kombinace pravděpodobnosti toho, že dojde k újmě, a závažnosti takové újmy. Cílem úpravy je ochrana proti ohrožením dopadajícím na základní lidská práva a svobody. Takovým rizikem proto může být např. používání umělé inteligence způsobem, který zasahuje do práva na ochranu osobních údajů, ochranu svobody projevu, informací, ochranu soukromí, ochrana spotřebitele či jde proti zákazu diskriminace.
-
Zakázané AI postupy
Zcela zakázány jsou takové postupy, které jsou v rozporu se základními hodnotami EU a vytvářejí z tohoto důvodu „nepřijatelné riziko.“
Mezi takové zakázané AI postupy patří např. systémy AI využívající podprahové nebo klamavé techniky nebo záměrně manipulující lidským chováním, které může těmto osobám způsobit újmu, systémy AI zneužívající zranitelnosti určitých osob (například z důvodu jejich věku či zdravotního postižení), které mohou způsobit újmu těmto osobám, systémy AI využívající nedovolené biometrické sledování.
-
Sankce
Podmínkou uvedení systému AI na trh EU je splnění požadavků a povinností dle Aktu o AI. Pokud systém AI uvedené nesplní, nemůže být na trh EU uveden.
Za porušení pravidel Aktu o AI hrozí poskytovatelům AI vysoké pokuty. Za uvedení zakázaných systémů AI na trh EU hrozí pokuta ve výši až 35 mil EUR nebo 7 % celosvětového ročního obratu (podle toho, která z částek je v daném případě vyšší). Za porušení ostatních povinností pak hrozí pokuta ve výši 15 mil EUR nebo 3 % celosvětového ročního obratu. Za poskytnutí nesprávných, neúplných nebo zavádějících informací hrozí pokuta ve výši 1,5 mil EUR nebo 1 % celosvětového ročního obratu. U malých a středních podniků a start-upů je pokuta nižší.
Výhled do budoucna
Schválení Aktu o AI je významným krokem k nastavení pravidel pro bezpečnější fungování a používání rychle se rozvíjejících AI technologií. Cílem Aktu o AI je zajistit ochranu dotčených subjektů za současného podpoření inovací a rychlého vývoje AI technologií.
Po schválení bude následovat podpis předsedů Evropského parlamentu a Rady Evropské unie. Akt o AI pak vstoupí v účinnost 20 dní od podpisu. Nařízení jako takové se pak stane závazným za dva roky.
Společně s našimi partnery z Artificial Intelligence Centre Hamburg (ARIC) se zájmem očekáváme implementaci AI Actu v praxi a rádi při ní budeme naše klienty provázet.
Zajímají-li Vás průběžné novinky i z jiných právních oblastí, přihlaste se k našemu newsletteru v pravé dolní části stránky.
JUDr. Jiří Janoušek | advokát
jiri.janousek@janousekadvokat.cz
