Pharmeca.cz

Artificial inteligence (AI) je poslední dva roky tématem, které rychle nabírá na významu. AI je čím dál více vnímána jako silný nástroj, který je třeba dobře zvládnout, aby přinášel užitek a byla minimalizována rizika zneužití nebo chyb.

Pro země EU bylo 12. 7. 2024 zveřejněno nařízení Evropského parlamentu a Rady č. 2024/1689 známé jako AI Act. Nařízení je platné od 1. 8. 2024. Jedná se první systematickou regulaci AI na světě.

Zároveň vznikl úřad pro AI, který má přispívat k podpoře implementace nařízení, vývoji nástrojů a metodik pro hodnocení univerzálních modelů a také mj. vyšetřování porušování pravidle daných nařízením.

Na implementaci nařízení mají členské státy 2 roky, některé části nařízení se však uplatní již dříve. Týká se to zejména zákazů používání AI ve vyjmenovaných oblastech a kodexů pro použití AI.

 Co AI Act zejména upravuje:

• zakazuje používání AI v některých oblastech jako je např. biometrická identifikace fyzických osob na dálku v reálném čase ve veřejně přístupných prostorech, zakazuje diskriminaci na podkladě používání AI systémů či jiné neetické použití AI;
• zavádí klasifikaci systémů AI, vyčlenil vysoce rizikové systémy AI a u nich upravuje pravidla používání a systém řízení rizik.

Z pohledu využívání AI v oblasti zdravotnictví jsou jako rizikové označeny systémy, které slouží k hodnocení nároků fyzických osob na základní dávky a služby veřejné podpory, včetně služeb v oblasti zdravotní péče.

AI Act se také dotkne oblasti zdravotnických prostředků a diagnostických zdravotnických prostředků in vitro jako systémů, které jsou určeny k použití jako bezpečnostní součást výrobku nebo jsou samy výrobkem, na který se vztahuje posouzení shody třetí stranou podle jiných předpisů EU, a které proto spadají do působnosti harmonizačních právních předpisů EU uvedených v příloze nařízení.

Na implementaci nařízení jsou vymezeny dva roky s vyjmenovanými výjimkami. Implementaci je tedy nezbytné věnovat pozornost. I my budeme proces sledovat a i nadále Vás informovat.

Obecnější informace k obsahu a implementaci AI Act najdete zde.

Regiony se s potřebou kontrolovat a regulovat AI vypořádávají odlišně. Zatímco Evropa vydala nařízení o regulaci AI, které v krátké době hodlá v některých částech aplikovat, v Kalifornii (USA) byl pokus o regulaci AI neúspěšný. Guvernér koncem září zákon o bezpečnosti AI vetoval. V Kalifornii sídlí společnosti, které vyvíjejí velké jazykové modely. Odmítnutí zákona o bezpečnosti AI nejspíš souvisí s obavou o rozvoj tohoto průmyslu.

O rozvoji a používání AI se rovněž diskutuje v Číně. Čína má řadu dílčích zákonů, které upravují používání AI v různých odvětvích. Zákon, který by upravoval používání, bezpečnost a ochranu dat v systémech s využitím AI obecně však zatím přijat nebyl, ačkoliv se o potřebě tohoto zákona diskutuje a zákon se připravuje (viz článek).

 

Pokud se o využití AI zajímáte, sledujte v průběhu října také mesic.ai

Obrázek byl vygenerován pomocí OpenAI DALL-E