ICPMS
Další informace
WebinářeO násKontaktujte násPodmínky užití
LabRulez s.r.o. Všechna práva vyhrazena. Obsah dostupný pod licencí CC BY-SA 4.0 Uveďte původ-Zachovejte licenci.
Autor
Vědavýzkum.cz
Cílem portálu Vědavýzkum.cz je uveřejňovat relevantní, přehledné a aktuální informace o výzkumu, vývoji a inovacích a navazujících oblastech (ochrana duševního vlastnictví, transfer technologií a znalostí, komercializace, spolupráce s aplikační sférou atd.) pro nejširší cílovou skupinu.
Tagy
Článek
Různé
Logo of LinkedIn

Akt o umělé inteligenci: dohoda přinesla odstupňovaný systém regulací a smíšené reakce

Pá, 19.1.2024
| Originální článek z: Vědavýzkum.cz/JM
Akt o AI. Komplexní právní rámec pro regulaci systémů AI v celé EU. Soubor pravidel pro řízení rizik, která mohou být potenciálně spojována s umělou inteligencí.
- **Foto:** Vědavýzkum.cz: Akt o umělé inteligenci: dohoda přinesla odstupňovaný systém regulací a smíšené reakce
  • Foto: Vědavýzkum.cz: Akt o umělé inteligenci: dohoda přinesla odstupňovaný systém regulací a smíšené reakce

8. prosince 2023 – po několikaměsíčních intenzivních jednáních – došlo v rámci trialogu mezi poslanci Evropského parlamentu, členskými státy a Komisí k dohodě o souboru pravidel pro řízení rizik, jež mohou být potenciálně spojovány s umělou inteligencí. Již dříve vstoupilo ve známost jako Akt o AI. Rodí se tak komplexní právní rámec pro regulaci systémů AI v celé EU.

Tvrzení, že umělá inteligence má v oblasti vědy a výzkumu stále vlivnější místo, je nepopiratelné. Časopis Nature Journal také ChatGPT zařadil (viz článek na našem portálu) do svého tradičního žebříčku top 10 osobností, jež za rok 2023 zásadně formovaly oblast vědy a výzkumu, navzdory faktu, že se nejedná o živého člověka.

Kromě nesporných benefitů jsou s AI spojována i rizika. V této souvislosti proběhlo během června minulého roku v Evropském parlamentu jednání o schválení Aktu o AI, jenž schválilo 499 poslanců. Celkem 28 poslanců se vyjádřilo proti, dalších 93 poslanců se při jednání o konečné podobě zákona zdrželo hlasování. Následovala diskuse se zeměmi EU v Radě o konečné podobě zákona.

Téma regulace AI se však v evropském kontextu datuje už od jara 2021, kdy Evropská komise vypustila první podobu návrhu. Zmíněný trialog tak po tříletém řešení přinesl kompromis a řešení určitých přetrvávajících sporů, jež jsou však také spojené s neustálým vývojem umělé inteligence.

Komplikovaný systém odstupňovaných kategorií podle rizika a nově vzniklé instituce

V rámci nové legislativy tak systémy umělé inteligence budou podléhat diferenciaci podle kategorií určujících jejich riziko. S takřka nulovým ohrožením je spojena kategorie s „nízkým či minimálním rizikem“. Do té podle Komise spadá například blokátor e-mailového spamu.

K systémům na úrovni „s potenciálním rizikem“ se pak váže nutnost uživatele dostatečně informovat o tom, že obsah je generovaný umělou inteligencí. To platí i u komunikace s chatboty. Uživatelé si musejí být vědomi, že komunikují se strojem. V závislosti na tomto upozornění se pak mohou rozhodnout, zda chtějí dále pokračovat, či ustoupit.

V kategorii s případným „vyšším rizikem“ – navzdory francouzskému a německému lobbingu – jsou zařazeny vysoce výkonní a populární chatboti a formy AI, jež v legislativě spadají pod označení GPAI (general-purporse AI). Konkrétně pak do této skupiny patří známý ChatGPT, Microsoft Bing či dále například Google Bard.

Pro modely GPAI s vysokým dopadem a systémovým rizikem se europoslancům podařilo zajistit přísnější povinnosti, jež se odrážejí v regulaci. Tyto systémy firem budou muset splnit určitá kritéria, která jsou spojena s dodatečným testováním zaměřujícím se na potenciálně nebezpečné možnosti modulů. Dále bude například povinné podávat zprávy o závažných bezpečnostních incidentech. Nově ustanovená Rada pro umělou inteligenci, složená ze zástupců členských států EU, v tomto směru postupně aktualizuje kritéria pro to, co se považuje za systémové riziko, aby se udržel krok s rychle se vyvíjející oblastí umělé inteligence.

Nově zřízenou institucí a v problematice AI zásadní – působící v rámci Komise – je také Úřad pro umělou inteligenci (AI Office). Tento úřad bude dohlížet na nejpokročilejší modely umělé inteligence, přispívat k podpoře nových norem a testovacích postupů a prosazovat společná pravidla ve všech členských státech EU. Poradenskou funkci pak Úřadu pro umělou inteligenci bude plnit rovněž nově ustanovený vědecký panel nezávislých odborníků.

Poslední kategorií v tomto odstupňovaném systému pak jsou aplikace spojené s „neakceptovatelným rizikem“. Jak už název napovídá, jedná se o přímo zakázané systémy, které souvisejí například s identifikací emocí na pracovišti nebo ve vzdělávacích institucích či dále biometrické kategorizační systémy, které třídí lidi na základě „citlivých“ rysů, jako je rasa nebo sexuální orientace, a v neposlední řadě i sociální skóring obyvatelstva.

Co na to technologické firmy?

Část firem z digitálního spektra nový systém odstupňovaný dle rizika ocenila. „Vítáme regulaci aplikací na základě rizika. Oceňujeme také regulaci základních modelů, které dominují trhu, což umožní malým a středním digitálním podnikům inovovat a konkurovat na spravedlivějším základě,“ uvedl Oliver Grün, prezident Evropské aliance pro digitální malé a střední podniky (European Digital SME Alliance) pro Science Business.

Jako případná překážka se však jeví nejasné vymezení kategorií a dalších pojmů – s tím souvisí skutečnost, že úplné znění dohody doposud nebylo oficiálně zveřejněno.

„Stále není zcela jasné, které systémy budou patřit do kategorie s vyšším rizikem,“ vyjádřila se k doposud nevymezeným hranicím Victoria de Posson pro Science Business, generální tajemnice European Tech Alliance – lobbistické skupiny pro zavedené evropské technologické firmy.

Obavy jsou pak dále spojené i s otázkou, zda se evropský trh stane v souvislosti s regulacemi a nařízeními méně atraktivním – to je pak spojováno zejména s kategorií systémů „s vyšší mírou rizika“. Vzniknou pak také nové nároky pro evropské technologické firmy v právní oblasti, a spoustu prostředků tak bude muset být vynaloženo na právní odborníky.

Celý odstupňovaný systém se však podle zmíněné legislativy nebude vztahovat na ty systémy umělé inteligence, „které se používají výhradně pro vojenské nebo obranné účely“ a na ty „systémy AI, používané výhradně pro účely výzkumu a inovací“.

Budoucí vyhlídky a následný vývoj

Zkraje nového roku 2024 jsou tak s Aktem o umělé inteligenci spojovány zejména přípravy finálního dokumentu, jenž vznikne ze zmíněného trialogu. Po následném oficiálním odsouhlasení dohody všech stran bude následovat dvouletá lhůta, v rámci které se trh bude moci řádně připravit. V rámci tohoto období budou členské státy nuceny ke kooperaci a společné práci spojené s vytvořením účinné struktury dohledu a zveřejňováním pokynů k provádění Aktu o AI.

Zmíněný Akt rovněž obsahuje ustanovení pro vnitrostátní orgány. Po nich se vyžaduje, aby vytvořily regulační „testovací půdu“, která evropským společnostem umožní testovat systémy umělé inteligence v reálných podmínkách před jejich uvedením na trh.

Podle Davida Marti ze švýcarského think tanku Pour Demain „má toto opatření pozitivní vliv zejména na malé a střední podniky, neboť tak dojde ke snížení regulační zátěže“.

Zákazy obsažené v nařízení se však začnou uplatňovat již po šesti měsících a povinnosti pro modely GPAI začnou platit po roce.

Atmosféra nejistoty a tučná pokuta pro hříšníky

Popsanou situaci na evropské úrovni však obestírá atmosféra nejistoty a nervozity. EU se s Aktem o AI snaží docílit toho, aby systémy umělé inteligence v EU byly „bezpečné, transparentní, sledovatelné, nediskriminační a šetrné k životnímu prostředí“. V tomto směru tak bude nová legislativa nepochybně srovnávána a poměřována s přístupy přijatými v jiných předních zemích v oblasti umělé inteligence, jako jsou Spojené království a Spojené státy. Pokud však konkurence EU z nároků sleví, a ty tak budou oproti například dominantním Spojeným státům mnohem finančně náročnější, atraktivita evropského trhu se výrazně sníží.

Dodržování pravidel pak bude zajišťováno především prostřednictvím vnitrostátních orgánů dozoru na úrovni jednotlivých členských států. Mimoto se touto problematikou bude blíže zabývat i právě zmíněný nový orgán Komise Úřad pro umělou inteligenci.

Pokuta za případné nedodržení zákona se bude stanovovat na základě typu systému umělé inteligence, závažnosti porušení a také velikosti společnosti. Například za poskytnutí nesprávných informací se penále bude pohybovat v rozmezí 7,5 milionu až 15 milionů eur nebo 1,5 procenta až 3 procenta celkového celosvětového ročního obratu společnosti v závislosti na tom, která z těchto částek bude vyšší. Za porušení v případě využívání zakázaných aplikací AI je pak pokuta stanovena až na „úctyhodných“ 35 milionů eur nebo 7 % celkového celosvětového ročního obratu společnosti, přičemž opět bude přihlédnuto k vyšší částce.

Vědavýzkum.cz
 

Mohlo by Vás zajímat

FTIR Series and Infrared/Raman Microscope Accessories

Brožury a specifikace
| 2024 | Shimadzu
Instrumentace
FTIR Spektroskopie, RAMAN Spektrometrie, Mikroskopie
Výrobce
Shimadzu
Zaměření
Ostatní

Improving Battery Production Yield, Performance, and Stability Using FTIR

Aplikace
| 2024 | Agilent Technologies
Instrumentace
FTIR Spektroskopie
Výrobce
Agilent Technologies
Zaměření
Průmysl a chemie, Materiálová analýza

For TOC Analyzers Shimadzu 40 mL Vial LE

Ostatní
| 2024 | Shimadzu
Instrumentace
TOC, Spotřební materiál
Výrobce
Shimadzu
Zaměření
Ostatní

Transmission Measurements of Solid Samples at Variable Angles of Incidence by UV-Vis

Aplikace
| 2024 | Agilent Technologies
Instrumentace
UV–VIS Spektrofotometrie
Výrobce
Agilent Technologies
Zaměření
Materiálová analýza

Utilizing hyphenated EC-Raman to study a model system

Aplikace
| 2024 | Metrohm
Instrumentace
RAMAN Spektrometrie
Výrobce
Metrohm
Zaměření
Průmysl a chemie
 

Podobné články


Článek | Osobnosti

Martin Fusek: Weizmannův institut se chtěl na naší letní škole podílet

O Prague summer school 2024 s Martinem Fuskem v rozhovoru. Jak vznikla myšlenka pořádat společnou letní školu s Weizmannovým institutem? O čem je letní škola a komu je určena?
Vědavýzkum.cz
more

Video | Osobnosti

Podcast CHEmic #27 – Je třeba změnit výuku chemie i učebnice, myslí si Adam Jaroš z ÚOCHB

Adam Jaroš z ÚOCHB zkouší měnit zaběhnuté přístupy středoškolské chemie, odmítá dělení chemie na organickou a anorganickou.
Ústav organické chemie a biochemie AV ČR
more

Článek | Video

Virus napadající kokolitku – mořskou řasu, která ovlivňuje celosvětové klima

Výzkumný tým z CEITEC MUNI popsal strukturu viru EhV-201 i jeho životní cyklus přímo uvnitř buněk řas Emiliania huxleyi díky špičkovým mikroskopům ze sdílených laboratoří.
CEITEC
more

Článek | Nejbližší akce

LABOREXPO & PROCESEXPO 2024 (doprovodný odborný program)

Hlavní částí doprovodného programu veletrhu bude dvoudenní program odborných a produktových prezentací, které představí konkrétní aplikace, novinky a trendy v laboratorní a analytické technice.
LabRulez
more
 

Mohlo by Vás zajímat

FTIR Series and Infrared/Raman Microscope Accessories

Brožury a specifikace
| 2024 | Shimadzu
Instrumentace
FTIR Spektroskopie, RAMAN Spektrometrie, Mikroskopie
Výrobce
Shimadzu
Zaměření
Ostatní

Improving Battery Production Yield, Performance, and Stability Using FTIR

Aplikace
| 2024 | Agilent Technologies
Instrumentace
FTIR Spektroskopie
Výrobce
Agilent Technologies
Zaměření
Průmysl a chemie, Materiálová analýza

For TOC Analyzers Shimadzu 40 mL Vial LE

Ostatní
| 2024 | Shimadzu
Instrumentace
TOC, Spotřební materiál
Výrobce
Shimadzu
Zaměření
Ostatní

Transmission Measurements of Solid Samples at Variable Angles of Incidence by UV-Vis

Aplikace
| 2024 | Agilent Technologies
Instrumentace
UV–VIS Spektrofotometrie
Výrobce
Agilent Technologies
Zaměření
Materiálová analýza

Utilizing hyphenated EC-Raman to study a model system

Aplikace
| 2024 | Metrohm
Instrumentace
RAMAN Spektrometrie
Výrobce
Metrohm
Zaměření
Průmysl a chemie
 

Podobné články


Článek | Osobnosti

Martin Fusek: Weizmannův institut se chtěl na naší letní škole podílet

O Prague summer school 2024 s Martinem Fuskem v rozhovoru. Jak vznikla myšlenka pořádat společnou letní školu s Weizmannovým institutem? O čem je letní škola a komu je určena?
Vědavýzkum.cz
more

Video | Osobnosti

Podcast CHEmic #27 – Je třeba změnit výuku chemie i učebnice, myslí si Adam Jaroš z ÚOCHB

Adam Jaroš z ÚOCHB zkouší měnit zaběhnuté přístupy středoškolské chemie, odmítá dělení chemie na organickou a anorganickou.
Ústav organické chemie a biochemie AV ČR
more

Článek | Video

Virus napadající kokolitku – mořskou řasu, která ovlivňuje celosvětové klima

Výzkumný tým z CEITEC MUNI popsal strukturu viru EhV-201 i jeho životní cyklus přímo uvnitř buněk řas Emiliania huxleyi díky špičkovým mikroskopům ze sdílených laboratoří.
CEITEC
more

Článek | Nejbližší akce

LABOREXPO & PROCESEXPO 2024 (doprovodný odborný program)

Hlavní částí doprovodného programu veletrhu bude dvoudenní program odborných a produktových prezentací, které představí konkrétní aplikace, novinky a trendy v laboratorní a analytické technice.
LabRulez
more
 

Mohlo by Vás zajímat

FTIR Series and Infrared/Raman Microscope Accessories

Brožury a specifikace
| 2024 | Shimadzu
Instrumentace
FTIR Spektroskopie, RAMAN Spektrometrie, Mikroskopie
Výrobce
Shimadzu
Zaměření
Ostatní

Improving Battery Production Yield, Performance, and Stability Using FTIR

Aplikace
| 2024 | Agilent Technologies
Instrumentace
FTIR Spektroskopie
Výrobce
Agilent Technologies
Zaměření
Průmysl a chemie, Materiálová analýza

For TOC Analyzers Shimadzu 40 mL Vial LE

Ostatní
| 2024 | Shimadzu
Instrumentace
TOC, Spotřební materiál
Výrobce
Shimadzu
Zaměření
Ostatní

Transmission Measurements of Solid Samples at Variable Angles of Incidence by UV-Vis

Aplikace
| 2024 | Agilent Technologies
Instrumentace
UV–VIS Spektrofotometrie
Výrobce
Agilent Technologies
Zaměření
Materiálová analýza

Utilizing hyphenated EC-Raman to study a model system

Aplikace
| 2024 | Metrohm
Instrumentace
RAMAN Spektrometrie
Výrobce
Metrohm
Zaměření
Průmysl a chemie
 

Podobné články


Článek | Osobnosti

Martin Fusek: Weizmannův institut se chtěl na naší letní škole podílet

O Prague summer school 2024 s Martinem Fuskem v rozhovoru. Jak vznikla myšlenka pořádat společnou letní školu s Weizmannovým institutem? O čem je letní škola a komu je určena?
Vědavýzkum.cz
more

Video | Osobnosti

Podcast CHEmic #27 – Je třeba změnit výuku chemie i učebnice, myslí si Adam Jaroš z ÚOCHB

Adam Jaroš z ÚOCHB zkouší měnit zaběhnuté přístupy středoškolské chemie, odmítá dělení chemie na organickou a anorganickou.
Ústav organické chemie a biochemie AV ČR
more

Článek | Video

Virus napadající kokolitku – mořskou řasu, která ovlivňuje celosvětové klima

Výzkumný tým z CEITEC MUNI popsal strukturu viru EhV-201 i jeho životní cyklus přímo uvnitř buněk řas Emiliania huxleyi díky špičkovým mikroskopům ze sdílených laboratoří.
CEITEC
more

Článek | Nejbližší akce

LABOREXPO & PROCESEXPO 2024 (doprovodný odborný program)

Hlavní částí doprovodného programu veletrhu bude dvoudenní program odborných a produktových prezentací, které představí konkrétní aplikace, novinky a trendy v laboratorní a analytické technice.
LabRulez
more
 

Mohlo by Vás zajímat

FTIR Series and Infrared/Raman Microscope Accessories

Brožury a specifikace
| 2024 | Shimadzu
Instrumentace
FTIR Spektroskopie, RAMAN Spektrometrie, Mikroskopie
Výrobce
Shimadzu
Zaměření
Ostatní

Improving Battery Production Yield, Performance, and Stability Using FTIR

Aplikace
| 2024 | Agilent Technologies
Instrumentace
FTIR Spektroskopie
Výrobce
Agilent Technologies
Zaměření
Průmysl a chemie, Materiálová analýza

For TOC Analyzers Shimadzu 40 mL Vial LE

Ostatní
| 2024 | Shimadzu
Instrumentace
TOC, Spotřební materiál
Výrobce
Shimadzu
Zaměření
Ostatní

Transmission Measurements of Solid Samples at Variable Angles of Incidence by UV-Vis

Aplikace
| 2024 | Agilent Technologies
Instrumentace
UV–VIS Spektrofotometrie
Výrobce
Agilent Technologies
Zaměření
Materiálová analýza

Utilizing hyphenated EC-Raman to study a model system

Aplikace
| 2024 | Metrohm
Instrumentace
RAMAN Spektrometrie
Výrobce
Metrohm
Zaměření
Průmysl a chemie
 

Podobné články


Článek | Osobnosti

Martin Fusek: Weizmannův institut se chtěl na naší letní škole podílet

O Prague summer school 2024 s Martinem Fuskem v rozhovoru. Jak vznikla myšlenka pořádat společnou letní školu s Weizmannovým institutem? O čem je letní škola a komu je určena?
Vědavýzkum.cz
more

Video | Osobnosti

Podcast CHEmic #27 – Je třeba změnit výuku chemie i učebnice, myslí si Adam Jaroš z ÚOCHB

Adam Jaroš z ÚOCHB zkouší měnit zaběhnuté přístupy středoškolské chemie, odmítá dělení chemie na organickou a anorganickou.
Ústav organické chemie a biochemie AV ČR
more

Článek | Video

Virus napadající kokolitku – mořskou řasu, která ovlivňuje celosvětové klima

Výzkumný tým z CEITEC MUNI popsal strukturu viru EhV-201 i jeho životní cyklus přímo uvnitř buněk řas Emiliania huxleyi díky špičkovým mikroskopům ze sdílených laboratoří.
CEITEC
more

Článek | Nejbližší akce

LABOREXPO & PROCESEXPO 2024 (doprovodný odborný program)

Hlavní částí doprovodného programu veletrhu bude dvoudenní program odborných a produktových prezentací, které představí konkrétní aplikace, novinky a trendy v laboratorní a analytické technice.
LabRulez
more
Další projekty
Sledujte nás
Další informace
WebinářeO násKontaktujte násPodmínky užití
LabRulez s.r.o. Všechna práva vyhrazena. Obsah dostupný pod licencí CC BY-SA 4.0 Uveďte původ-Zachovejte licenci.