Umělá inteligence (AI) ve strojírenství definitivně opustila fázi teoretických diskusí a izolovaných zkušebních testů. Dnes představuje klíčový prvek Průmyslu 4.0 a nachází využití prakticky ve všech fázích životního cyklu výrobku. S jejím rychlým zaváděním však vyvstávají zcela nové výzvy v oblasti odpovědnosti za škodu a kybernetické bezpečnosti, na které tradiční procesy firem často nejsou připraveny.
Co se v článku dozvíte:
- Kdo nese právní odpovědnost za chybu algoritmu a na co si dát pozor u pojištění profesní odpovědnosti.
- Proč je průmysl hlavním terčem kyberútoků.
- Proč běžné smlouvy na propojená rizika chytrých továren často nestačí.
Podle analytické společnosti MarketsandMarkets se očekává, že globální trh s umělou inteligencí ve výrobě poroste z 3,2 miliardy USD v roce 2023 na ohromujících 20,8 miliardy USD do roku 2028, což představuje průměrný roční růst (CAGR) o 45 %. Tento trend potvrzují i evropská data. Z průzkumu Evropské investiční banky (EIB) vyplývá, že výrobní podniky patří mezi nejaktivnější uživatele pokročilých digitálních technologií. Umělou inteligenci a práci s velkými daty využívá přibližně 48 % evropských výrobních firem, což je paradoxně více, než ukázal srovnatelný průzkum mezi americkými výrobci.
Ve strojírenství se AI využívá pro prediktivní údržbu, kontrolu kvality pomocí strojového vidění (Machine Vision), plánování logistiky či automatizaci administrativy. Hlavní pozornost se však v poslední době upírá na dva trendy. Prvním z nich je generativní návrh (Generative Design) a digitální dvojčata, kdy jsou do systému zadány požadované parametry (zatížení, materiál, omezení výroby) a algoritmus metodou topologické optimalizace navrhne ideální konstrukční řešení. Podle společnosti Gartner bude do roku 2027 téměř 70 % nadnárodních výrobních firem běžně využívat digitální dvojčata provázaná s AI k optimalizaci chodu svých továren. Druhým trendem je Edge AI, kdy algoritmy neběží v cloudu, ale přímo v řídících jednotkách strojů nebo v průmyslových senzorech.
Současně s těmito inovacemi však vzniká zásadní otázka:
Kdo odpovídá za škodu, pokud je doporučení AI chybné?
Na první pohled by se mohlo zdát, že odpovědnost by měla nést samotná technologie nebo její vývojář. Současné právní výklady v Evropě i USA se však v zásadě shodují v jednom důležitém principu. Umělá inteligence je pouze nástrojem. Odpovědnost za konečné rozhodnutí nadále nese osoba nebo společnost, která její výstupy používá a schvaluje.
Pro strojírenské firmy to představuje nové riziko v oblasti profesní odpovědnosti. Chyba už nemusí vzniknout pouze lidským pochybením, ale i důvěrou v chybný výstup algoritmu. Důležité je proto zvolit pojišťovnu, která nevnímá umělou inteligenci jako samostatný důvod k vyloučení pojistné ochrany. Na českém trhu zastává tento přístup například pojišťovna Colonnade Insurance, jejímž vlastníkem je kanadský holding Fairfax.
AI je dnes stále častěji pouze dalším pracovním nástrojem vedle CAD systémů, simulačních programů nebo specializovaného softwaru. Podstatné není, zda byl použit algoritmus, ale jakým způsobem byl použit, jak fungují kontrolní mechanismy (tzv. human-in-the loop) a zda byly zachovány standardy odborné péče, které lze od profesionála v daném oboru rozumně očekávat.
Průmysl jako hlavní terč kybernetických útoků
Další výzvou, které musí nyní strojírenství čelit, je kombinace AI a kybernetické kriminality.
Podle zprávy IBM X-Force Threat Intelligence Index 2024 je výrobní sektor již třetím rokem po sobě globálně nejčastějším terčem kybernetických útoků, a to s více než 25 % všech zaznamenaných incidentů. Hlavním důvodem je skutečnost, že výpadek výroby stojí firmy obrovské peníze (tzv. downtime costs), a jsou proto náchylnější k zaplacení výkupného.
Zatímco dříve bylo možné rozpoznat podvodný e-mail podle špatné gramatiky nebo nepřirozeného jazyka, dnešní nástroje dokážou generovat zprávy téměř nerozeznatelné od skutečné obchodní komunikace.
Některé analýzy také upozorňují, že se dnes útočníci často nesoustředí pouze na zašifrování systémů, ale především na krádeže projektových dat a výrobního know-how.
Mnozí odborníci pak upozorňují na různé scénáře, kdy útočník neútočí přímo na výrobní zařízení, ale na samotný model umělé inteligence. Hovoří se například o manipulaci trénovacích dat, podvržených vstupech, ovlivňování rozhodování AI, nebo přímo o kompromitaci AI systémů integrovaných do výrobních procesů.
Vzorovou situací může být systém prediktivní údržby, který na základě zmanipulovaných dat vyhodnotí kritický stroj jako bezproblémový. Následná porucha může způsobit nejen škody na majetku, ale i výpadek výroby.
Z pohledu pojištění, a tedy možnosti zmírnění následků, nastává v danou chvíli zásadní otázka. Jedná se o profesní chybu, kybernetický incident, produktovou odpovědnost nebo kombinaci všech tří oblastí?
Mnoho firem předpokládá, že jejich stávající pojistné smlouvy automaticky pokrývají veškerá rizika spojená s využíváním nových technologií. Praxe však ukazuje, že realita bývá podstatně složitější. Moderní škody stále častěji vznikají na pomezí několika oblastí odpovědnosti a není vždy jednoduché určit jejich primární příčinu. Právě proto je dnes na trhu patrný nárust poptávky po komplexním přístupu k pojištění. Samostatné posuzování izolovaných rizikových oblastí již neodpovídá způsobu, jakým moderní chytré továrny fungují.
Z pohledu pojišťovny není hlavní otázkou, zda AI používat. Odpověď na ni již průmysl dal. Skutečnou otázkou je, zda jsou podniky připraveny na situace, kdy se algoritmus splete, stane se cílem kybernetického útoku nebo kdy jeho doporučení povede ke vzniku škody, za kterou ponese v konečném důsledku odpovědnost konkrétní dodavatel.
Umělá inteligence se stává běžnou součástí výrobních procesů. Stejně přirozenou součástí firemní strategie by proto mělo být také řízení rizik, která s jejím využíváním přicházejí. Vedle technických a organizačních opatření zde své místo nachází i vhodně nastavené pojištění, které může pomoci zvládnout finanční důsledky událostí, jež nelze zcela vyloučit ani při nejlepší odborné péči.
Článek byl publikován v časopise Strojirenstvi.cz.
Všechny články