Business Breakfast s partnerem SAS

V termínu 8. října 2024 se v prostorách advokátní kanceláře Kocián Šolc Balaštík uskutečnilo další setkání z cyklu Business Breakfast, tentokrát s velmi rezonujícím tématem „AI Dopady v korporátním prostředí“.

Kromě tématu jsme měli možnost sledovat diskusi Ireny Trunečkové (Nestlé), Jany Guričové (KŠB) a Luďka Šafáře (SAS Institute) v několika okruzích:

1. Příklady z praxe v oblasti corporate governance vedoucí na rizika spojená s používáním AI.

Zmiňovány byly zejména oblasti GDPR a CyberSecurity a significant business impact.

2. Právní výzvy nebo mezery v aktuální legislativě EU ve vztahu k odpovědnosti managementu při zavádění a používání AI ve firmách.

Zde se ukazuje, že přirozeně stávající úprava ne úplně přesně odpovídá businessovým potřebám a bude třeba zvýšené pozornosti ke vznikajícím judikátům a adopci právních zvyklostí z USA a podobných.

3. Ideální rámec pro kontrolu a dohled nad AI nástroji v boardroom.

Je zřejmé, že AI ve firmách bude potřebovat speciální péči – jak dedikované pravomoci, tak nástroje, které umožní spolehlivě monitorovat a klasifikovat AI přítomnost.
AI není konzistentní, je to generický pojem pro sadu technologií, jejíž atomickou jednotkou je model. Modely lze katalogizovat, skórovat, klasifikovat a kombinovat do AI nástrojů.
Právě na úrovni jednotlivých modelů se bude odehrávat posuzování compliance. Základní rada je nečekat, adoptovat alespoň základní vnitřní směrnice upravující procesy související s riziky (viz první bod).

4. Balancování mezi inovací a regulací v oblasti AI

Dotkli jsme se i problematiky „péče řádného hospodáře“, která se dotýká jak prevence rizik, tak vhodné adopce nástrojů umožňující konkurenční výhodu.
Roli v této oblasti budou určitě hrát externí firmy na danou problematiku specializované (i v případě druhého bodu, kdy bude do určité míry povinná certifikace použití AI).