Odpovědnost za rozhodnutí zůstává na lidech AI navzdory

V bezbřehém nadšení se nesmí zapomenout na klíčový fakt: AI není partner, který sdílí odpovědnost. AI je nástroj, podobně jako pro řemeslníka je nástrojem kladivo a pro chirurga skalpel. Odpovědnost za rozhodnutí zůstává výhradně na lidech, kteří nástroje využívají. Každý manažer by si proto měl klást několik otázek, například z množiny dále uvedených.

• Rozumím datům, která jsou vstupem a výstupem různých IT nástrojů?
• Vím, na čem jsou založena a odkud pocházejí?
• Dokážu je správně interpretovat, chápu jejich smysl a jejich souvislost s realitou?
• Jsem připraven je obhájit, pokud se ukáže, že rozhodnutí učiněné na jejich základě bylo chybné?

Je zřejmé, že každé lidské rozhodnutí je založeno na informacích, které máme k dispozici. Data, jimiž disponujeme, jsou vždy neúplná, nikdy nemáme k dispozici absolutně dokonalý popis reality – a to jak z pohledu objemu dat, tak z hlediska způsobu jejich interpretace. V současné době se však velmi často dostáváme do situace, kdy máme informací nadbytek a bez vhodných nástrojů je nedokážeme klasifikovat, interpretovat a využít k rozumnému rozhodování. 

Kyberbezpečnost a zákony bez obalu

0:00/

AI dnes skutečně může pomoci zvládat informační přetížení a dává manažerům do ruky výkonné prostředky – od zpracování dat v reálném čase přes prediktivní modely a detekci anomálií až po automaticky generované reporty a scénáře.

Nástroje jako Power BI, Tableau, Qlik nebo SAP Analytics Cloud v kombinaci s jazykovými modely typu GPT umožňují nejen sumarizovat data, ale také navrhovat varianty řešení. Přesto existuje zásadní rozdíl: AI umí navrhovat, ale nikoliv rozhodovat – respektive rozhodovat dokáže, ale strojově, bez schopnosti vážit ty aspekty, které souvisejí s „člověčenstvím“. Nedokáže zvážit morální, právní ani reputační důsledky, jež do hry přináší lidská zkušenost, intuice a hodnoty.

S tím souvisí i otázka odpovědnosti a compliance. Mnoho organizací řeší, kdo odpovídá za rozhodnutí učiněná na základě výstupu AI. Odpověď je jednoznačná – vždy člověk, který AI použil. To je obzvlášť důležité v regulovaných odvětvích, jakými jsou finance, zdravotnictví nebo doprava. Tam může nesprávná interpretace znamenat nejen finanční škody, ale také ohrožení bezpečnosti a života. Jen těžko může lékař argumentovat, že za smrt pacienta nemůže on, ale chybná diagnóza ze strany AI nástroje (či jakéhokoliv stroje).

Přečtěte si také:

Neschválené nástroje AI jsou nebezpečnou normou

Další výzvou je takzvaný black box efekt: většina modelů funguje jako neprůhledný mechanismus, jehož výsledek vidíme, ale cestu k němu neznáme. Pro audit, compliance i interní kontrolu je to zásadní problém. Proto by firmy neměly investovat pouze do samotných AI systémů, ale také do kompetencí lidí – jejich schopnosti interpretovat výstupy, kriticky myslet a chápat širší kontext. Výstup z jakéhokoliv nástroje, AI nevyjímaje, je nutné podrobit kritickému zhodnocení, a to minimálně za cílem identifikovat a eliminovat zjevné nesmysly.

Takto je nutné také argumentovat směrem k těm, kteří žádají omezení výuky logického myšlení či například matematiky se slovy, že „počítače přece budou počítat za nás“. To je sice pravda, ale jen vzdělaný a školený člověk je schopný výstupy počítačových systémů kriticky zhodnotit. Je přitom nutné si u AI uvědomit, že AI modely vycházejí z dat a souvislostí reálného světa – a protože tato data a souvislosti obsahují chyby, obsahují chyby také výstupy AI.

Moderní ICT infrastruktura dnes nabízí manažerům (a obecně těm, kdo rozhodují) obrovský arzenál nástrojů: real-time data a streaming analytics pro okamžitou reakci na změny, mobilní BI pro přístup odkudkoliv, on-line dashboardy konsolidující data z různých zdrojů, AI-first reporting pro rychlejší přístup k informacím i propojení historických dat s aktuálními signály prostřednictvím datových skladů a big data platforem.

Všechny tyto technologie nepochybně posilují lidské rozhodování, ale nikdy nemohou nahradit odpovědnost. Jsou nástrojem, jsou mocným a užitečným nástrojem, ale pouze nástrojem – rozšiřují informační zdroje toho, kdo rozhoduje, ale odpovědnost za rozhodnutí nemohou převzít. Ostatně důvodem často velmi obstojného ohodnocení manažerů je právě odpovědnost…

Zavádění AI do rozhodovacích procesů je logickým krokem na cestě digitalizace. Aby však přineslo skutečnou hodnotu, musí se promítnout i do firemní kultury. AI by se měla stát standardní součástí nástrojů managementu, nikoli pouze módním doplňkem. A to jak z pohledu procesů, tak také z hlediska efektivity. AI by neměla být zaváděna proto, že jde o moderní (a módní) téma, ale proto, že manažer pragmaticky dospěje k názoru, že by takové zavedení rozšířilo jeho portfolio nástrojů sloužících k podpoře rozhodovacího procesu. 

Pokud jde o efektivitu, manažeři musejí být vzděláváni, aby dokázali správně interpretovat výstupy. Firmy by měly otevřeně komunikovat limity AI, aby nedošlo k jejímu přeceňování, a nastavovat etické rámce i interní politiky, které určují, kde AI smí rozhodovat a kde je to nepřípustné.

AI je tedy nástroj, nikoliv partner. Lidské rozhodování je komplexní a zahrnuje intuici, etiku i zkušenost. Odpovědnost nelze outsourcovat na algoritmus. Technologie má být podporou, ale konečné slovo musí mít člověk. Tento princip je třeba pevně zakotvit nejen v IT architektuře, ale i ve firemní kultuře.

Autorka je finanční manažerka a studentka Ph.D. programu

Autor je VŠ pedagog

Článek vyšel v magazínu CIO 5/2025.

CIOtrends si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.