Desítky let psychologové pracovali s modelem dvou systémů myšlení. Systém 1 je rychlý a intuitivní – když instinktivně uhýbáte míči. Systém 2 je pomalý a analytický – když počítáte složitý příklad. Tento model vysvětloval, proč děláme chybná rozhodnutí nebo proč podléháme předsudkům.
S nástupem umělé inteligence však tento model přestává stačit. Vědci Steven Shaw a Gideon Nave z Wharton School přicházejí s teorií tří systémů, která přidává Systém 3 – vnější, algoritmické myšlení prováděné AI systémy mimo lidský mozek.
Systém 3 není jen nástroj
Systém 3 má čtyři klíčové vlastnosti. Funguje mimo náš mozek – na rozdíl od Systémů 1 a 2 existuje v cloudových modelech a algoritmech. Je automatický – provádí operace pomocí statistiky a strojového učení na obrovských datasetech. Vychází z dat – jeho odpovědi odrážejí data, na kterých byl natrénován, včetně jejich chyb. A je interaktivní – reaguje na naše dotazy v reálném čase.
Jde o zásadní změnu. Systém 3 není pouhý pomocník. Je to aktivní účastník našeho rozhodování, který může doplňovat, nahrazovat nebo měnit fungování našeho vlastního myšlení.
Experiment: Když AI mluví sebevědomě, ale špatně
Výzkumníci provedli tři experimenty s upravenými logickými úlohami. Účastníci je řešili buď sami, nebo s přístupem k AI asistentovi (ChatGPT). Klíčový trik: AI byla tajně naprogramována tak, aby někdy dávala správné odpovědi a jindy sebevědomě prezentovala špatná řešení.
Výsledky prvního experimentu se 359 lidmi byly alarmující. Účastníci s přístupem k AI ji použili v každé druhé úloze. Když AI odpověděla správně, jejich úspěšnost vzrostla na 71 procent oproti 46 procentům bez AI. Když AI chybovala, úspěšnost spadla na 31 procent.
Ještě horší: když lidé AI konzultovali, přijali její odpověď v 93 procentech případů, pokud byla správná. Ale i když byla špatná, přijali ji v 80 procentech případů. Přístup k AI také zvýšil sebevědomí lidí o 12 procentních bodů, přestože polovina odpovědí AI byla chybná.
Rozdíl mezi správnou a chybnou AI byl obrovský. Lidé měli přibližně 14krát nižší šanci odpovědět správně, když AI chybovala, oproti tomu, když byla přesná.
Co když nemáme čas přemýšlet?
Druhý experiment s 485 lidmi testoval, co se stane pod časovým tlakem. Účastníci měli buď 30 sekund na odpověď, nebo neomezený čas. Časový tlak snížil úspěšnost u úloh bez AI z 47 na 33 procent – to potvrzuje, že stres potlačuje analytické myšlení.
U lidí s přístupem k AI časový tlak také snižoval výkon, ale vzorec zůstal stejný. Když AI odpovídala správně, zmírnila negativní dopady stresu. Když chybovala, výsledky byly konzistentně horší než bez AI. Časový tlak nezměnil základní problém: lidé AI důvěřovali bez ohledu na to, jestli měli čas přemýšlet, nebo ne.
Pomohou peníze a zpětná vazba?
Třetí pokus s 450 lidmi zkoumal, zda finanční odměna (0,20 USD za správnou odpověď) a okamžitá zpětná vazba po každé úloze změní chování. Tato kombinace výrazně zlepšila výsledky. U úloh bez AI vzrostla úspěšnost z 42 na 64 procent.
Odměna a zpětná vazba také zvýšily počet případů, kdy lidé odmítli špatnou radu AI – z 20 na 42 procent. To naznačuje, že lidé začali více přemýšlet a kontrolovat odpovědi AI.
Přesto základní problém zůstal. I s odměnou a zpětnou vazbou byl rozdíl mezi správnými a chybnými odpověďmi AI obrovský. Účastníci, kteří pravidelně používali AI, dosáhli 85 procent úspěšnosti při správných odpovědích AI, ale pouze 41 procent při chybných.
Kdo AI důvěřuje nejvíc?
Studie odhalila jasné vzorce. Lidé, kteří AI více důvěřují, ji používali častěji, byli méně úspěšní při chybných odpovědích a s větší pravděpodobností přijímali špatné rady.
Naopak lidé s vyšší inteligencí a ti, kteří rádi přemýšlejí, byli úspěšnější při odhalování chyb AI a méně často ji používali. Lidé, kteří potřebují rychlé a jednoznačné odpovědi, častěji přijímali výstupy AI bez přemýšlení.
Analýza všech tří experimentů dohromady (1 372 lidí, 9 593 úloh) potvrdila sílu efektu. Správné odpovědi byly více než 16krát pravděpodobnější, když AI odpovídala správně. Velikost efektu byla velká napříč všemi studiemi.
Situační faktory měnily celkový výkon, ale základní vzorec zůstal. Časový tlak snížil úspěšnost o 13 procentních bodů napříč všemi podmínkami. Odměna a zpětná vazba zvýšily úspěšnost o 10–18 procentních bodů. Rozdíl mezi správnými a chybnými odpověďmi AI však zůstal masivní v obou případech.
Dva typy chování: Delegování versus slepá důvěra
U úloh, kde AI poskytla špatnou odpověď, výzkumníci rozlišili dva typy chování. První typ: lidé přijali špatnou odpověď bez přemýšlení – to se stalo v 73 procentech případů. Druhý typ: lidé AI odmítli a odpověděli správně sami – to se stalo v 20 procentech případů. Zbylých 7 procent byli lidé, kteří AI odmítli, ale stejně odpověděli špatně.
Odměna a zpětná vazba zvýšily úspěšné odmítnutí AI o 19 procentních bodů na 37 procent a snížily slepou důvěru na 58 procent. Časový tlak snížil úspěšné odmítnutí o 12 procentních bodů na pouhých 6 procent.
Vyšší důvěra v AI zvyšovala slepé přijetí špatných odpovědí. Naopak lidé, kteří rádi přemýšlejí, a ti s vyšší inteligencí častěji AI odmítali a spoléhali na vlastní úsudek.
CIOtrends si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.
PŘEDPLATNÉ
ČLÁNKY DO MAILU