Potřebujete AI jako službu?

Ne každý scénář se ukáže jako užitečný a jeho zrušení pomocí AIaaS je snadné. Osvědčené scénáře bude třeba rozšířit, což je v případě modelu AI as a Service také jednoduché, stačí rozšířit objednanou konfiguraci.

Obavy o bezpečnost mohou být překážkou využívání AIaaS, protože podnik sdílí s poskytovatelem služby svá data, často citlivá. V případě zvláště citlivých údajů se používá anonymizace, maskování údajů nebo jiná opatření. Přesto může být využití AIaaS v některých odvětvích problematické, například ve finančním nebo zdravotnickém sektoru, kde je ukládání a sdílení dat přísně regulováno. Problémem může být i změna poskytovatele AIaaS, pokud původně vybraný poskytovatel z nějakého důvodu nevyhovuje. Různí poskytovatelé nabízejí různé platformy strojového učení a jejich varianty, takže přechod může být časově náročný a uživatelé se budou muset přeškolit na jiné prostředí.

Scénáře pro AIaaS

Strojové učení – společnosti používají ML ke zkoumání a identifikaci trendů ve svých datech, k předpovědím a k průběžnému učení. Procesy zpracování a analýzy dat by měly fungovat s minimálním, nejlépe žádným zásahem člověka. To není nic nového, datamining se k tomuto účelu používá již desítky let.

Přečtěte si také:

Čtvero důvodů neúspěchu genAI

Označovánídat – čištění auspořádání velkých dat. Firmy tak získávají kvalitnější data, která pak ukládají do datových skladů pro případné další zpracování. Umělou inteligenci lze využít také k agregaci dat z různých zdrojů. Typickým příkladem jsou portály cestovních kanceláří a prodejců letenek, které využívají informace od více leteckých společností.

Chatboty využívající NLP (Natural Language Processing) k napodobování lidské komunikace, například v zákaznickém servisu, aby poskytovaly relevantní odpovědi na nejčastější dotazy zákazníků. Pokud tyto úkoly vyřizuje chatbot na platformě AIaaS, mohou se zaměstnanci soustředit na náročnější úkoly.

Poskytovatelé AIaaS

Podniky by si měly dobře rozmyslet, komu svěřují svá data, zejména pokud jsou citlivá. Jedním z hlavních kritérií výběru je proto důvěryhodnost poskytovatele služeb.

Amazon Web Services – AWS poskytuje několik služeb pro AI se strojovým učením včetně Amazon SageMaker a Amazon Alexa. Tyto služby Amazon AI využívají zákazníci, podniky i osoby se zdravotním postižením.

Google AI – Google Cloud poskytuje mnoho nástrojů pro umělou inteligenci a strojové učení, například jednotku TPU (Tensor Processing Unit), která urychluje trénování modelů umělé inteligence. On-line prostředí Google Colaboratory pro strojové učení, které má i bezplatnou verzi, představíme v samostatném příspěvku.

Přečtěte si také:

Zvažování rizik a zisků při výběru dodavatele generativní AI

IBM Watson. Existuje několik aplikací IBM Watson včetně Watson Assistant pro vytváření virtuálních asistentů a Watson Natural Language Understanding pro kontextovou analýzu vstupů v přirozeném jazyce. Vývojáři mohou vytvářet, trénovat a nasazovat ML modely pomocí IBM Watson Studio.

Microsoft Azure Azure – tato cloudová platforma poskytuje několik služeb AI a strojového učení, například Azure NLP pro analýzu textu, konverzační služby AI a Azure Cognitive Services. Pro vývojáře je k dispozici podpora programovacích jazyků Python a R.

SAS – analytická platforma založená na umělé inteligenci pro zpracování velkých objemů dat a správu a vytěžování dat z různých zdrojů. Společnost také nabízí služby NLP a vizuální dolování dat.

Google Collaboratory

Asi nejznámější službou AIaaS je on-line prostředí Google Colaboratory. Umožňuje vytvářet a spouštět kód v jazyce Python nebo R přímo v prohlížeči, aniž musíte cokoli instalovat do počítače. Colaboratory je cloudová implementace Jupyter Notebook, která běží na virtuálních serverech společnosti Google a k výpočtům může využívat také grafické procesory a technologii Nvidia Cuda.

Při trénování neuronových sítí a dalších úlohách hlubokého učení pomocí GPU můžete využít několikanásobné zrychlení náročných výpočtů, i když nemáte v počítači grafickou kartu Nvidia. Základní verze aplikace Colab je zdarma, pokud potřebujete větší výpočetní výkon, můžete si předplatit Colab Pro nebo Colab Pro+, případně využít model Pay As You Go.

Přečtěte si také:

Osmička naléhavých potřeb pro CIO v roce 2024

I v bezplatné verzi můžete používat virtuální grafický procesor Nvidia Tesla T4 16 GB GDDR6. Fyzicky taková grafická karta stojí 2 800 Kč. T4 samozřejmě není k dispozici pouze vám a nemáte zaručeno, že budete moci toto běhové prostředí použít, kdykoli budete potřebovat. V případě nedostatku prostředků vám GPU akcelerátor nemusí být přidělen. U placených modelů se vám to stát nemůže a v závislosti na modelu máte k dispozici akcelerátory GPU A100 a V100. Fyzicky stojí karta Nvidia Tesla A100 s kapacitou 40 GB 7 000 Kč a Nvidia Tesla V100 až 14 000 Kč.

V rámci služby Colab Pro+ máte k dispozici 500 tzv. výpočetních jednotek za 50,70 eur měsíčně. V modelu Pay As You Go stojí 100 jednotek 11,10 eur a 500 jednotek 50,70 eur.  Pro představu, co je to výpočetní jednotka: GPU T4 spotřebuje dvě výpočetní jednotky za hodinu, V100 pět jednotek za hodinu a A100 patnáct jednotek za hodinu.

Pokud byste nechali virtuální GPU A100 běžet celý měsíc, spotřebovali byste 11 160 jednotek a vyšlo by to na 1 200 eur. Fyzická grafická karta Nvidia Tesla A100 by byla výhodnější, pokud byste ji používali více než půl roku čistého času. Ve skutečnosti však nebudete službu AIaaS využívat nepřetržitě, takže návratnost investice do hardwaru by reálně byla dva až tři roky.

Perspektivy AIaaS

Umělá inteligence a strojové učení poskytované jako služba mají před sebou velké perspektivy. Nejlépe to vyjadřují dvě čísla. Analytická společnost Market Research Future předpovídá, že trh AIaaS do roku 2030 vzroste na 43 miliard dolarů, přičemž předpokládaná roční míra růstu činí 26 %.

Autor je redaktor Nextech

Článek vyšel v magazínu CIO BW 6/2023. Objednat si ho můžete tady.

CIOtrends si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.