Umělá inteligence je už natolik mocná, že by její zneužití mohlo vést k událostem s miliardou obětí. Varoval před tím spoluzakladatel Microsoftu Bill Gates. Technologické firmy podle něj zároveň nelze nechat, aby si pravidla pro AI určovaly samy. Do hry musí vstoupit politici, zákony i bezpečnostní složky.

„Umělá inteligence je bezpochyby natolik mocná, že by mohla vyvolat události, které by si vyžádaly miliardu obětí,“ uvedl Gates v rozhovoru pro pořad Meet the Press americké stanice NBC. Celý rozhovor má být odvysílán v neděli, NBC už zveřejnila jeho část.

Gates reagoval na debatu o tom, zda může další vývoj AI představovat až existenční hrozbu pro lidstvo. Za zásadní nebezpečí označil zejména možnost, že stále výkonnější nástroje získají lidé, kteří je budou chtít zneužít.

„Nikdy neexistovala tak mocná zbraň jako lidé se zlými úmysly využívající nejnovější nástroje umělé inteligence,“ řekl. Současně připustil, že scénář, při kterém by technologie zasáhla celé lidstvo, považuje za obtížně představitelný.

Firmy se podle Gatese nemohou hlídat samy

Gates kvůli rostoucím schopnostem AI požaduje zapojení amerických úřadů a přijetí závazných pravidel. Na otázku, zda by měl Kongres přijmout příslušnou legislativu, odpověděl jednoznačně kladně.

„Nikdo si nemyslí, že samoregulace stačí,“ uvedl Gates. Podle něj se do debaty musí zapojit politici i orgány činné v trestním řízení a určit, jak mají vypadat povinná bezpečnostní opatření a dohled nad systémy AI. Dodatečné povinnosti by podle něj pro technologické firmy znamenaly určitou zátěž, neměly by ale dramaticky zpomalit jejich vývoj.

Jeho výzva přichází v době, kdy se o tempu dalšího vývoje AI vede ostrá debata i uvnitř technologického sektoru. Šéf společnosti Anthropic Dario Amodei se vyslovil pro regulaci nejvyspělejších modelů. Šéf OpenAI Sam Altman zase tento týden na půdě OSN volal po mezinárodních standardech pro měření schopností AI, posuzování rizik a zachování lidského dohledu.

Debatu přiživují i případy, kdy byly systémy AI schopné při bezpečnostních testech překonat nastavená omezení, a zprávy o využívání umělé inteligence při kybernetických útocích.

Gates není odpůrcem AI

Gatesovo varování přitom neznamená, že by se někdejší šéf Microsoftu stavěl proti dalšímu rozvoji umělé inteligence. Právě naopak. AI považuje za technologii s potenciálem zásadně změnit zdravotnictví, vzdělávání nebo zemědělství. Současně však v posledních měsících stále výrazněji upozorňuje na rizika, která rychlý technologický skok přinese.

Gates odešel z každodenního vedení Microsoftu už v roce 2008 a svou hlavní činnost přesunul k filantropii. Sám dnes své působení rozděluje na dvě životní etapy: vývoj softwaru v Microsoftu a následnou snahu využít majetek, který tam vydělal, ke zlepšování zdravotnictví, vzdělávání a snižování nerovností. Nadále má finanční vazby na technologický sektor a spolupracuje s Microsoftem i dalšími společnostmi zabývajícími se AI.

Jeho pohled na rychlost vývoje AI se přitom změnil. „Kdyby někdo měl věrohodný plán, jak globálně zpomalit pokrok v AI, pravděpodobně bych ho podpořil,“ napsal Gates letos v srpnu. Zároveň ale dodal, že takový scénář nepovažuje za realistický. Ekonomická a geopolitická soutěž podle něj tlačí vývoj opačným směrem.

Gates zároveň očekává výrazné dopady na pracovní trh. AI se podle něj od předchozích technologických revolucí liší mimo jiné tím, že může nahrazovat lidské kognitivní schopnosti a zasáhnout během relativně krátké doby široké spektrum profesí – od práva a zákaznických služeb přes medicínu až po vývoj softwaru a průmysl.

Miliarda dolarů na umělou inteligenci

Rozpor mezi obavami z AI a vírou v její možnosti dobře ilustruje současná činnost Gatesovy nadace. Gates Foundation v září oznámila, že během příštích dvou let investuje nejméně miliardu dolarů do rozšíření přístupu k umělé inteligenci a jejího praktického využití.

Přibližně 40 procent peněz má směřovat do vzdělávání a dalších 40 procent do zdravotnictví. Desetina připadne na využití AI v zemědělství a zbývající desetina například na vytváření datových souborů pro jazyky, kterým dnešní systémy AI zatím příliš nerozumějí.

Nadace chce prostřednictvím AI podporovat například diagnostiku, rozhodování zdravotníků, vývoj nových léků a vakcín nebo individuální výuku. V zemědělství by systémy mohly drobným farmářům poskytovat doporučení podle místních podmínek, počasí či pěstovaných plodin.