Umělá inteligence se zřejmě dostává i do vládních analýz a auditů. V kanadské provincii Newfoundland a Labrador odhalila média v posledních měsících vymyšlené odborné citace hned ve dvou klíčových strategických dokumentech – ve vzdělávací reformě a ve zdravotnickém personálním plánu. Obě zprávy přitom stály veřejné rozpočty miliony dolarů.
Nejprve se ukázalo, že desetiletý plán reformy školství obsahuje nejméně 15 citací na neexistující odborné studie. Na problém upozornila stanice Radio-Canada. Podle odborníků jde o typický projev použití generativní umělé inteligence. Ministr školství Bernard Davis chybu označil za „nešťastnou“, ale tvrdí, že dopad na samotná doporučení zprávy je podle něj nulový.
Autoři zprávy připustili nepřesnosti v malém počtu odkazů a uvedli, že citace opraví. Opozice ale varuje, že podíl umělé inteligence na tak zásadním dokumentu vážně podkopává důvěru veřejnosti.
Falešné citace i ve zprávě od Deloitte
Ještě závažnější případ se týká zdravotnického plánu lidských zdrojů, který pro provinční vládu zpracovala poradenská společnost Deloitte. Za 526stránkovou studii zaplatila provincie přes 1,6 milionu kanadských dolarů (asi 24 milionů korun).
Server The Independent odhalil, že nejméně čtyři citované odborné práce ve studii vůbec neexistují. Někteří vědci, kteří měli být údajnými spoluautory citovaných studií, potvrdili, že se žádného takového výzkumu nikdy neúčastnili. Podle nich jde „s vysokou pravděpodobností o výsledek generativní AI“.
Mohlo by vás zajímat
Deloitte potvrdila, že citace jsou chybné, ale trvá na tom, že závěry zprávy zůstávají platné. Provincie firmu vyzvala ke kompletní kontrole všech zdrojů.
Kritika: AI bez kontroly ničí důvěru ve státní dokumenty
Odbory i opozice považují případ za vážné selhání. Premiér Tony Wakeham označil situaci za „trapnou“. Šéf opoziční NDP Jim Dinn mluví o ohrožení důvěry občanů ve stát:
„Hraje se tu s životy lidí. Tyto zprávy mají rozhodovat o zdravotnictví i školství,“ uvedl.
Opozice navíc žádá, aby Deloitte vrátila peníze, podobně jako v nedávném případě v Austrálii, kde firma musela kvůli AI chybám vracet část odměny za vládní zakázku.
AI se objevuje i tam, kde se s ní nepočítalo
Zdravotnický plán přitom sám doporučuje rozšířené využívání umělé inteligence ve zdravotnictví, například při analýze dat nebo v klinickém rozhodování. Paradoxně tak dokument, který využití AI prosazuje, sám nese známky nekontrolovaného použití generativních nástrojů.
Kanadská vláda zatím neoznámila žádná jasná pravidla pro používání AI v externích studiích a auditech. Kritici varují, že bez jasných mantinelů budou podobné skandály přibývat – a s nimi i nedůvěra veřejnosti ve státní rozhodování.
