Tamní pobočka mezinárodní poradenské společnosti Deloitte vrátí australské vládě část z celkových 440 000 australských dolarů (v přepočtu zhruba šest milionů korun). Vláda je zaplatila za zprávu, která obsahovala chyby způsobené takzvanými halucinacemi umělé inteligence (AI). Šlo mimo jiné o vymyšlené citace z rozsudku federálního soudu a odkazy na neexistující vědecké práce.
Pochybení nastalo v době, kdy postupující rozšiřování systémů umělé inteligence vyvíjí tlak na poradenské společnosti, uvedl server Semafor. Velké poradenské firmy od začátku roku 2023 podle serveru propustily zhruba 50 000 lidí v souvislosti se zpomalením aktivity po pandemii, nasazováním AI a také snižováním vládních výdajů.
Zpráva společnosti poskytující finanční služby pro ministerstvo zaměstnanosti a pracovních vztahů byla původně zveřejněna na internetových stránkách resortu v červenci. Revidovanou verzi úřad zveřejnil na konci minulého týdne poté, co Chris Rudge ze Sydneyské univerzity upozornil média, že zpráva obsahuje vymyšlené citace a odkazy.
Doporučení se nezměnila
Deloitte následně 237stránkovou zprávu přezkoumala a potvrdila, že některé poznámky pod čarou a odkazy byly nesprávné, uvedlo ministerstvo tento týden. „Společnost Deloitte souhlasila s vrácením poslední splátky podle smlouvy,“ dodal resort. Přesná částka bude zveřejněna po vrácení peněz.
Zpráva Deloitte se zabývala tím, jak IT systémy australského ministerstva využívají automatizované sankce v australském systému sociálního zabezpečení. Ministerstvo uvedlo, že podstata zprávy zůstala zachována a její doporučení se nezměnila.
Mohlo by vás zajímat
Halucinace jsou v kontextu AI a jazykových modelů označením pro vygenerované odpovědi, které obsahují nepravdivé nebo zavádějící informace. Může jít rovněž o výsledek nedostatečných, neaktuálních nebo zkreslených trénovacích dat.
