Tamní pobočka mezinárodní poradenské společnosti Deloitte vrátí australské vládě část z celkových 440 000 australských dolarů (v přepočtu zhruba šest milionů korun). Vláda je zaplatila za zprávu, která obsahovala chyby způsobené takzvanými halucinacemi umělé inteligence (AI). Šlo mimo jiné o vymyšlené citace z rozsudku federálního soudu a odkazy na neexistující vědecké práce.
Pochybení nastalo v době, kdy postupující rozšiřování systémů umělé inteligence vyvíjí tlak na poradenské společnosti, uvedl server Semafor. Velké poradenské firmy od začátku roku 2023 podle serveru propustily zhruba 50 000 lidí v souvislosti se zpomalením aktivity po pandemii, nasazováním AI a také snižováním vládních výdajů.
Zpráva společnosti poskytující finanční služby pro ministerstvo zaměstnanosti a pracovních vztahů byla původně zveřejněna na internetových stránkách resortu v červenci. Revidovanou verzi úřad zveřejnil na konci minulého týdne poté, co Chris Rudge ze Sydneyské univerzity upozornil média, že zpráva obsahuje vymyšlené citace a odkazy.
Doporučení se nezměnila
Deloitte následně 237stránkovou zprávu přezkoumala a potvrdila, že některé poznámky pod čarou a odkazy byly nesprávné, uvedlo ministerstvo tento týden. „Společnost Deloitte souhlasila s vrácením poslední splátky podle smlouvy,“ dodal resort. Přesná částka bude zveřejněna po vrácení peněz.
Mohlo by vás zajímat
Zpráva Deloitte se zabývala tím, jak IT systémy australského ministerstva využívají automatizované sankce v australském systému sociálního zabezpečení. Ministerstvo uvedlo, že podstata zprávy zůstala zachována a její doporučení se nezměnila.
Halucinace jsou v kontextu AI a jazykových modelů označením pro vygenerované odpovědi, které obsahují nepravdivé nebo zavádějící informace. Může jít rovněž o výsledek nedostatečných, neaktuálních nebo zkreslených trénovacích dat.
