Agent umělé inteligence vyvinutý společností OpenAI neoprávněně pronikl na australský vládní portál se zdravotními údaji. Oznámil to tamní premiér Anthony Albanese. Jde pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku. Podle dosavadních důkazů se nedostal k osobním údajům pacientů.
Podle informací agentury Reuters představuje útok jeden z nejvýznamnějších incidentů, při nichž agenti AI pronikli do externích systémů mimo USA. Případ by mohl vyvolat obavy o schopnost vývojářů udržet tuto technologii pod kontrolou.
Agent od OpenAI podle australského premiéra získal neoprávněný přístup k portálu lékařských statistik vládní agentury Medicare. Web odpovídá za necitlivá zdravotní data a statistiky včetně veřejných výdajů na zdravotnictví. Podle Albanese se však nezdá, že by došlo k neoprávněnému přístupu k osobním údajům kohokoli v systému.
Reakce vlády
„Z aktuálně dostupných důkazů vyplývá, že nedošlo k širšímu narušení sítě. Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ řekl australský premiér na tiskové konferenci v New Yorku, kde se účastní zasedání Valného shromáždění OSN.
K incidentu došlo poté, co společnosti OpenAI a Anthropic tento měsíc vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat kreativní obsah této země k trénování svých modelů.
Vyjádření OpenAI
„Zaznamenali jsme aktivitu týkající se několika webových stránek a služeb australské vlády, když se naše modely pokoušely vyhledat odpovědi. Naše modely provedly akce, které jsme nezamýšleli. Naše šetření neodhalilo žádné důkazy o tom, že by došlo k přístupu k záznamům o pacientech. Mezi informace, ke kterým byl získán přístup, patřily souhrnné zdravotní statistiky a názvy interních souborů,“ uvedla OpenAI v prohlášení.
Ačkoli se hackerský útok stal v červnu, vláda se o něm dozvěděla teprve před několika týdny. Jde o jeden z několika nedávných incidentů, při nichž OpenAI zveřejnila informace o hackerských útocích nebo neoprávněné činnosti svých agentů AI až dlouho poté, co se staly. V některých případech tak učinila proto, že útok odhalila se zpožděním, v jiných proto, že se nejdříve rozhodla jej nezveřejnit.
Další incidenty a širší diskuze
Další významný incident, vniknutí do open-source úložiště AI Hugging Face v polovině července, byl podle časových os zveřejněných OpenAI a nezávislými vyšetřovateli odhalen teprve asi týden po výskytu. To pomohlo roznítit celosvětovou diskuzi o rizicích, která představují stále výkonnější modely AI.
Případy, kdy jejich agenti přistupovali k externím systémům, zveřejnili také konkurenti Anthropic, Gemini od Googlu a Meta. Někteří z předních amerických manažerů v oblasti AI, včetně Altmana, vyzvali ke zpomalení vývoje této technologie. Poukazovali přitom mimo jiné na hrozbu ničivých kybernetických útoků ze strany agentů, kteří se vymkli kontrole.
