Americký prezident Donald Trump podepsal se šéfy předních firem v oboru umělé inteligence dohodu o regulaci. Označil ji za morálně závaznou. Podle dokumentu se společnosti rozhodly zavést vnitřní i vnější kontroly a pravidelně se scházet kvůli otázkám bezpečnosti. Trump chce také jmenovat svého zmocněnce pro AI.
„Budou se kontrolovat sami,“ řekl Trump o podstatě dohody s lídry společností v oboru umělé inteligence. Prezident pozval na oběd do Bílého domu přední představitele tohoto odvětví. Mezi nimi byli generální ředitel společnosti Anthropic Dario Amodei, šéf OpenAI Greg Brockman, zakladatel Amazonu Jeff Bezos a Elon Musk, jehož sociální síť X zahrnuje vlastní model umělé inteligence s názvem Grok.
Lídři oboru se zavázali vytvořit odpovídající ochranná opatření pro tuto rychle se rozvíjející technologii. Dobrovolná dohoda zahrnuje vnitřní a vnější kontroly. Trump AI označuje jako super inteligenci.
Firmy se mají pravidelně scházet kvůli bezpečnosti
Trump později na své sociální síti Truth Social zveřejnil dokument, který s lídry AI podepsal. Šéfové společností Nvidia, OpenAI, Anthropic, xAI a Google se dohodli, že se kvůli otázkám bezpečnosti budou pravidelně scházet.
Společnosti se v dohodě zavázaly zavést robustní vnitřní kontroly ke sledování schopností AI. Mají vytvořit příslušné interní týmy, spolupracovat s vnějšími nezávislými auditory a sestavit nezávislý výbor dohlížející na týmy kontrolorů.
Zmocněnce pro AI vybere během několika dní
Zmocněnce pro umělou inteligenci by chtěl Trump vybrat do tří až čtyř dní. Portál Axios uvedl, že prezident jako vhodného kandidáta zmínil šéfa amerických tajných služeb (DNI) Jaye Claytona.
Mnozí představitelé AI i odborníci v poslední době varovali před překotným vývojem a rizikem, že by se umělá inteligence mohla vymknout kontrole. Upozorňovali také na možné ohrožení lidské rasy. Trump naopak obavy z AI nesdílí a tvrdí, že tento vývoj nelze brzdit. Podle jeho slov mají USA v této oblasti značný náskok. „Nikdy nebudu bránit rozvoji technologie, která bude mít větší dopad než průmyslová revoluce,“ řekl.
Důvěra v kontrastu s varováními z oboru
Trumpova důvěra v umělou inteligenci je v ostrém kontrastu s varováními, která zazněla od vedoucích představitelů tohoto odvětví. Amodei na začátku září vyzval přední firmy v oblasti AI, aby zpomalily vývoj této technologie.
V pátek společnost OpenAI oznámila, že pozastaví trénování svého nejnovějšího modelu, protože se množí zprávy o tom, že se agenti umělé inteligence vymykají kontrole.
