Les noves obligacions de transparència previstes pel reglament d'intel·ligència artificial (IA) de la Unió Europea entren en vigor aquest diumenge amb l'objectiu de reforçar la confiança dels ciutadans en aquestes tecnologies i reduir els riscos d'engany, manipulació i desinformació. A partir d'ara, tant els proveïdors de sistemes d'IA com les empreses, administracions i organitzacions que els utilitzin hauran d'informar els usuaris quan estiguin interactuant amb una intel·ligència artificial o quan un contingut hagi estat generat o modificat amb aquesta tecnologia.

La mesura forma part del desplegament progressiu de la llei europea sobre intel·ligència artificial, aprovada el 2023 i considerada la primera regulació integral d'aquest àmbit al món. La normativa estableix diferents obligacions segons el nivell de risc dels sistemes i ja havia incorporat restriccions anteriors, com la prohibició de pràctiques com l'extracció massiva d'imatges facials o el reconeixement d'emocions en l'entorn laboral. També obliga, des de l'agost de l'any passat, les plataformes d'IA generativa a respectar els drets d'autor.

Nous deures per als proveïdors d'IA

Les noves exigències afecten empreses que desenvolupen sistemes d'intel·ligència artificial, com ara els creadors d'assistents conversacionals, generadors d'imatges o eines de síntesi de veu. Aquests proveïdors hauran de garantir que els seus sistemes indiquin de manera clara als usuaris quan estan interactuant amb una IA.

A més, hauran d'incorporar marques llegibles per màquina que permetin identificar que un text, una imatge, un àudio o un vídeo han estat creats o manipulats amb intel·ligència artificial, facilitant així la detecció automatitzada d'aquest tipus de continguts.

Empreses i administracions també hauran d'informar

Les obligacions també s'estenen a les organitzacions que despleguen sistemes d'IA. Així, empreses, administracions públiques o qualsevol altra entitat hauran d'advertir els usuaris quan utilitzin sistemes de reconeixement d'emocions o de categorització biomètrica, quan difonguin continguts deep fake o quan publiquin textos generats per intel·ligència artificial sobre assumptes d'interès públic que no hagin estat revisats per una persona ni sotmesos a control editorial.

En canvi, les noves normes no s'aplicaran als usos exclusivament personals. Això significa que, per exemple, un usuari no haurà d'indicar que envia un contingut generat amb IA en una conversa privada. Sí que serà obligatori, però, quan l'ús tingui una finalitat professional o comercial.

Pel que fa a les xarxes socials, la responsabilitat de complir aquestes obligacions recaurà en la persona o entitat que crea i publica el contingut, i no en la plataforma que l'allotja, tot i que algunes empreses ja etiqueten voluntàriament els continguts creats amb intel·ligència artificial.

Directrius per facilitar l'aplicació

Per facilitar l'entrada en vigor de les noves normes, la Comissió Europea va publicar el passat 20 de juliol unes directrius que especifiquen quins sistemes estan afectats per les obligacions de transparència, defineixen conceptes com els continguts sintètics o els deep fakes i estableixen excepcions per a funcionalitats habituals, com les correccions ortogràfiques o gramaticals.

La vicepresidenta de la Comissió Europea per a la Sobirania Tecnològica, Henna Virkkunen, ha defensat que aquestes directrius han de garantir una aplicació “fluida i eficaç” del reglament i contribuir a fer que els sistemes d'intel·ligència artificial siguin “més transparents i fiables” per permetre que els ciutadans sàpiguen quan interactuen amb aquesta tecnologia.

El compliment de la normativa serà supervisat per les autoritats nacionals de vigilància del mercat, l'Oficina Europea d'IA i, en el cas de les institucions comunitàries, pel Supervisor Europeu de Protecció de Dades. Les infraccions podran ser sancionades amb multes de fins a 15 milions d'euros o el 3% de la facturació anual mundial de l'empresa infractora.

Prohibició de determinats continguts a finals d'any

El reglament europeu preveu també una nova prohibició que entrarà en vigor el 2 de desembre. A partir d'aquesta data, quedarà vetada la comercialització i l'ús de sistemes d'intel·ligència artificial destinats a generar contingut sexualment explícit sense consentiment o material d'abús sexual infantil, com també la comercialització d'eines que no incorporin mesures de seguretat per impedir-ne la creació.

La mesura es va impulsar després de la difusió massiva, a finals de l'any passat, d'imatges manipulades amb intel·ligència artificial que sexualitzaven dones reals sense el seu consentiment, un fenomen que va reobrir el debat sobre els riscos dels deep fakes i la necessitat d'una regulació més estricta.