Més enllà del soroll: entendre i controlar la IA a la teva empresa

El soroll i les promeses

Cada setmana apareix una eina d'IA que promet fer-ho tot: redactar, vendre, analitzar i fins i tot decidir. Els titulars parlen de revolució i les demostracions són espectaculars. Però entre la demo i el teu negoci hi ha una distància que ningú no t'explica. Una eina que enlluerna en una pantalla pot convertir-se en un problema quan la poses a treballar amb dades reals, clients reals i responsabilitats reals.

La pregunta important no és "què pot fer aquesta IA", sinó una altra de molt més incòmoda: "què farà exactament amb el meu procés i les meves dades, i ho entenc prou bé per respondre'n davant d'un client o d'un inspector?".

D'una caixa màgica a un procés que pots controlar

El primer error és tractar la IA com una caixa màgica: hi poses una pregunta i en surt una resposta, i confies que estarà bé. Cap empresa seriosa treballa així amb la resta d'eines. Ningú no signa una nòmina sense entendre com s'ha calculat, ni envia una factura sense revisar-la.

Aterrar la IA vol dir convertir aquesta caixa màgica en un procés que pots descriure pas a pas: quines dades hi entren, què fa el model amb elles, quina sortida produeix i qui la revisa abans que tingui cap efecte. Quan pots dibuixar aquest recorregut sencer, deixes de "fer servir IA" i comences a controlar-la.

Controlar cada etapa: saber què entra i què surt

Cada procés amb IA té tres moments que has de poder supervisar:

• L'entrada: quines dades alimentes el sistema. Si hi poses informació de clients, currículums o dades de salut, ja no és cap joc.
• El processament: què fa el model, quines són les seves limitacions i quan s'equivoca. Els models inventen (això es coneix com "al·lucinar"), arrosseguen biaixos i no entenen el context com ho fa una persona.
• La sortida: qui revisa el resultat abans d'enviar-lo, publicar-lo o prendre una decisió. La supervisió humana no és opcional: és precisament el que separa una eina útil d'un risc.

Aprendre a controlar aquestes etapes no és una qüestió tècnica reservada a informàtics. És una competència de negoci, com saber llegir un balanç o entendre un contracte.

On van les teves dades (i les dels teus clients)?

Quan fas servir una eina d'IA al núvol, les teves dades viatgen. Preguntar "on van" no és paranoia: és una obligació legal.

Sota el RGPD, si la teva empresa decideix tractar dades personals amb una eina d'IA, tu ets el responsable del tractament i el proveïdor sol ser un encarregat. Això exigeix un contracte (article 28 del RGPD) que reguli què es tracta, amb quina finalitat i, sobretot, on s'emmagatzemen les dades. Si el proveïdor processa la informació fora de l'Espai Econòmic Europeu, cal comprovar que hi hagi garanties adequades.

Per a una pime, tot això es resumeix en cinc preguntes que has de poder respondre:

1. Quines dades personals envio a l'eina?
2. Amb quina finalitat exacta?
3. On s'emmagatzemen i qui hi té accés?
4. Durant quant de temps i amb quines mesures de seguretat?
5. Es fan servir també per entrenar el model?

Si no saps respondre aquestes cinc preguntes, encara no controles el procés.

La llei ja t'ho demana

Res d'això és només una bona pràctica recomanable: és el que diu el Reglament Europeu d'Intel·ligència Artificial (l'AI Act), en vigor des de l'agost de 2024 i amb una aplicació per fases:

• 2 de febrer de 2025: comencen les prohibicions de pràctiques inacceptables i, molt important per a tu, l'obligació d'alfabetització en IA (article 4). Tota empresa que faci servir IA ha de garantir que el seu personal té un nivell suficient de competència per entendre les eines que utilitza.
• 2 d'agost de 2025: arriben les obligacions per als proveïdors dels grans models (els que hi ha darrere de ChatGPT i similars).
• 2 d'agost de 2026: entren en joc les obligacions de transparència per a les empreses usuàries. Hauràs d'avisar el client quan parli amb un xatbot d'IA i etiquetar el contingut generat amb IA.
• 2 d'agost de 2027: s'apliquen plenament les regles per als sistemes d'alt risc integrats en productes ja regulats.

A Espanya, qui supervisarà tot això és l'AESIA (l'Agència Espanyola de Supervisió de la Intel·ligència Artificial), amb seu a la Corunya, i hi ha una llei estatal de governança de la IA en desenvolupament. Val la pena consultar les fonts oficials per saber l'estat exacte de la norma en cada moment.

El missatge de fons és clar: a partir de 2025, la llei dona per fet que les persones que fan servir IA a la feina entenen què fan i ho poden explicar.

Explicar què fa la IA: la nova alfabetització

Tot porta al mateix lloc. Poder explicar què fa la IA per tu, on van les dades i qui controla cada decisió ja no és un luxe tècnic: és una exigència legal, una garantia davant els teus clients i la millor defensa contra el soroll i les promeses buides.

I això s'aprèn. No neixes sabent supervisar un model, igual que no neixes sabent llegir un contracte. La formació és el que converteix una eina que t'enlluerna en una eina que controles de debò. Començar pel principi, entendre cada etapa i saber on són els límits: aquesta és la diferència entre patir la IA i fer-la treballar de veritat per a tu.