La intel·ligència artificial (IA) ocupa, cada cop amb més regularitat, un lloc destacat a l’agenda dels comitès de direcció. Des del llançament de ChatGPT, a finals de 2022, s’ha produït un volum aclaparador de literatura sobre models d’IA, arquitectures i “casos d’ús”.
JAVIER BUSQUETS. Professor d’ESADE
Tanmateix, diversos informes (IDC, 2024; MIT, 2025) assenyalen que l’impacte real d’aquest tipus de sistemes a l’empresa continua sent limitat: molts pilots no escalen o no generen valor econòmic sostenible.
Sostenim que el problema sorgeix quan els sistemes d’intel·ligència artificial (ja siguin de machine learning, deep learning, generatius o basats en agents) s’emmarquen dins dels “models mentals” tradicionals amb què els directius donen sentit als sistemes d’informació corporatius —com els ERP (enterprise resource planning) o els CRM (customer relationship management)—, concebent-los principalment com a “eines” d’automatització, presentació d’informació i eficiència operativa. Els models mentals dels comitès de direcció actuen com una teoria implícita de causa i efecte sobre com funciona realment l’empresa: quines decisions creen valor, quines inversions generen avantatges competitius i quins riscos convé assumir.
En aquest marc, les fallades dels sistemes d’IA solen explicar-se mitjançant narratives heretades dels projectes de sistemes d’informació: “Problemes d’adopció” (ús baix per part dels usuaris, manca de formació, resistències al canvi), manca de maduresa (integració feble de plataformes de dades, expectatives inflades, incapacitat per captar el pendent de productivitat) o desalineament entre tecnologia i negoci. Tanmateix, aquestes explicacions resulten insuficients per captar la naturalesa específica dels sistemes d’IA en contextos organitzatius complexos. Sostenim, per tant, que el problema de fons neix en la conceptualització de la IA com una “eina”, cosa que enfosqueix el veritable repte al qual s’enfronta l’empresa: la fricció sistèmica, que desenvolupem breument en els apartats següents.
ÉS LA IA UNA “EINA”?
En el món corporatiu es considera que les “eines” —les tecnologies de la informació (TI)— incorporen el “model mental” compartit de l’empresa: les teories implícites de causa i efecte sobre com funciona l’organització (els seus processos) i la representació estructurada i transparent de la informació de gestió. Són, per tant, sistemes concebuts com a estables, deterministes i explicables, que, a més, han d’“alinear-se” necessàriament amb els processos de l’empresa. El seu èxit s’avalua principalment en termes d’adopció per part dels usuaris, cosa que facilita que els sistemes s’integrin progressivament en els processos existents, madurin i escalin mitjançant la incorporació de noves fonts de dades i el seu desplegament en més unitats de negoci dins de la corporació. Quan l’adopció és exitosa, emergeixen “bones pràctiques” que, per mimetisme institucional, es transfereixen cap a altres organitzacions, cosa que dona lloc a cicles d’adopció agregats a escala sectorial.
Les fallades dels sistemes d’IA solen explicar-se mitjançant narratives heretades dels projectes
de sistemes d’informació
La narrativa anterior té limitacions importants quan abordem la posada en marxa de sistemes d’IA. Tot i que ja hem destacat que existeixen diversos sistemes d’IA, gairebé tots comparteixen característiques similars. La IA no “processa informació” de manera lineal per generar eficiències, sinó que és un sistema obert que sintetitza i representa coneixement procedent de múltiples fonts de dades. Les seves representacions no són deterministes: produeix resultats probabilístics. No és transparent: els seus processos interns són en gran part opacs. Genera variabilitat: davant del mateix problema pot oferir respostes diferents al llarg del temps. I, en el cas dels agents d’IA, es poden definir objectius o propòsits i poden arribar a governar mitjans i recursos amb certs graus d’autonomia dels quals els sistemes tradicionals manquen. Per si no fos prou, hi ha molt pocs estàndards sobre els quals sustentar i integrar aquests sistemes amb altres d’existents.
Quan una organització s’enfronta a una tecnologia nova, el primer error és emmarcar-la malament en el seu “model mental”. Marshall McLuhan, pioner en l’estudi dels mitjans digitals, ho expressava així: “El mitjà és el missatge”. És a dir, no importa només què fa l’empresa amb una tecnologia (la finalitat) o com la posa en marxa i l’optimitza, ni de quins materials està feta, sinó comprendre que una tecnologia digital —i especialment la IA— és un “mitjà” a través del qual s’articulen coneixements amb el potencial de reconfigurar el poder, els temps i l’estructura organitzativa. Un sistema d’IA no es pot “alinear” amb un procés perquè els seus resultats són dinàmics (estadístics) en funció del context on es troba. En tot cas, es podrien trobar punts en què el sistema-empresa i el sistema d’IA fossin coherents, però això només pot produir-se temporalment. També se’n poden limitar els efectes i reduir-ne la funció a una mera automatització.
En definitiva, les propietats de la IA xoquen amb el model de les organitzacions empresarials: estructures pensades per a l’estabilitat, el control, les responsabilitats definides i uns ritmes de decisió a escala humana.
LA FRICCIÓ SISTÈMICA ENTRE EMPRESA I IA
El que es produeix entre la IA i l’empresa és “fricció”: allò que emergeix quan el sistema-empresa i el sistema-IA presenten incoherències o contradiccions —no només en forma d’“al·lucinacions”, sinó en desajustos estructurals més profunds—. No es tracta de “resistència dels usuaris”, sinó de “resistència de l’organització” com a sistema. Aquesta fricció no és un problema d’actitud individual, sinó d’incompatibilitat entre lògiques de funcionament, supòsits implícits, processos, incentius i formes de decisió. Algunes de les causes, no exhaustives, més freqüents d’aquesta fricció són:
- Opacitat en la síntesi de coneixement: costa explicar per què la IA “recomana” alguna cosa; els comitès demanen traçabilitat i responsabilitat.
- Desajust temporal: els models canvien i “aprenen” o “infereixen” més ràpid que els cicles de decisió, control i govern corporatiu.
- Desalineament d’autoritat: qui decideix quan la IA suggereix alguna cosa que contradiu un expert?
- Canvi en la divisió del treball: els sistemes d’IA poden erosionar algunes activitats. I, atesa la seva capacitat “generalista”, poden deixar obsolets els límits entre unitats o funcions empresarials.
- Erosió del judici de valoració de riscos: automatitzar sense redissenyar rols empobreix la capacitat de judici humà en alguns casos límit.
- Cascades d’error: petites desviacions algorítmiques s’amplifiquen en processos organitzatius rígids.
La fricció no és quelcom que cal evitar d’entrada; pot ser un signe d’oportunitat. Tanmateix, abordar la fricció que genera la intel·ligència artificial amb els models mentals de les “eines d’automatització” pot produir frustració i és perillós. En diverses empreses hem observat que, quan la IA s’introdueix des d’una unitat funcional (per exemple, màrqueting), es tendeix a confondre automatització amb redisseny organitzatiu. El resultat no és eficiència, sinó pèrdua de capacitats crítiques. En canvi, quan des de la IA s’integra la seva variabilitat cap a la proposta de valor, apareixen configuracions organitzatives més robustes. Una organització ha de comprendre que l’automatització és només una de les funcions de la IA
—en casos molt concrets—.
La IA no “processa informació” de manera lineal per generar eficiències, sinó que és un sistema obert que sintetitza i representa coneixement procedent de múltiples fonts de dades
ALTA OPCIONALITAT I ANTIFRAGILITAT
Quan una empresa no té l’estructura adequada i entra en fricció amb els sistemes d’IA, com cal procedir amb les inversions? Cal orientar la conversa cap a les prioritats estratègiques. Marcadors consultius com els estudis d’acceptació o els models de maduresa han estat útils en projectes de TI i de transformació digital, però mostren limitacions quan s’apliquen a sistemes d’IA, pel seu caràcter no determinista i el seu impacte organitzatiu més profund, com ja hem argumentat.
És convenient evitar grans projectes “visionaris” o molt ambiciosos, atès que l’empresa haurà de navegar en contextos d’alta incertesa. El que considerem més adequat és dissenyar un marc d’iniciatives amb alt potencial de creixement, que puguin assumir la variabilitat que introdueixin els agents d’IA, i assignar-hi els recursos humans i materials corresponents.
El cost de cada iniciativa s’ha de limitar, perquè no hi ha la seguretat que totes prosperin. El que sí que cal garantir és el seu potencial de creixement en les àrees adequades. Això és el que anomenem un portafolis d’“opcions” d’innovació en alta incertesa o “alta opcionalitat”. Alguns call centers han desenvolupat agents d’IA en funcions d’escalada d’incidents i en la formació dels agents, que ara funcionen a gran escala com a part de la seva proposta de valor i avantatge competitiu. En aquest enfocament que proposem, inspirat en l’antifragilitat —és a dir, la capacitat d’un sistema de canviar de forma i reforçar-se davant una disrupció—, no pot faltar l’ús de la intel·ligència humana: aquesta capacitat per emmarcar i resoldre problemes mai vistos anteriorment.
Una tecnologia digital –i sobretot IA— és un “mitjà” a través del qual s’emmarquen coneixements amb el potencial de reconfigurar poder, temps i estructura organitzativa
EL REPTE ÉS TECNOLÒGIC I INSTITUCIONAL
Perquè les iniciatives descrites a la secció anterior puguin prosperar, l’organització ha d’estar disposada a construir nous bastiments (unitats, rols dissenyats per a una fase concreta) i a entendre com aquests bastiments poden afectar les parets mestres (límits del sistema i arquitectura organitzativa).
Sense aquests bastiments, l’aprenentatge per a la integració de sistemes d’IA —en funció del seu abast— pot no ser possible. Dit d’una altra manera, la IA no és una reforma superficial: implica decidir quins límits del sistema han de canviar, quins s’han de reforçar i quins nous suports estructurals calen perquè l’organització pugui absorbir la fricció sense perdre coherència.
El talent necessari per dur a terme aquestes iniciatives és un híbrid entre:
1) estratègia
2) disseny organitzatiu
3) coneixement sobre IA
4) criteri per avaluar el coneixement generat per la IA
Canviar estructures pot no respectar les àrees clàssiques de l’empresa: el problema “no té cabuda” en cap de les “unitats” que organitzen l’empresa: ni és pur IT, ni pur canvi cultural, ni govern de dades, ni reorganització. La IA tampoc és una nova unitat burocràtica: és una tecnologia general i transversal. Per això el comitè de direcció és tan rellevant, tant en grans com en petites empreses.
En diverses empreses hem observat que, quan la IA s’introdueix des d’una unitat funcional (per exemple, màrqueting), es tendeix a confondre automatització amb redisseny organitzatiu
El que està en joc és l’avantatge competitiu en un entorn on el coneixement deixa de ser estable (decisió, disseny, relació amb clients, pricing, risc). Així, l’estratègia deixa de ser un exercici de posicionament estàtic sobre estructures fixes i passa a ser un problema d’arquitectura organitzativa dinàmica i adaptativa. En aquest context, competir ja no consisteix únicament a tenir millors dades o a optimitzar models, sinó a dissenyar una organització capaç d’absorbir incertesa i variabilitat sense perdre responsabilitat, criteri ni coherència estratègica. Les empreses que tractin la IA com un projecte de TI o un altre procés d’automatització quedaran atrapades en eficiències marginals; les que la integrin en el seu model de govern del coneixement redefiniran la seva proposta de valor.
Creiem que la conversa adequada s’hauria d’orientar cap al que significa decidir, conèixer, organitzar el treball i governar una organització amb un nou mitjà cognitiu com la IA. Les empreses es veuran obligades a repensar-se com a sistema: la seva arquitectura de poder, els seus òrgans de decisió i la relació entre persones i sistemes d’IA. És a dir, els seus models operatius i de negoci. Aquesta és la frontera: tecnològica i institucional. És aquí on es decideix si la IA serà un veritable catalitzador d’avantatge competitiu o una inversió més amb un impacte limitat
