Què hem de saber abans de començar?

• El risc de fiabilitat degradada: si la validació humana es relaxa amb el temps (per excés de confiança o per manca de temps), el sistema pot començar a difondre coneixement erroni amb la mateixa autoritat que el coneixement correcte.
• El risc de dependència excessiva: si les persones deixen de desenvolupar criteri propi perquè sempre reben la resposta ja elaborada, l’organització pot tornar-se més fràgil, no més capaç, a llarg termini —connectat amb el que hem vist sobre aprenentatge actiu.
• El risc de desconfiança i rebuig: si el sistema es percep com a vigilància, o si s’implanta sense transparència sobre quines fonts fa servir, les persones poden deixar de participar en els processos que alimenten el sistema.
• El risc d’homogeneïtzació: si tot el coneixement passa pel mateix sistema amb els mateixos criteris, es pot perdre la diversitat de perspectives que sovint és precisament la que genera aprenentatge i innovació.

Com fer-ho a la pràctica

• Dissenya revisions periòdiques de la qualitat de validació, no només revisions puntuals en llançar el sistema —el risc de fiabilitat degradada apareix amb el temps, no al principi.
• Aplica de forma conscient el que hem vist sobre aprenentatge actiu (IV.C.3) per mitigar la dependència excessiva, especialment en la formació de persones amb menys experiència.
• Sigues transparent des del principi amb cada procés que alimenta el sistema, sobre què es captura i amb quin propòsit.
• Deixa espai explícit per a perspectives divergents o minoritàries, en lloc que el sistema convergeixi sempre cap a una única resposta «oficial» per a cada pregunta.

Errors freqüents i consells

• Centrar tota la gestió de riscos en aspectes tècnics (seguretat, privacitat) i descuidar els riscos de procés i de confiança, que solen ser els que més determinen l’èxit o el fracàs real.
• Esperar que un risc es materialitzi de forma visible per començar a gestionar-lo, en lloc d’anticipar-lo des del disseny del sistema.
• Implantar controls tan estrictes per por d’aquests riscos que el sistema perd tota la seva agilitat, caient en l’extrem oposat.

Consell: revisa aquesta llista de riscos no només en llançar el sistema, sinó cada vegada que canviï de forma rellevant d’escala o d’abast —un risc menor a petita escala pot esdevenir seriós a gran escala.

Per seguir llegint

Conèixer aquests riscos ajuda a prevenir-los des del disseny. La següent píndola connecta tot el que hem vist fins ara en un model de progressió: el model de maduresa en tres nivells, i la seqüència recomanada d’adopció.

Cas relacionat: El cas d’aquest àmbit il·lustra com una organització va anar gestionant aquests riscos —sobretot el de fiabilitat degradada i el de confiança— a mesura que el seu sistema avançava pels diferents nivells de maduresa.