Cuando escucho a los ejecutivos hablar sobre los riesgos de escalar la IA en sus empresas, lo que más tienen presente es la seguridad de la información. Es totalmente válido, pero no es lo único. De hecho, estos riesgos son relativamente sencillos de mitigar: son tangibles, medibles y existen múltiples soluciones tecnológicas de distinto costo para minimizarlos.

Sin embargo, el escalamiento de la IA trae otros riesgos que pueden pasar más desapercibidos: los relacionados con el talento. Gartner y otras consultoras advierten que la tecnología, por sí sola, no puede resolverlos. En esta columna los comparto con la intención de que quien me lea escoja estratégicamente cuáles priorizar, pues sería absurdo abordarlos todos al mismo tiempo, y más aún esperar a tener planes de acción para cada uno antes de escalar el uso de la IA.

Lo correcto es enfocarse en aquellos que tienen más chance de suceder según la cultura actual de la empresa y que tendrían más impacto en el negocio si se materializan". (Foto: Composición Gestión/ Gemini).
Lo correcto es enfocarse en aquellos que tienen más chance de suceder según la cultura actual de la empresa y que tendrían más impacto en el negocio si se materializan". (Foto: Composición Gestión/ Gemini).

Estos riesgos pueden ocurrir (o no) a medida que la IA se usa y se escala. Lo correcto es enfocarse en aquellos que tienen más chance de suceder según la cultura actual de la empresa y que tendrían más impacto en el negocio si se materializan. Para ellos, es clave generar planes preventivos sencillos y, sobre todo, definir cómo se van a medir a medida que crece el uso de la IA, para luego generar planes de mitigación más profundos si hiciera falta.

  • LEA TAMBIÉN: Practicantes: los casos en que Sunafil podría ordenar que ingresen a la planilla de la empresa

1. Desmotivación o rechazo. Es de los primeros que puede presentarse, cuando el mandato de la IA viene desde arriba sin una buena explicación. La gente puede asumir que es una amenaza para su trabajo y que viene a reemplazarla. Incluso el mejor talento puede empezar a mirar hacia afuera. Lo he visto en profesionales top de empresas como Google, que sienten que los obligan a entrenar a los agentes que los reemplazarán, sea o no sea esa la realidad.

2. Contenido que genera retrabajo. En inglés le dicen workslop: trabajos hechos con IA que se ven bien a primera vista, pero carecen de estructura, se repiten o no comunican bien la idea central. Quien los recibe tarda en entenderlos o tiene que arreglarlos y las consecuencias pueden ir desde la molestia de quien retrabaja hasta la pérdida de clientes o problemas legales.

  • LEA TAMBIÉN: Agrícola de EE.UU. entra a producir arándanos en Perú: ¿quién es su socio?

3. Amplificación de sesgos. La IA aprende de nuestra historia y repite, a escala, sus prejuicios. Por ejemplo, un filtro de CV entrenado con contrataciones pasadas puede descartar a mujeres para roles técnicos o a egresados de universidades fuera de la capital, sin que nadie lo haya decidido.

  • LEA TAMBIÉN: Finanzas Abiertas: SBS publica proyecto con primer bloque de normas

4. Despidos apresurados. Recortar personal asumiendo que la IA podrá hacer su trabajo, antes de comprobarlo, puede terminar en clientes insatisfechos, en recontratar más caro y en costos reputacionales. Le pasó a la fintech Klarna, que reemplazó con IA el equivalente a 700 agentes de atención al cliente. La IA resolvía la mayoría de las consultas, pero en los casos más complejos y personales la calidad no era la misma. Esto causó mucho ruido y la empresa tuvo que volver a contratar.

  • LEA TAMBIÉN: Estadounidense Vertiv pone la mira en Perú: la oportunidad para centros de datos que abre la IA

5. Falta de talento de sucesión. Como la IA ya hace research, análisis y presentaciones básicas, muchas empresas están contratando menos juniors. Pero los supervisores y gerentes del futuro necesitan formarse hoy, aprendiendo de sus líderes y del negocio. Si la reducción de talento junior es excesiva, luego no habrá talento bien entrenado que promover, que tome las riendas del negocio.

  • LEA TAMBIÉN: Gilat firma contrato por US$28 millones para modernizar banda ancha en Ica

6. Atrofia de habilidades clave. Esto ocurre cuando delegamos algo importante en nuestra profesión a la IA y al dejar de hacerlo nosotros, dejamos de entenderlo y eso limita nuestra capacidad de revisar lo que la IA genera. Por ejemplo, la IA puede programar, pero si el desarrollo de software es una competencia central de tu negocio, igual necesitas desarrolladores que sepan qué pedirle a los agentes de IA, revisen lo que entregan y entiendan cómo se integra con lo ya construido.

7. Reducción del aprendizaje interpersonal. Los seres humanos aprendemos y prosperamos cuando interactuamos con otros. Los líderes que vieron que el trabajo remoto limitaba esta fuente de ideas empezaron a exigir el regreso a las oficinas. Lo mismo podría pasar con los asistentes de IA. ¿Para qué preguntarle algo a mi compañero, si puedo preguntárselo a la IA? La IA puede aislarnos aunque estemos uno al lado del otro, como ya lo hicieron los smartphones. Es de lo que más me preocupa personalmente, porque si dejamos de aprender de otros, a la larga podemos perder el sentido de pertenencia a las comunidades que nos rodean.

  • LEA TAMBIÉN: Capitales de España y Chile alistan nuevos almacenes logísticos en Lima para 2027

La tecnología se compra, pero la confianza, las capacidades y la cultura se construyen. Si alguno de estos riesgos ya está ocurriendo en tu empresa con consecuencias potencialmente serias y sin que nadie lo mida, es hora de actuar.

Ana María Martínez es cofundadora de Kaudal

Leer artículo completo en gestion.pe →