06-7

Los cinco miedos que aparecen siempre en un proyecto de IA

Lectura MIIAGuillermo Vallejo

La respuesta corta

Casi siempre son los mismos cinco: que los datos acaben fuera, que el sistema invente, que no se recupere la inversión, que el equipo no lo use y que la empresa quede atada al proveedor. Cuatro están bien planteados. Uno está mal formulado, y conviene saber cuál antes de firmar.

De dónde sale esta lista

De las conversaciones previas a un proyecto, no de un informe. Son las objeciones que un director de tecnología o un consejo ponen encima de la mesa antes de aprobar nada, y conviene tratarlas como lo que son: criterios de decisión razonables, no resistencia al cambio. Un proveedor que las despacha como miedo al progreso está evitando la parte difícil de su propio trabajo.

Los cinco, uno a uno

1. «Mis datos van a acabar entrenando un modelo ajeno.»

Está bien planteado y se resuelve por contrato y por arquitectura, no por confianza. Lo que hay que exigir es concreto: qué proveedor trata cada dato, bajo qué condiciones, si el tratamiento excluye el entrenamiento por defecto o hay que desactivarlo expresamente, y dónde vive la información. «Nuestro proveedor es serio» no responde a ninguna de esas preguntas.

2. «El sistema va a inventarse cosas.»

Apunta a algo real, pero está mal formulado: lo vemos más abajo. Tampoco tiene solución completa, que es distinto de no tener solución. Se ancla cada respuesta a una fuente, se verifica, y se diseña la abstención: que el sistema prefiera no contestar antes que arriesgar. Lo que no existe es la garantía de que nunca falle. Quien la ofrezca está vendiendo algo que la industria no sabe construir.

3. «No vamos a recuperar la inversión.»

Está bien planteado, pero conviene afinarlo: la pregunta útil es cuándo se recupera. Casi nueve de cada diez empresas encuestadas declaran que el retorno de su IA va por detrás de su gasto (Roland Berger, mar-2026, consultora con oferta de IA, parte interesada). Eso mide un desfase: el coste llega antes que el valor. Y el coste de un sistema de IA está sobre todo en operarlo, y crece con el uso. Por eso la cifra que hay que pedir es cuánto cuesta cada mes que esté funcionando.

4. «Mi equipo no lo va a usar.»

Está bien planteado y suele subestimarse. El cuello de botella casi nunca es el modelo: es la absorción organizativa. Un sistema que funciona y que nadie usa no produce nada. Lo que conviene mirar es si el proyecto mide adopción y valor o mide asistencia a una formación, que es un dato sobre la convocatoria y no sobre el sistema.

5. «Vamos a quedar atados al proveedor.»

Está bien planteado, y ayuda mirar dos datos juntos. El liderazgo entre modelos cambia cada pocas semanas, así que atarse a uno concreto envejece mal (lo contamos en «El mejor modelo caduca en semanas»). Y la fiabilidad tampoco se compra cambiando de fabricante: en los tres grandes que mide un estudio de Princeton (ICML 2026), las mejoras de capacidad apenas se han traducido en más fiabilidad. Lo que protege es que lo que construyes alrededor (los datos, las reglas, el criterio escrito) sea tuyo y sirva con cualquier modelo.

El que está mal formulado

Es el segundo, y merece la pena verlo despacio porque cambia qué hay que pedir.

El riesgo no es que el sistema se invente cosas. Es que nadie se dé cuenta. Un sistema que falla de forma visible es un problema acotado: se corrige. Uno que falla de forma plausible entra en una decisión sin que nadie lo revise.

Y ahí hay un dato incómodo. En pruebas de razonamiento, cuando la gente consultó al asistente y este se equivocaba, se quedó con la respuesta errónea en el 73,2 % de los casos: casi tres de cada cuatro (Wharton, ene-2026, working paper, sin revisión por pares). Si eso le pasa a quien usa el asistente, poner a una persona a supervisar no basta por sí solo. Hay que diseñar esa supervisión y medir que funciona.

Reformulado, el miedo útil es: «¿cómo sabremos que se ha equivocado?». Y esa pregunta sí tiene respuestas concretas: trazabilidad de qué respondió y con qué información, umbrales de confianza, y supervisión puesta donde el error es caro, no repartida por igual para que parezca que hay control.

Qué preguntar antes de firmar

Cinco preguntas, una por miedo, y ninguna es técnica:

  1. ¿Quién trata cada dato y bajo qué condiciones, por escrito?
  2. ¿Qué hace el sistema cuando no está seguro, y cómo lo sabré yo?
  3. ¿Cuánto cuesta operarlo al mes, y en qué punto se espera que cruce el gasto?
  4. ¿Qué vamos a medir para saber si se usa, y quién mira ese número?
  5. Si mañana cambiamos de modelo o de proveedor, ¿qué se queda en casa?

Si alguna de las cinco no tiene respuesta antes de empezar, esa es la que va a dar problemas.

Lo que todavía no está claro

Cuánto del desfase entre coste y valor es propio de esta tecnología y cuánto es el patrón normal de cualquier inversión en sistemas. No hay serie larga, y los estudios disponibles los publican empresas que, como nosotros, venden en este mercado. Y sobre la supervisión humana, lo medido es que falla más de lo que se cree. Cuánto mejora cuando se diseña bien es algo que todavía no hemos visto medido de forma convincente.

Fuentes de este artículo