La IA no se delega. Se gobierna.

Serie «Entender la IA», nota 12 de 12. Esta nota cierra la serie. Está escrita para quien tiene que decidir, y da por leídas las once anteriores, aunque empieza resumiéndolas para quien llega aquí primero.

Martes, 16:00, el consejo de una empresa familiar de distribución en Ginebra, tercera generación. Último punto del orden del día: «Inteligencia artificial». La presidenta lo ha puesto porque un competidor ha anunciado algo, porque su hijo le ha enseñado un asistente en el móvil y porque el director financiero lleva meses diciendo que hay que hacer algo. Pregunta al consejo: «¿Y qué hacemos con la IA?». Siguen cuarenta minutos en los que se habla de agentes, de un proveedor que llamó la semana pasada y de un piloto que hizo la filial alemana. Al terminar, el acta dice: «Se acuerda seguir estudiando el tema». Es la tercera vez este año.

La escena es imaginaria. El acta, no. La pregunta «¿qué hacemos con la IA?» no tiene respuesta porque no es una pregunta de dirección: es una pregunta de tecnología disfrazada. Las preguntas de dirección son otras, son siete, y caben en una reunión de una hora si se llega con lo que esta nota da: un resumen honesto de lo que es, una lista de lo que solo la dirección puede decidir, un marco para no inventar la rueda y una agenda.

No hace falta que quien dirige entienda cómo funciona el modelo. Hace falta que decida dónde se usa, quién responde y qué no se automatiza. Eso no se puede delegar.

Lo que hay que saber, en siete frases.

• Un modelo de lenguaje predice el texto más probable. No busca la verdad; casi siempre coinciden. (Notas 1 y 2.)
• Se equivoca con seguridad, y le da la razón. Por eso toda decisión con consecuencias se queda con una persona, y a todo análisis se le pide el argumento en contra. (Nota 2.)
• La mayor parte de lo que su empresa necesita automatizar sigue siendo software clásico. El modelo se reserva para lo que ninguna regla sabe hacer: leer, clasificar, extraer, resumir, redactar. (Notas 3 y 4.)
• Ayuda mucho en unas tareas y perjudica en la de al lado, sin que se vea la línea desde fuera. Los estudios serios miden un 14 % a un 40 % de mejora dentro de la frontera y una caída fuera de ella. (Nota 4.)
• Cadenas cortas, comprobaciones entre pasos, permisos uno a uno. Un agente de catorce pasos que acierta el 95 % en cada uno falla la mitad de las veces. (Nota 5.)
• El proyecto empieza antes del proveedor: un proceso con un número, documentos limpios, cincuenta casos de oro, modo sombra, revisión por riesgo, y alguien de negocio con el número en su objetivo. Lo que no se hace así es parte del 95 % sin retorno. (Notas 6, 7 y 8.)
• La ley ya se aplica, la seguridad es sobre todo permisos y datos, y los puntos ciegos son la vigilancia que nadie presupuesta. (Notas 9, 10 y 11.)

Lo que solo la dirección puede decidir.

Hay seis decisiones que, cuando se dejan al equipo técnico o al proveedor, salen mal, no porque sean malos, sino porque no son suyas.

• Dónde, y dónde no. Qué procesos se automatizan primero y cuáles no se tocan: selección de personal, decisiones sobre clientes con efectos legales, cualquier cosa en la que la empresa no quiera explicar a un cliente que lo decidió una máquina. Es una decisión de criterio y de marca, no de tecnología.
• Cuánto error se acepta, y a cambio de qué. Ningún sistema acierta siempre. La dirección fija el umbral por proceso: el 99 % en facturas con revisión del resto, el 100 % con firma humana en todo lo que sale a un cliente. Sin ese número, el equipo técnico pondrá el suyo.
• Quién responde. Un nombre por sistema, de negocio, con el número en su objetivo anual y con autoridad sobre cómo trabaja su equipo. El responsable técnico ayuda; el responsable de negocio responde.
• Qué datos salen de casa, a quién y bajo qué contrato. Con la lista de proveedores, dónde procesan, si entrenan con sus datos y cómo se borran. Es la decisión que la ley le exige tomar, y la que más tarde se arrepiente de haber delegado.
• Qué sabe la gente. Qué formación recibe cada persona que usa un sistema: qué hace, cómo falla, qué comprueba. En la Unión Europea es obligación desde febrero de 2025 (artículo 4 del Reglamento de IA); en Suiza es sentido común con fecha de caducidad.
• Qué pasa el lunes si se apaga. El procedimiento manual, las conexiones con estándares abiertos y la propiedad de los casos, los documentos y los registros. Es la decisión de no depender, y solo se toma a tiempo si la toma quien firma el contrato.

Un marco para no inventar la rueda.

No hace falta diseñar un sistema de gobierno desde cero. En enero de 2023, el Instituto Nacional de Estándares y Tecnología de Estados Unidos, el NIST, publicó un marco voluntario de gestión de riesgos de la IA que se ha convertido en la referencia más usada, también en Europa, porque no es una ley sino una forma de organizar el trabajo. Tiene cuatro funciones con nombres de verbo: gobernar, la cultura, los roles y las políticas; mapear, el contexto y los riesgos de cada uso; medir, con métricas y pruebas; y gestionar, actuar sobre lo medido y vigilar. En julio de 2024 el NIST añadió un perfil específico para la IA generativa, que lista los riesgos propios de estos modelos, desde las invenciones hasta la fuga de datos, con prácticas para cada uno.

Para una empresa mediana, el marco entero cabe en cuatro documentos de una página cada uno, y le recomiendo que existan antes del segundo proceso: un registro de los sistemas de IA en uso, con su responsable, su proveedor, sus datos y su umbral de error; una política de dos páginas sobre qué se puede usar, con qué datos y qué no se pega nunca; el cuaderno de vigilancia de cada sistema, con los cincuenta casos y las cinco comprobaciones semanales; y un procedimiento de incidentes: qué se hace cuando un sistema dice algo que no debía, quién apaga, quién avisa, quién corrige. Gobernar, mapear, medir, gestionar. Lo demás es tamaño.

Siete preguntas para el comité.

Son las que sustituyen a «¿qué hacemos con la IA?». Se hacen en este orden, y las respuestas caben en una hoja.

• ¿Qué usa ya nuestra gente, con qué datos? Si la respuesta es «nada», está mal: el 75 % de los trabajadores del conocimiento usaba IA en 2024, el 78 % con herramientas propias.
• ¿Qué número de la empresa queremos cambiar primero, y cuánto? Un proceso, una cifra, una fecha. Lo que no quepa en una frase no se aprueba.
• ¿Qué no vamos a automatizar, y por qué? La lista de lo que se queda con personas, escrita y firmada.
• ¿Quién responde de cada sistema, con qué umbral de error? Un nombre y un porcentaje por sistema.
• ¿Dónde están nuestros datos y bajo qué contrato? Proveedores, países, entrenamiento, borrado. Si nadie lo sabe, es la primera tarea.
• ¿Cuánto hemos gastado y qué está en producción? Licencias, consultoría, horas internas, frente a sistemas que funcionan un martes a las seis de la tarde.
• ¿Qué haríamos el lunes si todo esto se apagara? Si la respuesta tarda más de un minuto, hay una dependencia sin gestionar.

Lo que dicen quienes ya decidieron.

Conviene decidir sabiendo cómo les fue a otros. En mayo de 2025, IBM publicó su encuesta a 2000 consejeros delegados de todo el mundo. Solo el 25 % de las iniciativas de IA había dado el retorno esperado; el 16 % se había extendido a toda la empresa; el 64 % reconocía haber invertido antes de entender el valor, por miedo a quedarse atrás; el 61 % estaba adoptando agentes; y la mitad señalaba la acumulación de tecnologías desconectadas como un freno. Léalo como un mapa de lo que no hacer: invertir por miedo, sin número, sin extender lo que funciona y sumando herramientas que no se hablan. Cada una de las siete preguntas de arriba evita una de esas cifras.

Una agenda de doce meses.

Doy una agenda tipo para una empresa de entre 20 y 300 personas, con un presupuesto que no se decide en enero sino en octubre, con números.

1. Meses 1 a 3

   Saber y ordenar

   Inventario de lo que ya se usa. Política de dos páginas y herramienta oficial con datos protegidos. Mapa de los nueve verbos por departamento. Elección del primer proceso con su número. Formación de media jornada para dirección y responsables.

2. Meses 3 a 6

   El primer proceso

   Documentos limpios, cincuenta casos de oro, lo más simple que resuelva el caso, cuatro semanas de modo sombra, encendido por tramos. Responsable de negocio nombrado. Registro de sistemas creado con una línea.

3. Meses 6 a 9

   Medir y repetir

   La cuenta de la nota 7 con los números reales. Cuaderno de vigilancia en marcha. Segundo proceso elegido con lo aprendido, en administración u operaciones, no en lo vistoso. Revisión de contratos con proveedores: datos, entrenamiento, borrado, salida.

4. Meses 9 a 12

   Decidir con números

   Dos sistemas en producción medidos. Procedimiento de incidentes probado una vez. Simulacro del lunes. Presupuesto del año siguiente decidido sobre retorno medido, no sobre miedo. Y una lista escrita de lo que no se automatiza.

Lo que no he dicho en doce notas.

He evitado dos cosas a propósito. No he dicho que la IA vaya a cambiar su sector, porque no lo sé y porque quien lo afirma suele vender algo. Y no he dicho que no haya que hacer nada, porque su gente ya está haciendo algo, y porque los procesos aburridos de administración, los que nadie mira, devuelven dinero real cuando se automatizan con criterio. Entre el entusiasmo y la parálisis hay un camino estrecho y bastante aburrido: un proceso, un número, cincuenta casos, cuatro semanas de sombra, un responsable, dos horas de vigilancia a la semana. Es menos emocionante que una presentación. Es lo que funciona.

Cómo lo planteo yo.

Mi trabajo con una empresa empieza por las siete preguntas, no por una demostración. El Diagnóstico Estratégico es la respuesta a las tres primeras, con el mapa y los números de la empresa. El Análisis de Automatización es el primer proceso llevado hasta los cincuenta casos y un presupuesto cerrado. Después se construye, en sombra, con cuaderno de vigilancia y con un responsable que no soy yo. Porque lo que esta serie ha intentado decir, de doce maneras, es una sola cosa: la IA es una herramienta muy buena en manos de quien entiende qué es y quién responde. Y eso, en su empresa, es usted.

Una última prueba, la más corta de la serie. Escriba en una hoja el nombre de la persona que responde en su empresa si un sistema de IA se equivoca con un cliente. Un nombre, no un departamento.

Si lo ha escrito sin dudar, enséñeselo a esa persona y compruebe que lo sabe. Si ha dudado, ya tiene la primera decisión del comité. Y si ha escrito el suyo, la pregunta cambia: ¿qué necesita saber usted para firmar esa responsabilidad con tranquilidad? Estas doce notas han intentado contestarla. Solo usted sabe si lo han conseguido.

Fin de la serie. Las doce notas están en la categoría «Entender la IA», en orden, en los cinco idiomas de esta web. Si quiere empezar por la primera: «Qué es la inteligencia artificial, sin magia».