La IA que necesitamos:
trazable, explicable
y con humanos al mando

Boston Consulting Group acaba de publicar un esquema que merece más atención de la que suelen recibir este tipo de matrices corporativas. No es un mapa de automatización. Es, si se lee bien, una declaración sobre los límites de la inteligencia artificial en uno de los sectores donde más se juega: el seguro de daños y la gestión de siniestros.

El esquema recorre las siete fases del ciclo de vida de un siniestro —Presiniestro, FNOL, Triaje, Investigación, Negociación, Resolución y Postsiniestro— y para cada una establece con precisión qué hace el agente de IA y dónde interviene el ser humano. No como residuo de lo que la máquina no puede hacer. Como protagonista de lo que la máquina no debe hacer.

Y ahí está la tesis que importa.

El agente de IA actúa. El humano decide.

En la fase de Negociación, el modelo de BCG es inequívoco: la IA aporta antecedentes y prepara el terreno. El ser humano lidera la negociación con empatía, discreción y criterio ético. En Resolución, la máquina automatiza pagos y prepara documentos, pero es el profesional quien aprueba excepciones y garantiza cumplimiento y equidad. En Postsiniestro, el sistema recalibra estrategias de portafolio, pero es la persona quien interpreta los datos de satisfacción y reconstruye la confianza.

Este patrón no es accidental. Es estructural. BCG está reconociendo algo que muchas organizaciones todavía evitan nombrar: hay decisiones que no pueden delegarse a un modelo probabilístico, por sofisticado que sea. Decisiones donde el error no es un dato de entrenamiento sino una injusticia real para una persona real.

La pregunta es si el sector asegurador está leyendo esto con la suficiente profundidad.

El problema no es la tecnología. Es el marco.

Hay una diferencia crítica entre una IA que asiste y una IA que decide. No es semántica. Es jurídica, ética y reputacional. Cuando un sistema automatizado deniega una cobertura, recalibra una póliza o cierra un siniestro sin intervención humana verificable, se genera un vacío de responsabilidad que ningún algoritmo puede llenar.

Por eso la tesis de BCG —"los humanos asumen una mayor carga de responsabilidad"— es, más que una advertencia, un programa de trabajo. Y ese programa tiene tres pilares que el sector debe exigir con urgencia:

Sin estos tres atributos, no hay marco responsable. Hay opacidad. Y la opacidad, en el seguro, es inaceptable.

La humanidad se juega demasiado para dejar esto en manos de unos pocos.

El esquema de BCG aplica al seguro, pero la lógica es universal. Vivimos un momento en que los sistemas de inteligencia artificial están siendo desplegados a escala planetaria en sanidad, justicia, educación, finanzas y defensa. Y en todos esos ámbitos, la tentación es la misma: retirar al humano porque es más lento, más caro y más impredecible.

Es exactamente el razonamiento equivocado.

El ser humano no es un parche en el sistema. Es la fuente de la responsabilidad moral, el único agente capaz de responder ante el daño causado, el único con legitimidad para tomar decisiones que afectan a vidas concretas. Retirarle de la cadena decisional no es eficiencia. Es evasión.

Y cuando esa evasión la practican organizaciones con el poder tecnológico y financiero de los grandes desarrolladores de IA, el riesgo no es corporativo. Es irreversible.

BCG lo sabe. Por eso dibuja ese esquema. La pregunta es si los reguladores, los consejos de administración y los líderes del sector asegurador están dispuestos a convertirlo en estándar no negociable.