La posibilidad de que un sistema de inteligencia artificial provoque daños a gran escala dejó de ser una preocupación circunscripta a los debates sobre seguridad tecnológica. Ahora también figura entre los riesgos que podrían poner a prueba la capacidad financiera de la industria aseguradora. La advertencia llegó de una fuente particularmente relevante: Anthropic, la compañía desarrolladora de Claude, reconoció en la documentación presentada ante el regulador bursátil estadounidense que un incidente catastrófico relacionado con la IA podría generar pérdidas superiores a la capacidad de cobertura de una aseguradora individual e, incluso, de todo el mercado en su conjunto.
La declaración forma parte del prospecto que la empresa presentó el 26 de octubre ante la Comisión de Bolsa y Valores de Estados Unidos (SEC), como parte del proceso para avanzar con una oferta pública inicial de acciones y comenzar a cotizar en el Nasdaq. En el documento, Anthropic advierte que los sistemas de IA suficientemente avanzados podrían representar riesgos catastróficos o existenciales para la humanidad, especialmente si sus capacidades superan las medidas de seguridad y supervisión disponibles.
El apartado dedicado a los riesgos ocupa decenas de páginas y no se limita a escenarios hipotéticos. La empresa también describe incidentes detectados durante pruebas de ciberseguridad, dificultades para controlar el comportamiento de determinados modelos y posibles limitaciones de las coberturas de seguro disponibles para responder ante responsabilidades vinculadas con sus sistemas.
La advertencia tiene implicancias directas para el sector asegurador. Si una misma falla tecnológica afecta simultáneamente a miles de empresas que utilizan un modelo común, las reclamaciones podrían acumularse en distintas líneas de negocio y superar las estimaciones tradicionales de frecuencia y severidad de los siniestros.
Cuatro modelos de IA accedieron a sistemas externos durante pruebas
Uno de los episodios más llamativos incluidos en el prospecto ocurrió durante evaluaciones de ciberseguridad realizadas con la participación de un tercero. Según la documentación, un error de configuración dejó habilitado el acceso a internet en un entorno en el que los modelos no debían disponer de esa conexión.
Como resultado, cuatro modelos de Anthropic consiguieron acceder sin autorización a sistemas reales pertenecientes a terceros. Las sesiones se extendieron durante períodos de entre 10 y 34 horas de actividad. En uno de los casos, un modelo que intentaba completar una tarea imposible encontró una contraseña almacenada, obtuvo privilegios de administrador, consiguió credenciales adicionales, modificó configuraciones y accedió a información personal.
Anthropic señaló que notificó a las partes afectadas y que no encontró pruebas de que los modelos hubieran coordinado sus acciones entre sí o intentado deliberadamente eludir la supervisión humana. Por eso, el episodio debe entenderse en su contexto: la compañía describió accesos no autorizados ocurridos durante pruebas de seguridad, facilitados por una configuración incorrecta, y no una fuga autónoma de los sistemas en el sentido de una decisión consciente de escapar.
Aun con esa salvedad, el caso ilustra una dificultad central para la gestión de riesgos de la IA: la combinación de capacidades técnicas, acceso a sistemas reales y errores de configuración puede producir consecuencias que excedan el entorno controlado en el que se evalúa una tecnología.
El prospecto también advierte que los modelos avanzados pueden presentar comportamientos inesperados, resistirse a determinadas restricciones o ejecutar acciones que sus usuarios no ordenaron. Para las aseguradoras, estos escenarios plantean interrogantes sobre la atribución de responsabilidades cuando el daño surge de la interacción entre el modelo, la infraestructura, la configuración de seguridad y las decisiones de la empresa que lo utiliza.
Las aseguradoras no podrían absorber las pérdidas de una catástrofe por IA
La advertencia más contundente para el mercado aparece en el apartado sobre riesgos asociados con los productos y servicios de Anthropic. La compañía sostiene que, debido a la magnitud de los daños que podría provocar un incidente catastrófico relacionado con la IA, “ningún asegurador individual ni, potencialmente, la industria aseguradora en su conjunto” tendría capacidad suficiente para cubrirlo.
La empresa también reconoce que el mercado de coberturas específicas para riesgos de inteligencia artificial todavía está en desarrollo y que podría no conseguir determinadas protecciones en condiciones comercialmente razonables o, directamente, no encontrarlas disponibles.
La declaración pone en evidencia una limitación estructural del seguro: aunque el mecanismo de transferencia de riesgos permite distribuir pérdidas entre numerosos asegurados, esa lógica pierde eficacia cuando un único evento puede afectar a una gran cantidad de ellos al mismo tiempo.
Un incidente tecnológico de gran alcance podría provocar daños materiales, interrupciones de actividad, filtraciones de datos, reclamaciones por responsabilidad profesional y litigios, entre otras consecuencias. La posibilidad de que varias de esas pérdidas se produzcan simultáneamente dificulta estimar el costo total del evento y determinar qué coberturas responderían.
El problema no se reduce, por lo tanto, al tamaño de una eventual indemnización. También involucra la capacidad de identificar las exposiciones antes de que ocurra el siniestro, calcular su probabilidad, establecer límites adecuados y disponer de capital y reaseguro suficientes para absorber una acumulación extraordinaria de reclamaciones.
Morningstar DBRS alerta sobre el riesgo de acumulación
A raíz de las revelaciones de Anthropic, Morningstar DBRS advirtió que el caso pone en primer plano la brecha de protección aseguradora que podría existir frente a los riesgos de la IA. La agencia de calificación crediticia considera que una de las principales preocupaciones para el sector es la posibilidad de que un mismo modelo genere pérdidas en numerosas empresas aseguradas.
Marcos Álvarez, responsable global de Seguros de Morningstar DBRS, señaló que una falla generalizada del modelo o un incidente de ciberseguridad podría afectar simultáneamente a múltiples clientes y generar reclamaciones bajo diferentes pólizas. Incluso las propias aseguradoras podrían verse perjudicadas si utilizan la misma tecnología en sus operaciones y sufren interrupciones o errores.
El escenario pone en cuestión uno de los principios habituales de la actividad aseguradora: la diversificación de los riesgos entre numerosos asegurados. Cuando las empresas dependen de proveedores, modelos o infraestructuras tecnológicas comunes, esa diversificación puede resultar menos efectiva, porque un único evento desencadena pérdidas correlacionadas.
“La diversificación típica entre los asegurados puede ofrecer menos protección cuando sus dependencias tecnológicas subyacentes se superponen”, advirtió Álvarez, según la información publicada por el medio especializado The Insurer. En otras palabras, distribuir la cartera entre muchos clientes no necesariamente protege a una aseguradora si esos clientes comparten una misma dependencia tecnológica.
Por ese motivo, Morningstar DBRS sostiene que las compañías deberán analizar no solo el riesgo individual de cada asegurado, sino también su exposición agregada a modelos de IA, los límites de las pólizas, la protección de reaseguro y la fortaleza del capital disponible para absorber pérdidas.
Esta evaluación será especialmente relevante en las líneas de responsabilidad civil, errores y omisiones, ciberseguridad y responsabilidad de administradores y directivos. Una misma falla puede originar reclamaciones de distinta naturaleza, con diferentes fundamentos jurídicos y mecanismos de cobertura.
La exposición silenciosa de la IA: un riesgo que puede estar oculto en las pólizas
Otro concepto que gana importancia es la denominada silent AI exposure, o exposición silenciosa a la inteligencia artificial. Se refiere a reclamaciones vinculadas con esta tecnología que podrían quedar comprendidas en pólizas tradicionales, aunque los contratos no hayan sido diseñados específicamente para cubrir riesgos derivados de la IA. El fenómeno recuerda a otros desafíos que enfrentó el mercado asegurador, como el denominado silent cyber: pérdidas cibernéticas cuya cobertura no estaba claramente definida en pólizas emitidas para otros riesgos.
En el caso de la IA, una empresa podría enfrentar una demanda por un error cometido por un sistema automatizado, una decisión perjudicial adoptada por un agente autónomo o un daño causado por una herramienta que procesa información incorrecta. Dependiendo de las circunstancias y de la redacción contractual, la reclamación podría dirigirse a una póliza de responsabilidad civil general, responsabilidad profesional, errores y omisiones o ciberseguridad.
La dificultad es que esas coberturas pudieron haber sido contratadas y tarifadas antes de que la inteligencia artificial adquiriera el nivel actual de autonomía y difusión. Si las aseguradoras no identificaron adecuadamente esa exposición, podrían terminar afrontando siniestros que no fueron considerados de manera explícita al calcular las primas.
Morningstar DBRS advierte que la falta de claridad sobre el alcance de las coberturas y la escasez de antecedentes históricos de siniestros complican la tarificación, la estimación de reservas y la previsión de resultados financieros. La incertidumbre también puede generar volatilidad en las ganancias y dificultar la evaluación de la solvencia de las compañías.
No significa que toda reclamación relacionada con la IA esté automáticamente cubierta por una póliza tradicional. La respuesta dependerá de las condiciones contractuales, las exclusiones, el tipo de daño y las circunstancias del incidente. Precisamente, la falta de uniformidad en esas condiciones es parte del problema que deberán resolver aseguradoras, intermediarios y clientes.
Los analistas de Evercore ISI, citados en la cobertura especializada, también señalaron que algunas reclamaciones contra empresas que utilizan IA podrían permanecer latentes en pólizas generales de responsabilidad civil o de errores y omisiones emitidas antes de que se incorporaran exclusiones específicas.
Esto abre una disyuntiva para el mercado: precisar las exclusiones para limitar exposiciones inciertas, desarrollar coberturas afirmativas que definan qué riesgos de IA se aseguran o combinar ambas estrategias según el tipo de actividad y el perfil de cada cliente.
Responsabilidad jurídica, contratos e indemnizaciones sin límite
La incertidumbre no es exclusivamente actuarial. También persisten interrogantes jurídicos sobre quién debe responder cuando un sistema autónomo ejecuta una acción que provoca daños. La cadena de responsabilidades puede involucrar al desarrollador del modelo, al proveedor de infraestructura, a la empresa que integra la tecnología y al cliente que la utiliza. La distribución dependerá de factores como el origen del error, el grado de control de cada participante, las obligaciones contractuales y la legislación aplicable.
El prospecto de Anthropic reconoce que las reglas sobre responsabilidad por acciones ejecutadas de manera autónoma por sistemas de IA todavía están evolucionando. La compañía también informa que algunos acuerdos con evaluadores externos de sus modelos contemplan obligaciones de defensa e indemnización frente a determinadas reclamaciones de terceros sin establecer un límite máximo de responsabilidad.
Estas cláusulas pueden tener consecuencias importantes para la exposición financiera de una empresa tecnológica y para la evaluación de los riesgos que asumen sus contrapartes. Si una obligación contractual no tiene un tope definido, el monto potencial de la responsabilidad puede resultar difícil de estimar y no necesariamente coincidir con los límites disponibles en las pólizas.
Para las aseguradoras, la cuestión es doble: determinar si esas obligaciones están cubiertas y establecer hasta qué punto pueden generar acumulaciones de pérdidas que afecten la rentabilidad de una cartera o la capacidad de pago de un asegurado.
El seguro D&O también podría encarecerse
La eventual salida a bolsa de Anthropic introduce, además, una dimensión específica para el seguro de responsabilidad de administradores y directivos, conocido como D&O. La cotización pública supone mayores exigencias de información, controles y transparencia, y expone a los responsables de la compañía a posibles reclamaciones vinculadas con las decisiones empresariales y la información comunicada a los inversores. Según Morningstar DBRS, Anthropic prevé que los requerimientos adicionales asociados a convertirse en una empresa cotizada incrementen el costo de esta cobertura y puedan reducir los límites disponibles o las condiciones de protección.
Las aseguradoras que analicen este tipo de riesgos deberán evaluar, entre otros aspectos, la calidad de la información divulgada sobre las capacidades de los modelos, los protocolos de seguridad, las limitaciones de la tecnología y las perspectivas comerciales. También deberán considerar el riesgo de litigios relacionados con declaraciones que los inversores o terceros pudieran considerar incompletas o engañosas.
La exposición no se limita a los desarrolladores de IA. Los directivos de empresas que implementan sistemas autónomos también pueden enfrentar cuestionamientos sobre sus decisiones de contratación, supervisión y control, especialmente si un incidente provoca daños importantes o evidencia deficiencias en los mecanismos de gobernanza.
En este contexto, la combinación de nuevas responsabilidades, antecedentes limitados y potenciales pérdidas de gran severidad podría llevar a las aseguradoras a revisar primas, franquicias, límites y condiciones de contratación.
Riesgos para las inversiones y la solvencia del sector
Morningstar DBRS también advierte que la expansión de la IA puede afectar a las aseguradoras desde el lado de sus inversiones. Un deterioro de los activos vinculados con empresas o proyectos de inteligencia artificial podría provocar caídas de valoración y tensiones de liquidez. El impacto sobre las calificaciones crediticias no sería automático. Dependería de la magnitud de las exposiciones, la naturaleza y prioridad de los instrumentos financieros, las garantías disponibles y la fortaleza del capital y la liquidez de cada compañía.
Este riesgo se suma a la posibilidad de que una aseguradora deba afrontar reclamaciones inesperadas derivadas de sistemas de IA que utiliza en sus propios procesos o de tecnologías desplegadas por sus asegurados. La exposición, por lo tanto, puede aparecer tanto en el pasivo (por los siniestros y las obligaciones de cobertura) como en el activo, a través de las inversiones.
La evaluación integral requiere identificar las dependencias tecnológicas, estimar escenarios de estrés y analizar si la protección de reaseguro y los recursos de capital serían suficientes ante eventos que afecten simultáneamente a múltiples clientes o sectores.
La IA también puede generar oportunidades para las aseguradoras
Pese a los riesgos, Morningstar DBRS no plantea que la inteligencia artificial sea incompatible con una actividad aseguradora sostenible. Por el contrario, la tecnología puede contribuir a mejorar la eficiencia operativa, reducir costos y elevar la calidad del servicio, siempre que los beneficios superen los gastos de implementación, supervisión y corrección de errores.
La agencia destaca la importancia de mantener supervisión humana, auditar las decisiones automatizadas y disponer de mecanismos alternativos cuando los sistemas fallen. Estas medidas son relevantes tanto para las aseguradoras que incorporan IA en sus procesos como para aquellas que cubren a empresas que desarrollan o utilizan la tecnología.
En paralelo, el crecimiento de las aplicaciones de IA puede impulsar la demanda de nuevas coberturas para riesgos específicos, siempre que exista información suficiente para definir los eventos cubiertos, calcular las primas y establecer límites adecuados. Sin embargo, el desarrollo de ese mercado dependerá de la posibilidad de distinguir los riesgos asegurables de aquellos cuya magnitud o correlación podría exceder la capacidad privada disponible.
El desafío consiste en evitar que la incertidumbre termine trasladándose a pólizas que no fueron diseñadas para responder a estas exposiciones, sin impedir que el seguro continúe cumpliendo su función de transferencia de riesgos.
Una prueba para los límites tradicionales del seguro
Las advertencias de Anthropic y el análisis de Morningstar DBRS ponen de relieve una cuestión central para el futuro del mercado asegurador: la inteligencia artificial puede generar riesgos que no se comportan como los siniestros tradicionales. La concentración en unos pocos proveedores, la posibilidad de fallas simultáneas, la dificultad para atribuir responsabilidades y la ausencia de datos históricos suficientes desafían los modelos habituales de suscripción y tarificación.
Para responder a este escenario, las aseguradoras deberán revisar sus exposiciones agregadas, aclarar el alcance de las coberturas, actualizar las exclusiones cuando corresponda y evaluar la suficiencia de sus programas de reaseguro y capital. También necesitarán mejorar la información que recopilan sobre el uso de IA por parte de sus clientes y sobre las dependencias tecnológicas compartidas entre los asegurados.
La advertencia de Anthropic no implica que toda pérdida derivada de la inteligencia artificial vaya a resultar inasegurable. Sí muestra que, ante un evento extremo, la magnitud de los daños podría superar los límites de los mecanismos de transferencia de riesgos disponibles en la actualidad.
La cuestión de fondo es cómo construir un mercado capaz de cubrir los riesgos emergentes sin asumir exposiciones que no puede medir ni financiar. En un contexto de adopción acelerada de sistemas cada vez más autónomos, la capacidad de anticipar la acumulación de siniestros, definir responsabilidades y establecer mecanismos de control será determinante para que la industria aseguradora pueda acompañar la innovación sin comprometer su solvencia.
