La inteligencia artificial y la inteligencia artificial generativa se han convertido en un pilar esencial para la transformación digital de las empresas, pero su integración conlleva desafíos que incluyen la posible introducción de sesgos, riesgos a la privacidad y dudas sobre la veracidad de la información generada, que van más allá de la eficiencia operativa.
Es por esta razón que MAPFRE publicó un análisis en el que destaca la importancia de una buena gobernanza en la implementación de la IA para garantizar su uso responsable, alineado con los derechos fundamentales y la confianza del público. Uno de los mayores desafíos se encuentra en la transparencia y en la supervisión de los algoritmos. El artículo expresa que una IA bien gobernada no solo mejora la toma de decisiones y la eficiencia del sector asegurador, sino que también minimiza riesgos como el sesgo algorítmico o la falta de explicabilidad en sus procesos.
“La inteligencia artificial no es solo hacer algoritmos que funcionen, es también la gestión ética y humana de los mismos. En MAPFRE adoptamos una gestión ética de la IA que no solo cumple con la normativa, sino que pone en el centro los derechos de las personas y fomenta una IA equitativa y responsable”, sostiene Diego Bodas, Director de Inteligencia Artificial en MAPFRE. “En MAPFRE utilizamos modelos de IA entrenados con datos sobre los que existe un consentimiento previo y que pasan por un proceso de anonimización, garantizando tanto la privacidad de la información como el comportamiento ético de los modelos que creamos y utilizamos”, agrega.
Planteamientos para una gobernanza efectiva
El nuevo reglamento europeo sobre IA y el debate internacional -impulsado por el G7- pretenden establecer un marco normativo sólido para su desarrollo. El artículo de MAPFRE revela dos enfoques de gobernanza complementarios para implementar una gobernanza efectiva de la IA propuestos por el Foro Económico Mundial:
- Enfoque descendente (top-down): establece directrices y mejores prácticas desde los niveles más altos de la empresa. Se desarrollan políticas que luego se implementan en toda la entidad. Este enfoque asegura una visión estratégica y alineación con los objetivos corporativos y regulatorios.
- Enfoque ascendente (bottom-up): fomenta la participación de todos los miembros de la empresa en la creación y en la mejora de prácticas relacionadas con la IA. Al involucrar a empleados de todos los niveles, se promueve una cultura de responsabilidad compartida y se obtienen diferentes perspectivas que enriquecen las políticas establecidas.
La combinación de ambos enfoques da como resultado una gobernanza más sólida y flexible que integra una dirección estratégica y la participación inclusiva.
Cinco aspectos claves para una buena gobernanza
El artículo de MAPFRE también cita cinco aspectos destacados por el Fondo Monetario Internacional que deben considerarse para una buena gobernanza y cuya hoja de ruta es también compartida por otros organismos de carácter internacional:
- Precaución: adoptar un enfoque prudente en el desarrollo y despliegue de sistemas de IA, en especial cuando sus impactos no están completamente comprendidos. La gestión del riesgo es fundamental, no solo por una cuestión normativa, sino por la responsabilidad de minimizar posibles perjuicios.
- Agilidad: mantener la capacidad de adaptarse rápidamente a los avances tecnológicos y cambios en el entorno regulatorio. La IA evoluciona a un ritmo acelerado y las empresas deben ser capaces de ajustar sus prácticas y políticas en consecuencia.
- Inclusividad: asegurarse de que todas las opiniones, incluyendo las de grupos minoritarios y vulnerables, sean consideradas en la toma de decisiones relacionadas con la inteligencia artificial. Ello garantiza que los sistemas basados en la IA beneficien a toda la sociedad y no perpetúen desigualdades.
- Seguridad: proteger los sistemas de IA contra vulnerabilidades y amenazas, garantizando la integridad y confiabilidad de sus operaciones, como es el caso de la protección de datos o la privacidad de los usuarios.
- Foco: dirigir los esfuerzos hacia aplicaciones de IA que generen un impacto positivo, alineadas con los objetivos éticos y sociales de la empresa.
“Una gobernanza efectiva se lleva a cabo poniendo en pie mecanismos para mitigar los riesgos y eso pasa por que todas las áreas de la organización estén representadas en la toma de decisiones, por considerar que la privacidad y la seguridad deben estar presentes por defecto, y por disponer de controles que identifiquen los sistemas y modelos de IA homologados, así como el detalle exhaustivo de los casos de uso desarrollados sobre los mismos”, enfatiza el Director de Inteligencia Artificial de MAPFRE.
