Reputación en juego: cómo gestionar el riesgo de la IA
- Redacción CE
- hace 6 días
- 3 min de lectura
La adopción acelerada de la Inteligencia Artificial (IA) se ha convertido en un motor de innovación y productividad empresarial. Sin embargo, también plantea un desafío crítico: la reputación corporativa.
Un ejemplo ilustrativo fue Amazon Rekognition, lanzado en 2018, que mostró deficiencias significativas en la identificación de género y rasgos faciales. Según el Instituto Tecnológico de Massachussets (MIT), el software alcanzó una tasa de error de hasta del 31.4% al clasificar el género de mujeres y personas de piel oscura, frente a una precisión casi perfecta en hombres con piel clara.
Otro debate ocurre en el campo de la salud. Un reciente informe regional de la Organización Mundial de la Salud (OMS) en 2025 afirma que la expansión de la IA en la atención médica ocurre sin redes de protección legal básicas para resguardar a pacientes y personal de salud. En Europa, 32 países utilizan diagnósticos asistidos por IA, la mitad de los países ha incorporado chatbots para la interacción con los pacientes. Sin embargo, el estudio determinó la falta de responsables cuando estas tecnologías se equivocan o causan daños.
Este y otros casos han puesto en evidencia un fenómeno creciente: cuando los sistemas de IA violan las normas o valores sociales, las organizaciones enfrentan riesgos reputacionales. Como muestra, el Índice de Riesgo de Reputación de la Sala de Situaciones Globales (2025), identificó el mal uso de la IA como el principal riesgo para las organizaciones, en un informe que tomó en cuenta las opiniones de más de cien líderes en asuntos públicos.
“Las aplicaciones de IA mal gestionadas o poco éticas pueden dañar gravemente la imagen pública de una organización, la confianza de los grupos de interés y, sobre todo, sus resultados financieros”, advierte Zonia González, directora senior de Comunicación Estratégica (CE).
Algunos de los riesgos reputacionales más comunes son:
Sesgos algorítmicos: decisiones discriminatorias en contratación, crédito o seguros que generan percepciones de injusticia.
Privacidad y protección de datos: vulneraciones o filtraciones que derivan en crisis mediáticas y sanciones regulatorias.
Opacidad en la toma de decisiones: procesos automatizados poco comprensibles que debilitan la confianza del cliente.
Aplicaciones poco éticas o irresponsables: uso de IA sin considerar impactos sociales.
Errores de chatbots o modelos generativos: respuestas incorrectas o “alucinaciones” que dañan la credibilidad de la marca.
El impacto de estos errores puede traducirse desde pérdida de confianza, reacciones negativas de clientes, empleados e inversionistas, hasta consecuencias financieras y legales.
Estrategias de mitigación
Para reducir estos riesgos, las organizaciones están adoptando medidas como: gobernanza y ética de la IA, estableciendo políticas claras y comités transversales. Uno de ellos es la norma ISO 42001, diseñada para gestión responsable de sistemas de IA. Aunque en Guatemala es incipiente, ya se promueve, se imparten cursos y se certifica.
Otras estrategias incluyen la transparencia y comunicación proactiva para explicar cómo se usan los algoritmos y los datos. Además, la formación interna dirigida a capacitar a los empleados en alfabetización algorítmica, el monitoreo continuo, con indicadores específicos de reputación vinculados a la IA, así como una adecuada gestión de crisis con protocolos rápidos para responder ante incidentes de desinformación de este tipo.
De acuerdo con CE, las empresas que integren ética, transparencia y responsabilidad en su estrategia digital estarán mejor posicionadas para convertir la innovación en confianza. “Abordar en forma proactiva este nuevo perfil de riesgo ya no es una opción, sino un imperativo estratégico”, resalta González.
El caso de Amazon Rekognition, que incluso motivó protestas de la Unión Estadounidense de Libertades Civiles (ACLU) y debates en el Congreso, nos recuerda que no basta con que la tecnología funcione: debemos definir para qué, cómo y en qué circunstancias se implementará en nuestro entorno social.
Fuentes consultadas:
o Naw.org
Comentarios