La inteligencia artificial (IA) está transformando la manera en que trabajamos, aprendemos y tomamos decisiones. Sin embargo, su incorporación en las organizaciones plantea desafíos que van más allá de la eficiencia: ¿Cómo aprovechar sus capacidades sin comprometer el criterio humano, la equidad y la responsabilidad?
La inteligencia artificial en el trabajo y la educación ha dejado de ser una tecnología periférica para integrarse en actividades cotidianas relevantes. Desde asistentes que redactan correos y analizan información hasta sistemas que apoyan procesos de reclutamiento, capacitación y evaluación del desempeño.
Pero esta integración también plantea un dilema estratégico: ¿estamos aprovechando la IA para fortalecer nuestras capacidades o estamos delegando decisiones que requieren supervisión y criterio profesional?
Con frecuencia, la IA se presenta bajo una especie de aura de magia: herramientas capaces de producir resultados sorprendentes en segundos, aunque no siempre comprendamos cómo funcionan, cuáles son sus limitaciones o qué riesgos implica utilizarlas.
Para las organizaciones y en la educación, el desafío no consiste únicamente en adoptar nuevas herramientas, sino en desarrollar las capacidades necesarias para utilizarlas de manera responsable.
A continuación, exploramos cinco realidades que los líderes empresariales, profesionales de recursos humanos y responsables de capacitación deben considerar al incorporar IA en sus procesos.
1. La «Inteligencia Aumentada»: La IA debe fortalecer el juicio humano, no sustituirlo
Uno de los principios más importantes para adoptar IA responsablemente es mantener una supervisión humana proporcional al impacto de sus decisiones.
Aquí entra en juego el concepto de inteligencia aumentada, un enfoque que busca utilizar la tecnología para complementar las capacidades humanas, en lugar de reemplazarlas.
Mientras que algunos sistemas de inteligencia artificial están diseñados para automatizar procesos con distintos grados de autonomía, la inteligencia aumentada pone el énfasis en la colaboración entre personas y tecnología.
Por ejemplo, una herramienta de IA puede analizar los resultados de evaluaciones de capacitación e identificar patrones de aprendizaje. Sin embargo, corresponde al instructor o responsable de desarrollo organizacional interpretar esos resultados considerando las necesidades particulares de los participantes.
Lo mismo sucede en otros procesos empresariales:
- Recursos humanos: la IA puede ayudar a organizar información de candidatos, pero las decisiones de contratación requieren criterios pertinentes, evaluación de sesgos y supervisión.
- Auditoría: puede apoyar el análisis de grandes volúmenes de información, mientras el auditor interpreta hallazgos y determina su relevancia.
- Gestión de riesgos: puede identificar patrones o escenarios, pero los responsables deben evaluar su impacto en el contexto de la organización.
- Capacitación corporativa: puede recomendar contenidos o rutas de aprendizaje, mientras los especialistas determinan si responden a las competencias que necesitan desarrollar los colaboradores.
Este enfoque se relaciona con el principio Human-in-the-Loop (HITL), que incorpora intervención humana en determinadas etapas del funcionamiento de un sistema.
No obstante, mantener a una persona involucrada no es suficiente por sí mismo. También debe contar con información, competencias y autoridad para revisar, cuestionar o modificar los resultados.
La verdadera ventaja de la IA no está en eliminar la participación humana, sino en permitir que las personas dediquen más atención a las decisiones donde su experiencia aporta mayor valor.
2. Sistemas de «alto riesgo»: No todas las aplicaciones tienen las mismas implicaciones
Una herramienta que ayuda a redactar un correo no representa necesariamente el mismo nivel de riesgo que un sistema utilizado para evaluar candidatos, determinar el acceso a programas educativos o apoyar decisiones que afectan derechos de las personas.
Por eso, una adopción responsable requiere distinguir entre aplicaciones de menor impacto y aquellas que pueden generar consecuencias significativas.
Un ejemplo relevante es el Reglamento de Inteligencia Artificial de la Unión Europea, conocido como AI Act, que establece una clasificación regulatoria basada en los riesgos asociados con determinados sistemas y usos.
Entre las aplicaciones que pueden considerarse de alto riesgo, conforme a las condiciones previstas por la regulación, se encuentran:
- Educación y formación profesional: sistemas utilizados para determinar admisiones, evaluar resultados de aprendizaje o influir en trayectorias educativas.
- Empleo y gestión de trabajadores: herramientas destinadas a reclutamiento, selección, evaluación de candidatos y determinadas decisiones laborales.
- Biometría: ciertos sistemas de identificación o categorización biométrica, sujetos a condiciones específicas.
- Servicios esenciales y otros ámbitos sensibles: determinadas aplicaciones que pueden influir significativamente en el acceso a oportunidades o servicios.
Es importante precisar que algunas prácticas, como determinados usos del reconocimiento de emociones en el trabajo y la educación, están sujetas a prohibiciones específicas, no simplemente a requisitos de alto riesgo.
Aunque el AI Act es una regulación europea y su aplicabilidad depende del contexto, ofrece una referencia útil para comprender por qué las organizaciones deben evaluar los efectos de la IA antes de implementarla.
¿Qué riesgos puede generar la IA en recursos humanos y educación?
Imaginemos un sistema de reclutamiento entrenado con información histórica de contrataciones.
Si esos datos reflejan prácticas de selección sesgadas, el sistema podría reproducir patrones discriminatorios al evaluar nuevas candidaturas.
En educación sucede algo similar: una herramienta utilizada para evaluar el desempeño de estudiantes podría generar resultados poco representativos si no contempla adecuadamente las características y necesidades de determinados grupos.
El riesgo no está únicamente en que la tecnología se equivoque, sino en que sus resultados influyan en decisiones importantes sin mecanismos suficientes de revisión.
Para las organizaciones, esto implica evaluar el propósito de cada herramienta, los datos utilizados, las personas potencialmente afectadas y los controles necesarios antes de su implementación.
3. El desafío de la productividad: recuperar el tiempo para actividades de mayor valor
Una de las razones más atractivas para adoptar inteligencia artificial es su capacidad para reducir el tiempo dedicado a actividades repetitivas.
Sin embargo, el verdadero valor de esa eficiencia no debería medirse únicamente en horas ahorradas, sino también en lo que las personas pueden hacer con el tiempo recuperado.
Una investigación publicada por McKinsey sobre el trabajo docente identificó que los profesores participantes dedicaban aproximadamente 50 horas semanales a sus actividades profesionales, de las cuales el 49% correspondía a interacción directa con estudiantes.
El estudio, realizado con docentes de Canadá, Singapur, Reino Unido y Estados Unidos, puso de manifiesto la cantidad de tiempo destinada a actividades de preparación, administración, evaluación y retroalimentación.
Aunque estos resultados no pueden extrapolarse directamente a todas las organizaciones, permiten ilustrar un desafío compartido por numerosos profesionales: una parte importante de su jornada se destina a tareas operativas que compiten con actividades de mayor valor humano y estratégico.
¿Cómo puede contribuir la IA a la productividad empresarial?
En capacitación y desarrollo organizacional, por ejemplo, la IA puede apoyar tareas como:
- Preparar borradores de materiales de aprendizaje.
- Organizar y resumir información de sesiones.
- Diseñar propuestas iniciales de actividades o evaluaciones.
- Analizar tendencias generales de participación y resultados.
- Automatizar determinadas comunicaciones administrativas.
Estas aplicaciones pueden liberar tiempo para actividades que requieren mayor intervención profesional, como mentoría, acompañamiento, identificación de necesidades de aprendizaje y evaluación del desarrollo de competencias.
No obstante, la automatización también requiere supervisión. Una tarea ejecutada más rápido no necesariamente produce mejores resultados si genera errores, retrabajo o decisiones inadecuadas.
Por ello, las organizaciones deberían evaluar tanto la eficiencia obtenida como la calidad de los resultados.
La productividad cobra mayor sentido cuando la tecnología permite dedicar más tiempo al desarrollo de las personas, la innovación y la toma de decisiones.
4. La variabilidad humana: Porque la IA no comprende por completo las necesidades individuales
Los sistemas de inteligencia artificial aprenden patrones a partir de datos y utilizan modelos matemáticos para generar predicciones, clasificaciones o respuestas.
Estas capacidades pueden resultar extraordinariamente útiles, pero también presentan limitaciones cuando se aplican a contextos donde las personas tienen características, experiencias y necesidades específicas.
En educación, esta diversidad se conoce como variabilidad del aprendizaje.
Cada persona puede aprender a un ritmo distinto, contar con conocimientos previos diferentes o necesitar recursos y estrategias de enseñanza particulares.
Aunque determinadas herramientas de IA pueden contribuir a personalizar experiencias educativas, su efectividad depende de factores como el diseño del sistema, la calidad de los datos, la accesibilidad y la supervisión de especialistas.
¿Cuáles son las principales limitaciones de la IA en educación y capacitación?
Generación de información incorrecta. Los modelos generativos pueden producir respuestas plausibles que contienen errores, referencias inexistentes o explicaciones imprecisas. Este fenómeno suele conocerse como alucinación.
Dificultades para representar la diversidad. Un sistema puede ofrecer resultados menos adecuados para personas o situaciones insuficientemente representadas en sus datos o en sus criterios de evaluación.
Limitaciones para interpretar el contexto. Una recomendación puede ser técnicamente razonable y, aun así, resultar poco pertinente para las circunstancias de un estudiante, colaborador o equipo.
Ausencia de responsabilidad moral propia. Un sistema puede generar análisis sobre cuestiones éticas, pero no asume responsabilidad profesional por las consecuencias de sus recomendaciones.
En el ámbito corporativo, esto significa que la personalización del aprendizaje no debería depender exclusivamente de recomendaciones automatizadas.
Por ejemplo, dos colaboradores pueden obtener resultados similares en una evaluación y, sin embargo, requerir estrategias de desarrollo diferentes debido a sus funciones, experiencia o necesidades profesionales.
La tecnología puede contribuir a identificar oportunidades, pero el diseño de una experiencia de aprendizaje efectiva continúa requiriendo conocimiento pedagógico, comprensión organizacional y seguimiento humano.
Personalizar no significa únicamente adaptar contenidos a partir de datos; también implica comprender a las personas que están detrás de esos resultados.
5. Gobernanza de IA: El elemento que permite pasar de la innovación a la confianza
La adopción de inteligencia artificial no termina cuando una organización selecciona una herramienta y comienza a utilizarla.
Para obtener beneficios sostenibles es necesario establecer criterios que permitan determinar qué aplicaciones son apropiadas, cuáles son sus riesgos y quién responde por su funcionamiento.
Aquí adquiere relevancia la gobernanza de inteligencia artificial.
La gobernanza de IA comprende las políticas, responsabilidades, procesos y controles mediante los cuales una organización dirige y supervisa el desarrollo, adquisición y uso de sistemas de inteligencia artificial.
Uno de los principales desafíos es la llamada caja negra: situaciones en las que resulta difícil comprender o explicar cómo un sistema produjo determinado resultado.
Sin embargo, la transparencia por sí sola no elimina los riesgos. También se requieren evaluaciones, pruebas, documentación y mecanismos efectivos de supervisión. Como bien se ha señalado en los foros de políticas globales:
«La IA en la educación solo puede crecer a la velocidad de la confianza.» — Dr. Dale Allen.
¿Qué debe incluir una política de gobernanza de IA?
Como punto de partida, las organizaciones pueden considerar siete componentes:
- Propósito y alcance: definir para qué se permite utilizar IA y en qué procesos.
- Uso aceptable: establecer actividades autorizadas, restricciones y criterios para seleccionar herramientas.
- Privacidad y seguridad: proteger información confidencial, datos personales y activos organizacionales.
- Exactitud y responsabilidad: definir quién debe revisar los resultados y asumir las decisiones.
- Principios éticos: considerar equidad, prevención de sesgos y posibles impactos sobre las personas.
- Cumplimiento legal: identificar las disposiciones aplicables según la actividad, jurisdicción y características del sistema.
- Monitoreo continuo: evaluar periódicamente desempeño, incidentes, cambios y efectividad de los controles.
Como referencia, el AI Risk Management Framework del NIST organiza la gestión de riesgos de IA alrededor de cuatro funciones: gobernar, mapear, medir y gestionar.
Este marco voluntario ofrece orientación para que las organizaciones integren la gestión de riesgos a lo largo del ciclo de vida de sus sistemas.
En la práctica, una empresa puede comenzar identificando qué herramientas de IA utilizan sus equipos, qué información procesan y qué decisiones apoyan.
A partir de ese diagnóstico, es posible priorizar los usos más sensibles, definir responsables y establecer controles proporcionales.
La gobernanza no debería entenderse como un obstáculo para innovar, sino como una condición para hacerlo con mayor confianza y responsabilidad.
¿Cómo comenzar a adoptar IA de manera responsable?
Conocer los riesgos es importante, pero el siguiente paso consiste en traducir ese conocimiento en acciones.
Para las organizaciones que ya utilizan IA o están evaluando su incorporación, estas cinco preguntas pueden servir como punto de partida:
- ¿Para qué necesitamos IA? Identificar un problema concreto y determinar si la tecnología es una solución adecuada.
- ¿Qué decisiones apoyará o automatizará? Distinguir tareas operativas de procesos con consecuencias significativas.
- ¿Qué información utilizará? Revisar su origen, sensibilidad, calidad y condiciones de tratamiento.
- ¿Quién supervisará sus resultados? Asignar responsabilidades y establecer mecanismos de validación.
- ¿Nuestro equipo cuenta con las competencias necesarias? Evaluar si los colaboradores comprenden las capacidades, limitaciones y riesgos de las herramientas que utilizan.
Estas preguntas ayudan a evitar que la adopción tecnológica se convierta únicamente en una carrera por incorporar nuevas soluciones.
También permiten identificar necesidades de capacitación en alfabetización en IA, pensamiento crítico, gestión de riesgos, seguridad de la información y gobernanza.
Hacia un futuro con propósito estratégico
La inteligencia artificial tiene el potencial de ampliar nuestras capacidades, transformar procesos y generar nuevas oportunidades para el aprendizaje y el trabajo.
Pero no es una solución mágica para organizaciones con procesos fragmentados, información deficiente o responsabilidades poco claras.
Su efectividad depende tanto de sus capacidades técnicas como de las decisiones humanas que orientan su implementación.
Por eso, el desafío no consiste simplemente en preguntarnos qué puede hacer la IA por nosotros, sino cómo podemos utilizarla para fortalecer el talento, mejorar las decisiones y generar valor sin comprometer nuestros principios.
En esta nueva etapa, las organizaciones que logren aprovechar mejor la inteligencia artificial no serán necesariamente aquellas que automaticen más actividades, sino las que sepan combinar innovación, capacidades humanas y una gobernanza adecuada.
La IA puede ampliar nuestras posibilidades. El verdadero reto es asegurarnos de que su uso responda a un propósito que valga la pena.
Referencias:
- Chumachenko, D., Fitz-Gerald, A., Artyukhov, A., & Lyeonov, S. (2025). Governing AI in education: A cross-organization analysis of international policy, law, and standards. CEUR Workshop Proceedings, 4164, 1–15.Consultar publicación
- McKinsey & Company. (2020). How artificial intelligence will impact K-12 teachers. Consultar investigación
- National Institute of Standards and Technology (NIST). (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). U.S. Department of Commerce. Consultar marco NIST
- Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea. Consultar reglamento oficial
- U.S. Department of Education, Office of Educational Technology. (2023). Artificial intelligence and the future of teaching and learning: Insights and recommendations. Consultar informe
