Ética y gobernanza de la IA
Comité de Ética Clínica, Social y Servicios Comunitarios — Facultad de Estudios Superiores Iztacala, UNAM.
Invitado permanente especialista en inteligencia artificial y ética digital.
LIIA+G pone a disposición del Comité conocimientos especializados en inteligencia artificial aplicada y ética digital para fortalecer sus funciones de seguimiento, orientación y formación, y contribuir al análisis colegiado de situaciones que involucren modelos de lenguaje, asistentes virtuales, analítica de datos, sistemas adaptativos, simulaciones, generación automatizada de contenidos y herramientas de apoyo para la toma de decisiones.
La asesoría complementa —sin sustituir— la experiencia clínica, disciplinaria, jurídica, de privacidad o de ciberseguridad que corresponde a otras personas especialistas e instancias universitarias. Se busca contribuir a una cultura institucional capaz de deliberar sobre el uso de la IA, prevenir riesgos, orientar a la comunidad, proteger a las personas involucradas y preservar la responsabilidad profesional y colegiada en las decisiones de mayor impacto.
Marco de referencia
La inteligencia artificial generativa plantea retos particulares debido a la diversidad de actividades docentes, clínicas, comunitarias y de servicio que se desarrollan en la entidad. La gobernanza universitaria responsable de la IA responde a solicitudes de la UNAM para promover redes de colaboración, acceso a información actualizada, formación continua, lineamientos de uso y prácticas éticas.
Las iniciativas de la ANUIES y ANUIES-TIC han incorporado a la agenda de la educación superior la gobernanza de la IA, la formación de las comunidades universitarias y la creación de mecanismos interinstitucionales para comprender sus beneficios, riesgos y condiciones de uso.
La UNESCO ha formulado marcos orientados a una inteligencia artificial centrada en los derechos humanos, la dignidad, la transparencia, la equidad y la responsabilidad, además de recomendaciones específicas para el uso de IA generativa en la educación y la investigación.
Alcance
Asesorar en la revisión ética de protocolos, cursos, sistemas, prácticas o servicios que incorporen IA generativa, aprendizaje automático, analítica de datos o automatización, considerando su finalidad, necesidad, proporcionalidad, calidad de los datos, posibles sesgos, privacidad, supervisión humana y mecanismos de reparación.
Apoyar la elaboración de recomendaciones, anexos de consentimiento informado y formatos para declarar de manera transparente el uso de IA.
Participar en acciones educativas dirigidas al alumnado, al personal docente e investigador, al personal administrativo y a responsables de servicios clínicos, sociales o comunitarios.
Contribuir al seguimiento de proyectos y prácticas que utilicen IA, especialmente cuando su desempeño real difiera del esperado o surjan riesgos no previstos.
Mantener vigilancia académica, científica y normativa sobre los cambios relevantes en las herramientas, la evidencia disponible y los criterios institucionales, con el fin de traducirlos en orientaciones claras para la comunidad.
Promover vínculos de colaboración con GAIA-GEN UNAM y con instancias universitarias como CEIDE, CUAED, DGTIC y otras áreas competentes, sin asumir la representación oficial de dichas entidades.
Atender, dentro del marco establecido por el Comité, consultas éticas sobre controversias derivadas del uso de IA en la vida académica. La participación se limita a analizar la situación, identificar los criterios éticos y académicos pertinentes y emitir una orientación consultiva: no implica decidir la aprobación o reprobación de estudiantes, imponer sanciones, resolver conflictos laborales ni sustituir las atribuciones del profesorado, las coordinaciones académicas, los cuerpos colegiados o las autoridades competentes.
Ruta de trabajo
Identificar cómo utilizan actualmente la IA estudiantes y docentes en las prácticas académicas, clínicas, sociales y comunitarias de la FES Iztacala; qué herramientas emplean, con qué propósitos, qué beneficios reconocen y qué dudas, conflictos o riesgos éticos, académicos, profesionales y de protección de datos requieren atención prioritaria.
Diseñar talleres, cursos, conferencias, seminarios y materiales de orientación a partir de las necesidades detectadas. Para el alumnado: alfabetización en IA, verificación de información, autoría y citación, privacidad, sesgos, usos permitidos en las actividades académicas, responsabilidad sobre los productos entregados y límites de estas herramientas. Para el personal docente: criterios para integrar la IA en la enseñanza, diseñar actividades y evaluaciones, comunicar reglas de uso, proteger datos, orientar al estudiantado y conservar el juicio pedagógico y profesional.
Adaptar las orientaciones a las características de las distintas carreras y prácticas profesionales de la FES Iztacala. El uso responsable de IA en Medicina no plantea los mismos problemas que en Psicología, Cirujano Dentista, Enfermería, Optometría o Biología: cada propuesta considera los tipos de información manejados, los escenarios de práctica, la relación con pacientes, usuarios o comunidades, las decisiones profesionales involucradas y los riesgos propios de cada contexto.
Dar continuidad a las dudas, incidentes y necesidades que surjan; recuperar la retroalimentación de las actividades formativas; valorar sus resultados, y actualizar los talleres, cursos, materiales y criterios conforme evolucionen las herramientas, sus capacidades, la evidencia científica y los problemas asociados con su uso.
Trayectoria
Analiza los riesgos, las posibilidades y los criterios para una integración ética y pedagógica de estas tecnologías, y propone fortalecer la formación continua, la regulación institucional y el trabajo interdisciplinario.
Consultar publicaciónRevisión sistemática que documenta tendencias, preocupaciones y necesidades de formación y gobernanza en el contexto nacional.
Consultar publicaciónArticula dimensiones pedagógicas, afectivas, administrativas y de aprendizaje para acompañar a estudiantes y docentes; evidencia experiencia en la arquitectura y delimitación de sistemas de tutoría con IA.
Consultar publicaciónDiseño, validación por personas expertas y evaluación de la seguridad y claridad de un asistente virtual de bienestar docente, con verificación humana, límites de apoyo y rutas de derivación.
Consultar publicaciónConferencia documentada por la Gaceta Iztacala sobre pensamiento crítico, plagio, veracidad, privacidad y sesgos algorítmicos y estadísticos.
Ver registroActividad académica registrada por la FES Iztacala, con énfasis en la conservación del juicio profesional y del componente humano.
Ver registroVideoconferencia desarrollada en el marco del proyecto PAPIME PE302225 sobre formación ética clínica, social y comunitaria, junto con recursos educativos y contenidos sobre IA y ética.
