Embedded Files
Para aprovechar las herramientas de IAGen en el ámbito educativo, es importante comprender su funcionamiento básico y aprender a interactuar con ellas de forma eficaz. En esta sección se presentan recursos didácticos (muchos de ellos en español) que explican cómo operan las herramientas IA de forma general, así como las herramientas de IAGen y cómo usarlas de manera óptima. A la vez, se plantean ejemplos prácticos para estudiantes y docentes del uso que se le puede dar a varias de estas herramientas.
Índice del contenido
¿Qué es la inteligencia artificial?
¿Qué es la inteligencia artificial?
¿Cómo funcionan las herramientas de Inteligencia artificial generativa?
¿Cómo funcionan las herramientas de Inteligencia artificial generativa?
La IAGen es una rama de la inteligencia artificial enfocada en crear contenido nuevo (texto, imágenes, audio, etc.) a partir de patrones aprendidos de grandes conjuntos de datos (Grupo de trabajo de Inteligencia Artificial Generativa de la UNAM, 2023). Por ejemplo, los modelos extensos de lenguaje (LLMs como ChatGPT) se entrenan con enormes cantidades de texto, aprendiendo las probabilidades de secuencias de palabras. Posteriormente, se afinan (fine-tunning) con retroalimentación humana (aprendizaje supervisado) para evitar que respondan con sesgos provenientes de los datos de entrenamiento y para mejorar la calidad de sus respuestas. De forma similar, un generador de imágenes es entrenado con millones de imágenes y descripciones, aprendiendo a asociar palabras con características visuales. Después del entrenamiento, un generador de imágenes sintetizar una imagen completamente nueva que encaje con una descripción dada.
Sistemas de Inteligencia Artificial Generativa. ¿Qué son, cómo funcionan? – En este video, se se exploran los fundamentos y capacidades de los Sistemas de Inteligencia Artificial Generativa (4:30 min).
En la práctica, cuando escribes una pregunta, el modelo predice la próxima palabra más probable para construir una respuesta. Aunque la manera en que responden suele ser convincente, las respuestas no siempre son correctas.
Es crucial entender cómo funcionan las herramientas de IA (incluidas las llamadas IAGen) y ser conscientes tanto de sus limitaciones como de sus aparentes fortalezas. No son "inteligentes" en ningún sentido real, ni son expertas en temas, sino que dependen principalmente de predicciones estadísticas de combinaciones de palabras o características de imágenes (McLaren et al., 2023).
Es importante prestar atención a las consideraciones éticas respecto a cómo se desarrollan, entrenan e implementan estas herramientas, por lo que, para usar de manera ética y responsable estas herramientas es importante conocer cómo funcionan, así como los problemas éticos asociados. A continuación, se te presentan mensajes clave sobre el uso de estas herramientas con el objetivo de que sean fáciles de recordar junto con las implicaciones prácticas asociadas a esos mensajes (College of Arts and Humanities, University College Dublin, 2025).
Mensajes Clave
IAGen es una herramienta de predicción de lenguaje y no entiende lo que dice. Produce errores y alucinaciones que parecen convincentes.
Tienen sesgos en las respuestas debido a los datos utilizados en su entrenamiento.
Puede ser aceptable usar las herramientas para la investigación y el proceso de escritura, pero siempre bajo la guía de integridad académica.
Hay problemas éticos en el uso de las herramientas, tales como propiedad intelectual, privacidad, costos laborales de los humanos, y el impacto ambiental.
Cuando no se usan con cuidado, las herramientas presentan un riesgo de plagio.
Implicaciones Prácticas
Utilizar el pensamiento crítico para asegurar que no se reproducen los sesgos.
En lugar de usar las herramientas para generar texto, considera formas de usarlas para apoyar la investigación y refinar la escritura.
Es necesario hacer una elección informada sobre cómo quieres usar las herramientas, recordando las implicaciones y sueles dar tus datos a las compañías.
Infórmate si puedes usar las herramientas en ciertas situaciones académicas, cómo se permite usarlas y cuáles se pueden usar. Siempre se debe dar el crédito al uso de estas herramientas.
Recursos audiovisuales
Recursos audiovisuales
En esta sección encontrarás videos que te ayudarán a comprender cómo funcionan las herramientas de IA, los sesgos en los datos de entrenamiento, algunas aplicaciones de estas herramientas en diversos ámbitos, así como las percepciones y usos de la IAGen en la educación.
Ejemplos prácticos
Ejemplos prácticos
En esta sección encontrarás ....
Referencias:
College of Arts and Humanities, University College Dublin. (15 de marzo del 2025). URL: https://www.ucd.ie/artshumanities/study/aifutures/keymessages/
Grupo de trabajo de Inteligencia Artificial Generativa de la UNAM (2023). Recomendaciones para el uso de Inteligencia Artificial Generativa en la docencia. UNAM.
MacLaren, I., O’Brien, G., Casey, E., Clinch G., Jackson, N., Lane, B. & Peck, C. (2023). Generative Artificial Intelligence: Guidelines for Educators. Quality & Qualifications Ireland (QQI), 1st edition.
Page updated
Google Sites
Report abuse