Máster en Deep Learning para Procesamiento de Lenguaje Natural (NLP) + 60 Créditos ECTS

Unidad Didáctica 1. Introducción Al Deep Learning Aplicado Al Lenguaje

• Panorama general del lenguaje natural y su tratamiento computacional
• Distinciones entre aprendizaje profundo y aprendizaje tradicional
• Métodos para representar el lenguaje en vectores
• Bases de las redes neuronales artificiales

Unidad Didáctica 2. Modelos Recurrentes para Secuencias de Texto

• Funcionamiento básico de las redes recurrentes
• Problemas de estabilidad en el entrenamiento
• Mejoras con unidades LSTM y GRU
• Aplicaciones a series de texto y contextos dependientes

Unidad Didáctica 3. Análisis de Texto con Redes Convolucionales

• Uso de CNN para modelado de secuencias textuales
• Detección de patrones locales en frases
• Comparativa con modelos secuenciales
• Combinación de CNN y RNN en entornos mixtos

Unidad Didáctica 4. Modelos Transformer y Atención en Nlp

• Fundamentos del mecanismo de atención en redes neuronales
• Estructura del modelo Transformer
• División funcional entre codificadores y decodificadores
• Evaluación frente a arquitecturas anteriores

Unidad Didáctica 5. Uso de Modelos Entrenados Previamente

• Concepto de preentrenamiento en grandes corpus
• Principales modelos del estado del arte: BERT, GPT, etc
• Ajuste fino para tareas concretas
• Transferencia de conocimientos entre dominios

Unidad Didáctica 6. Generación Automática de Lenguaje Natural

• Conceptos clave en la producción automática de texto
• Arquitecturas generativas modernas
• Estrategias para generar secuencias coherentes
• Personalización del estilo y contenido generado

Unidad Didáctica 1. Tokenización y Normalización de Texto

• Métodos de tokenización
• Lematización y stemming
• Eliminación de stopwords y símbolos
• Casos prácticos de normalización

Unidad Didáctica 2. Representación Numérica del Lenguaje

• One-hot encoding y Bag of Words
• TF-IDF y sus variantes
• Limitaciones de las representaciones clásicas

Unidad Didáctica 3. Word Embeddings

• Concepto de word embedding
• Word2Vec: Skip-gram y CBOW
• GloVe y FastText
• Visualización de embeddings

Unidad Didáctica 4. Contextualización de Embeddings

• Limitaciones de embeddings estáticos
• Embeddings contextuales: ELMo y BERT
• Fine-tuning de embeddings
• Aplicaciones prácticas

Unidad Didáctica 5. Preprocesamiento Avanzado de Texto

• Detección y corrección ortográfica
• Manejo de emojis y caracteres especiales
• Normalización de entidades y nombres propios
• Preprocesamiento multilingüe

Unidad Didáctica 6. Extracción de Características para Nlp

• N-gramas y extracción de frases clave
• Selección de características relevantes
• Reducción de dimensionalidad
• Técnicas de extracción automática

Unidad Didáctica 7. Análisis Exploratorio de Datos Textuales

• Estadísticas descriptivas en NLP
• Detección de outliers en texto
• Análisis de frecuencias y coocurrencias
• Herramientas para análisis exploratorio

Unidad Didáctica 8. Limpieza y Filtrado de Datos Textuales

• Eliminación de duplicados y ruido
• Filtrado de textos irrelevantes
• Detección y manejo de datos corruptos
• Automatización del proceso de limpieza

Unidad Didáctica 1. Introducción a Redes Neuronales en Nlp

• Arquitectura básica de perceptrón multicapa
• Adaptación de redes a tareas de texto
• Entrenamiento y validación en NLP
• Casos de uso iniciales

Unidad Didáctica 2. Redes Feedforward y Aplicaciones en Nlp

• Funcionamiento de redes feedforward
• Clasificación de textos con redes densas
• Limitaciones para secuencias largas
• Ejemplos prácticos

Unidad Didáctica 3. Redes Recurrentes (rnn)

• Principios de las RNN
• Backpropagation Through Time (BPTT)
• Aplicaciones en secuencias de texto
• Problemas de desvanecimiento del gradiente

Unidad Didáctica 4. Lstm y Gru

• Arquitectura de LSTM
• Diferencias entre LSTM y GRU
• Aplicaciones en NLP
• Comparativa de rendimiento

Unidad Didáctica 5. Redes Convolucionales para Texto (cnn)

• Adaptación de CNN al procesamiento de texto
• Extracción de características locales
• Modelos híbridos CNN-RNN
• Aplicaciones en clasificación y análisis de sentimiento

Unidad Didáctica 6. Autoencoders en Nlp

• Principios de autoencoders
• Reducción de dimensionalidad en texto
• Aplicaciones en generación y compresión
• Limitaciones de los autoencoders

Unidad Didáctica 7. Modelos Secuencia a Secuencia (seq2seq)

• Arquitectura encoder-decoder
• Aplicaciones en traducción automática
• Atención básica en Seq2Seq
• Ejemplos prácticos

Unidad Didáctica 8. Regularización y Optimización en Redes para Nlp

• Técnicas de regularización (Dropout, BatchNorm)
• Early stopping y ajuste de hiperparámetros
• Optimización específica para texto
• Estrategias para evitar overfitting

Unidad Didáctica 1. Introducción a la Atención en Nlp

• Concepto de atención en redes neuronales
• Motivación y ventajas
• Atención global vs. local
• Aplicaciones iniciales

Unidad Didáctica 2. Arquitectura Transformer

• Estructura básica de un Transformer
• Multi-head attention
• Positional encoding
• Entrenamiento y escalabilidad

Unidad Didáctica 3. Modelos Bert y Variantes

• Introducción a BERT
• Pre-entrenamiento y fine-tuning
• Modelos derivados: RoBERTa, DistilBERT
• Aplicaciones en NLP

Unidad Didáctica 4. Modelos Gpt y Generación de Texto

• Arquitectura de GPT y variantes
• Generación de texto coherente
• Aplicaciones en chatbots y asistentes
• Limitaciones y retos

Unidad Didáctica 5. Modelos Seq2seq con Atención

• Encoder-decoder con atención
• Traducción automática avanzada
• Resumen automático de textos
• Implementación práctica

Unidad Didáctica 6. Modelos Multilingües y Multimodales

• Modelos multilingües: mBERT, XLM-R
• Transferencia entre idiomas
• Modelos multimodales: texto-imagen
• Aplicaciones y desafíos

Unidad Didáctica 7. Fine-tuning de Transformers para Tareas Específicas

• Selección de tareas y datasets
• Ajuste de hiperparámetros
• Técnicas de regularización
• Evaluación de resultados

Unidad Didáctica 8. Interpretabilidad en Modelos de Atención

• Visualización de pesos de atención
• Análisis de decisiones del modelo
• Herramientas para interpretabilidad
• Casos prácticos

Unidad Didáctica 1. Modelos de Lenguaje Probabilísticos

• Modelos de Markov y n-gramas
• Modelos de lenguaje neuronal
• Generación y predicción de texto
• Evaluación de modelos probabilísticos

Unidad Didáctica 2. Modelos Generativos Avanzados

• Autoencoders variacionales (VAE)
• Generative Adversarial Networks (GANs) para texto
• Aplicaciones creativas y de síntesis
• Retos y limitaciones

Unidad Didáctica 3. Modelado de Temas y Lda

• Introducción al modelado de temas
• Latent Dirichlet Allocation (LDA)
• Aplicaciones en clasificación y clustering
• Visualización de temas

Unidad Didáctica 4. Aprendizaje Por Refuerzo en Nlp

• Fundamentos del aprendizaje por refuerzo
• Aplicaciones en generación de texto
• Modelos de diálogo interactivo
• Retos y oportunidades

Unidad Didáctica 5. Zero-shot y Few-shot Learning en Nlp

• Conceptos clave y motivación
• Modelos preentrenados y adaptación rápida
• Aplicaciones en tareas con pocos datos
• Ejemplos prácticos

Unidad Didáctica 6. Técnicas de Data Augmentation en Nlp

• Métodos de aumento de datos en texto
• Generación de ejemplos sintéticos
• Evaluación del impacto en modelos
• Herramientas y librerías

Unidad Didáctica 7. Interpretabilidad y Explicabilidad en Nlp

• Métodos para explicar modelos de NLP
• Herramientas: LIME, SHAP, ELI5
• Visualización de decisiones
• Casos de uso

Unidad Didáctica 8. Robustez y Seguridad en Modelos de Nlp

• Ataques adversariales en NLP
• Estrategias de defensa y robustez
• Evaluación de la seguridad de modelos
• Buenas prácticas

Unidad Didáctica 1. Nlp en Salud y Biomedicina

• Procesamiento de historias clínicas
• Extracción de información médica
• Análisis de literatura científica
• Aplicaciones en diagnóstico asistido

Unidad Didáctica 2. Nlp en Finanzas y Banca

• Análisis de noticias financieras
• Procesamiento de informes y contratos
• Detección de fraude y anomalías
• Aplicaciones en trading algorítmico

Unidad Didáctica 3. Nlp en Legaltech y Documentos Jurídicos

• Procesamiento de contratos legales
• Extracción de cláusulas y entidades
• Análisis de jurisprudencia
• Automatización de informes legales

Unidad Didáctica 4. Nlp en Educación y E-learning

• Análisis de contenidos educativos
• Generación automática de ejercicios
• Evaluación automática de respuestas
• Personalización del aprendizaje

Unidad Didáctica 5. Nlp en Marketing y Opinión Pública

• Análisis de campañas y encuestas
• Detección de tendencias y temas emergentes
• Segmentación de audiencias
• Aplicaciones en reputación online

Unidad Didáctica 6. Nlp en Recursos Humanos

• Análisis de currículums y cartas de presentación
• Matching automático de candidatos
• Detección de habilidades y competencias
• Automatización de procesos de selección

Unidad Didáctica 7. Nlp en Comercio Electrónico

• Análisis de reseñas y opiniones de productos
• Detección de necesidades del cliente
• Recomendaciones personalizadas
• Automatización de atención al cliente

Unidad Didáctica 8. Nlp en Medios y Periodismo

• Análisis de noticias y tendencias
• Detección de fake news
• Generación automática de titulares
• Monitorización de medios

Unidad Didáctica 1. Introducción a Mlops para Nlp

• Conceptos básicos de MLOps
• Ciclo de vida de un modelo NLP
• Herramientas y plataformas para MLOps
• Desafíos en la operacionalización

Unidad Didáctica 2. Despliegue de Modelos en Producción

• Estrategias de despliegue (batch, online, edge)
• Contenerización con Docker
• Orquestación con Kubernetes
• Integración continua y despliegue continuo (CI/CD)

Unidad Didáctica 3. Monitorización y Mantenimiento de Modelos

• Seguimiento de métricas en producción
• Detección de drift y degradación de modelos
• Retraining y actualización de modelos
• Alertas y sistemas de monitorización

Unidad Didáctica 4. Escalabilidad y Rendimiento en Nlp

• Optimización de recursos en producción
• Balanceo de carga y alta disponibilidad
• Técnicas de paralelización
• Costes y eficiencia

Unidad Didáctica 5. Seguridad y Privacidad en Modelos Nlp

• Amenazas y vulnerabilidades en NLP
• Estrategias de protección de datos
• Cumplimiento normativo (GDPR, etc.)
• Auditoría y trazabilidad

Unidad Didáctica 6. Apis y Microservicios para Nlp

• Diseño de APIs para modelos NLP
• Integración con sistemas externos
• Microservicios y arquitectura orientada a servicios
• Casos prácticos

Unidad Didáctica 7. Automatización de Pipelines de Nlp

• Herramientas de automatización (Airflow, Kubeflow)
• Definición de workflows de NLP
• Gestión de dependencias y versiones
• Ejemplos de pipelines automatizados

Unidad Didáctica 8. Testing y Validación en Producción

• Pruebas unitarias y de integración
• Validación continua de modelos
• Pruebas A/B y experimentación
• Gestión de incidencias

Unidad Didáctica 1. Gestión de Versiones y Control de Modelos

• Versionado de modelos y datasets
• Herramientas de control de versiones
• Rollback y gestión de cambios
• Estrategias de actualización

Unidad Didáctica 2. Integración de Modelos Nlp en Aplicaciones

• Embedding de modelos en aplicaciones web y móviles
• Integración con chatbots y asistentes
• Casos de uso en empresas
• Retos y soluciones

Unidad Didáctica 3. Analítica y Reporting en Modelos Nlp

• Métricas clave para modelos en producción
• Dashboards y visualización de resultados
• Análisis de logs y trazabilidad
• Presentación de resultados a stakeholders

Unidad Didáctica 4. Optimización de Costes en Despliegue de Nlp

• Estrategias para reducir costes
• Uso eficiente de recursos cloud
• Automatización de escalado
• Evaluación de ROI

Unidad Didáctica 5. Ética y Regulación en Despliegue de Modelos Nlp

• Consideraciones éticas en producción
• Cumplimiento de normativas
• Transparencia y explicabilidad
• Casos prácticos

Unidad Didáctica 6. Principios Éticos en Deep Learning y Nlp

• Ética en el desarrollo de modelos de lenguaje
• Responsabilidad social en IA
• Transparencia y explicabilidad
• Ejemplos de dilemas éticos

Unidad Didáctica 7. Sesgos y Discriminación en Modelos de Lenguaje

• Tipos de sesgos en NLP
• Detección y mitigación de sesgos
• Impacto social de los sesgos
• Estrategias de reducción

Unidad Didáctica 8. Privacidad y Protección de Datos en Nlp

• Regulaciones de privacidad aplicables
• Técnicas de anonimización y seudonimización
• Gestión de datos sensibles
• Casos prácticos