Tecnologías de Batch Processing Código:  B0.485    Créditos:  6
Consulta de los datos generales   Descripción   La asignatura en el conjunto del plan de estudios   Campos profesionales en que se proyecta   Conocimientos previos   Objetivos y competencias   Contenidos   Consulta de los recursos de aprendizaje de la UOC para la asignatura   Metodología   Información sobre la evaluación en la UOC   Consulta del modelo de evaluación   Evaluación Contínua   Evaluación final   Feedback  
Este es el plan docente de la asignatura para el segundo semestre del curso 2023-2024. Podéis consultar si la asignatura se ofrece este semestre en el espacio del campus Más UOC / La universidad / Planes de estudios). Una vez empiece la docencia, tenéis que consultarlo en el aula. El plan docente puede estar sujeto a cambios.

Esta asignatura constituye una introducción a las tecnologías relacionadas con los sistemas de Big Data, y en particular al Batch Procesing. Iniciaremos la asignatura con un visión histórica de los sistemas batch. Veremos sus inicios y como estos han ido evolucionando a medida que la tecnología y sus usos han ido cambiando. Una vez terminada esta introducción entraremos de lleno en el mundo Big Data.

Iniciaremos analizando la estructura tecnológica que se encuentra detrás de un proyecto de Big Data, y que incluye aspectos relevantes, como por ejemplo, el sistema de almacenamiento y cálculo distribuido o la gestión de los recursos hardware del cluster.

Continuaremos viendo los tres principales modelos de procesamiento distribuido: procesamiento batch, real-time o streaming y basado en eventos complejos. Aunque en algún punto lo introduciremos, la parte de Streaming se verá en detalle en la asignatura de Stream Processing y por tanto dejaremos parte de los conceptos relacionados a un lado. En los otros casos ceremos las principales funciones y características de los frameworks más utilizados en la actualidad, prestando especial atención a los dos grandes estándares de la industria: Apache Hadoop y Apache Spark.

Finalizaremos esta asignatura revisando las principales librerías de análisis de datos, incluyendo temas de aprendizaje automático (machine learning), análisis de grafos y visualización de datos masivos. También exploraremos la orquestación de tareas englobando aspectos relevantes de las soluciones tecnológicas previamente vistas para su explotación productiva.

Amunt

Esta asignatura pertenece al conjunto de asignaturas del itinerario de Big Data en el Máster de Inteligencia de Negocio y Big Data Analytics.

Amunt

La asignatura proporciona conocimientos que serán de utilidad en diferentes ámbitos profesionales, como son la programación de sistemas que requieran el uso de datos masivos, la ciencia de datos o la dirección o consultoría de proyectos basados en sistemas Big Data, entre otros.

Amunt

El curso requiere que los estudiantes tengan conocimientos de programación en lenguaje Python, así como conocimientos básicos en análisis de datos, aprendizaje automático (machine learning) y redes de computadores.

Además, como la metodología incluye estudios de casos y la investigación autónoma de información, es aconsejable que el estudiante esté familiarizado con la búsqueda de fuentes de información, el análisis de la información cuantitativa y cualitativa, la capacidad de sintetizar y obtener conclusiones así como de poseer ciertas habilidades de comunicación escrita.

Asimismo también es necesario que los estudiantes tengan la capacidad de leer y comprender el idioma inglés puesto que una parte de los materiales adicionales y otros recursos, están en dicho idioma.

Amunt

Los objetivos que se desea que el estudiante alcance mediante esta asignatura son los siguientes:

  • Entender la evolución histórica de los sistemas batch
  • Entender el contexto en que los sistemas batch son usados
  • Conocer las técnicas básicas para el uso de sistemas batch en entornos clasicos (no Big Data)
  • Entender los conceptos y las definiciones formales asociadas a los conceptos de Big Data y afines.
  • Identificar los elementos tecnológicos necesarios en cualquier proyecto basado en el uso de Big Data.
  • Conocer las metodologías más adecuadas para la implementación de sistemas de Big Data.
  • Conocer las principales herramientas disponibles en el ecosistema de Big Data, especialmente de los ecosistemas de Apache Hadoop y Apache Spark.
  • Construir modelos que generen conocimiento como resultado de una análisis basado en tecnología Big Data.
  • Conocer el funcionamiento básico de las principales herramientas y frameworks de Big Data, como por ejemplo HDFS o Apahe Spark.


Amunt

La asignatura consta de 6 bloques temáticos, cada uno de los cuales apoyado por un material didáctico.

El contenido asociado a cada bloque temático es el que se detalla a continuación:

1) Introducción a los sistemas y procesado batch.

En este primer módulo se da una visión histórica de los sistemas batch y sus técnicas de procesado más habituales.

2) Introducción al Big Data

Iniciaremos este módulo introduciendo los conceptos básicos relacionados con la algoritmia y computación paralela que nos servirán como base a lo largo de curso. Posteriormente, nos adentraremos en el concepto de Big Data para discutir el cambio de modelo y paradigma que implica dicho concepto.

3) Captura, pre-procesamiento y almacenamiento de datos masivos

El módulo está orientado a trabajar las características básicas de los procesos de captura, pre-procesamiento y almacenamiento de datos en entornos Big Data. Es decir, ser capaz de entender las peculiaridades que implica el Big Data en cada una de estas fases del análisis de datos y conocer las principales herramientas y tecnologías Big Data que lo apoyan.

Discutiremos el almacenaje y gestión de la información, centrándonos en el sistema de ficheros distribuido HDFS y las bases de datos NoSQL.

4) Gestores de recursos para el procesado de datos masivos

Es habitual que los recursos existentes en un sistema Big Data sean finitos y que al mismo tiempo múltiples los programas (o tareas) requieran usarlos. En esta situación acciones como las de priorizar las tareas, retener las que no dispongan de suficientes recursos en un momento dado, o incluso decomisionar programas con altas tasas de fallo son cuestiones clave para un uso eficiente de la infraestructura subyacente. Los gestores de recursos se encargan de que los programas hagan un uso racional y equitativo de los recursos.

En este módulo vamos a ver los conceptos básicos de un gestor de recursos a nivel teóricos. En la parte práctica vamos a revisar el funcionamiento de Apache YARN, un gestor habitual en entornos Hadoop.

5) Procesado batch de datos en entornos Big Data

En este módulo trabajaremos las diferentes tipologías y arquitecturas de un sistema Big Data, ayudando al alumno a ser capaz de identificar qué arquitectura se debería implementar según las características de cada caso de uso, incluyendo las especificidades de datos y entornos. Posteriormente, introduciremos los dos sistemas principales de procesado distribuido, MapReduce y Apache Spark, haciendo énfasis en sus fortalezas y debilidades. A nivel práctico trabajaremos algunas de las herramientas que ofrece Apache Spark para habilitar el procesado de datos en entornos Big Data.

6)   Planificación y automatización de procesos

Cuando parte de un proceso entra en estadio de producción es habitual tener la necesidad de que se inicie y funcione de forma autónoma sin que nadie estéis presente. Incluso que dicho proceso disponga de cierta lógica secuencial y que se realicen acciones derivadas de un primer proceso inicial.

En este módulo vamos a revisar que herramientas hay disponibles y que ventajas ofrece cada una de ellas. Empezaremos revisando Apache Oozie, el planificador habitual en entornos Hadoop. Posterior veremos otros dos planificadores algo más versátiles y muy usados en la actualidad, Airflow y Apache Nifi.

Amunt

Material Soporte
Vídeo Audiovisual
Introducción al big data PDF
Tipologías y arquitecturas de un sistema big data PDF
Captura, preprocesamiento y almacenamiento de datos masivos PDF
Análisis de datos masivos PDF
Análisis de datos masivos. Técnicas avanzadas PDF
Vídeo presentación PLA 1.1. Introducción a los datos masivos (Big Data) Audiovisual
Vídeo contenidos PLA 1.2. Introducción a los datos masivos (Big Data) Audiovisual
Vídeo presentación PLA 2.1. Tipologías y arquitecturas de un sistema Big Data Audiovisual
Vídeo contenidos PLA 2.2. Tipologías y arquitecturas de un sistema Big Data Audiovisual
Vídeo presentación PLA 3.1. Captura, pre-procesado y almacenamiento de datos masivos Audiovisual
Vídeo contenidos PLA 3.2. Captura, pre-procesado y almacenamiento de datos masivos Audiovisual
Vídeo presentación PLA 4.1. Análisis de datos masivos Audiovisual
Vídeo contenidos PLA 4.2. Análisis de datos masivos Audiovisual
Vídeo presentación PLA 5.1. Análisis de datos masivos. Técnicas avanzadas Audiovisual
Vídeo contenidos PLA 5.2. Análisis de datos masivos. Técnicas avanzadas Audiovisual
Espacio de recursos de ciencia de datos Web
Perspectiva histórica del procesamiento por lotes XML
Perspectiva histórica del procesamiento por lotes DAISY
Perspectiva histórica del procesamiento por lotes EPUB 2.0
Perspectiva histórica del procesamiento por lotes MOBIPOCKET
Perspectiva histórica del procesamiento por lotes HTML5
Perspectiva histórica del procesamiento por lotes PDF
Introducción a Spark con DataFrames y SparkSQL (SPARKSQL_DATAFRAMES_BASICO_PEC3) Audiovisual
Funcionamiento de las operaciones avanzadas con Spark (SPARKSQL_DATAFRAMES_AVANZADO_PEC4) Audiovisual
Introducción al entorno de trabajo, introducción a Hadoop y Spark (HDFS_PEC1) Audiovisual
Introducción al entorno de trabajo, introducción a Hadoop y Spark (SPARK_OPS_PEC1) Audiovisual
Uso de Google Cloud Dataproc: big data en el cloud Audiovisual
Automatización de procesos big data con Oozie Audiovisual

Amunt

Para entender el enfoque metodológico general se recomienda la lectura de este apartado y el siguiente, respecto el modelo de evaluación.

Además de lo que se ha explicado anteriormente, el consultor recordará al comienzo de cada semana los objetivos y competencias a desarrollar, así como los modelos de aprendizaje y de evaluación para cada parte cuando proceda. También se recomienda el seguimiento y participación en todas las discusiones y preguntas publicadas en el foro del aula.

Más concretamente, recomendamos el siguiente ciclo de estudios:

  • Leer y estudiar cuidadosamente cada módulo de aprendizaje y/o lectura recomendada.
  • Participar en el foro, iniciar debates formales o publicar informalmente mensajes y opiniones. El método de enseñanza promueve la colaboración entre los miembros del grupo. El consultor y el profesor responsable pueden participar excepcionalmente o para cerrar el debate en partes o en su totalidad.
  • Comenzar a preparar las pruebas y/o actividades con antelación. Se requerirá la consulta de diferentes materiales y, por lo general, no tienen una solución única. Justificar y argumentar la solución o las soluciones propuestas es más importante para la evaluación que tener una respuesta correcta.

Amunt

El proceso de evaluación se fundamenta en el trabajo personal del estudiante y presupone la autenticidad de la autoría y la originalidad de los ejercicios realizados.

La falta de autenticidad en la autoría o de originalidad de las pruebas de evaluación; la copia o el plagio; el intento fraudulento de obtener un resultado académico mejor; la colaboración, el encubrimiento o el favorecimiento de la copia, o la utilización de material, software o dispositivos no autorizados durante la evaluación, entre otras, son conductas irregulares en la evaluación que pueden tener consecuencias académicas y disciplinarias graves.

Estas conductas irregulares pueden comportar el suspenso (D/0) en las actividades evaluables que se definan en el plan docente -incluidas las pruebas finales- o en la calificación final de la asignatura, sea porque se han utilizado materiales, software o dispositivos no autorizados durante las pruebas, como por ejemplo redes sociales o buscadores de información en internet, porque se han copiado fragmentos de texto de una fuente externa (internet, apuntes, libros, artículos, trabajos o pruebas de otros estudiantes, etc.) sin la citación correspondiente, o porque se ha llevado a cabo cualquier otra conducta irregular.

Así mismo, y de acuerdo con la normativa académica, las conductas irregulares en la evaluación también pueden dar lugar a la incoación de un procedimiento disciplinario y a la aplicación, si procede, de la sanción que corresponda, de conformidad con lo establecido en la normativa de convivencia de la UOC.

En el marco del proceso de evaluación, la UOC se reserva la potestad de:

  • Solicitar al estudiante que acredite su identidad según lo establecido en la normativa académica.
  • Solicitar al estudiante que acredite la autoría de su trabajo a lo largo de todo el proceso de evaluación, tanto evaluación continua como evaluación final, por medio de una prueba oral o los medios síncronos o asíncronos que establezca la universidad. Estos medios tendrán por objeto verificar los conocimientos y las competencias que garanticen la autoría; en ningún caso implicarán una segunda evaluación. Si no es posible garantizar la autoría del estudiante, la prueba será calificada con D, en el caso de la evaluación continua, o con un Suspenso, en el caso de la evaluación final.

    A estos efectos, la UOC puede exigir al estudiante el uso de un micrófono, una cámara u otras herramientas durante la evaluación; será responsabilidad del estudiante asegurar que tales dispositivos funcionan correctamente.

Amunt

La asignatura solo puede aprobarse con el seguimiento y la superación de la evaluación continua (EC). La calificación final de la asignatura es la nota obtenida en la EC.


Ponderación de las calificaciones

Opción para superar la asignatura: EC

Nota final de asignatura: EC

Amunt

Este curso se evalúa únicamente a través de la evaluación continua por lo cual no hay examen ni actividad finales. Todas las actividades, tanto teóricas como prácticas, y la participación en las discusiones en el foro virtual son obligatorias.

La evaluación continua presenta cinco pruebas de evaluación continua (PEC) con la siguiente ponderación:

·       Carga de datos con Sqoop y sistema de ficheros HDFS (17 puntos)

·       Yarn, el gestor de recursos de Hadoop (17 puntos)

·       Procesamiento de datos con Apache Spark mediante RDDs (17 puntos)

·       Análisis de datos estructurados con Spark (17 puntos)

·       Planificación de procesos en Apache Oozie (17 puntos)

y, seis cuestionarios autocorregidos uno por módulo, sobre la teoría asociada a cada módulo. Se accede a estos cuestionarios a través del enlace a la plataforma Moodle integrada en el aula. La ponderación de los cuestionarios viene indicada en el aula y corresponde a valores entre 2 y 3 puntos sobre el total de la puntuación de la asignatura (100 puntos).  Las condiciones de realización de los cuestionarios son las siguientes:

·       Hay un cuestionario distinto para cada uno de los módulos didácticos de esta asignatura (cinco en total).

·       El estudiante dispone de un máximo de 2 intentos en cada prueba.

·       Cada cuestionario tiene 30 preguntas y un límite de tiempo de 30 minutos para su realización.

·       La nota de cada cuestionario será la nota máxima obtenida de ambos intentos.

La nota final de la asignatura corresponde a la suma de los puntos de las diferentes actividades y cuestionarios obteniendo un máximo de 100 puntos.

NOTA: La nota de las actividades que se entreguen con fecha posterior al límite será como máximo del 70% de la nota correspondiente cada una de las actividades. Descontando un 10% de la nota por día de retraso, hasta llegar al mínimo del 70% citado anteriormente.

NOTA: Los profesores se guardan el derecho de realizar entrevistas personales a los estudiantes para ajustar la nota final de cada actividad a los conocimientos aprendidos. 

Advertencia: Es importante mencionar que la resolución de las pruebas, casos y prácticas propuestas se debe realizar de forma individual excepto cuando se indique lo contrario. El equipo docente tendrá en cuenta la lógica de las respuestas, el pensamiento individual y la capacidad de expresarse por escrito. Cualquier fuente externa usada para resolver las cuestiones y casos deberá indicarse claramente y ser referenciada adecuadamente. Si no fuera el caso, las actividades se evaluarán con una D. Por otro lado, siempre a criterio de la Universidad, el incumplimiento de esta obligación será comunicada a la gestión de los estudios, con el fin de evaluar si el estudiante está autorizado para aprobar cualquier otra materia o mediante una evaluación continua en el semestre o el siguiente.

Amunt

Esta asignatura únicamente se puede superar a través de la realización y entrega de las actividades propuestas a lo largo del semestre, no hay ni examen ni actividad final. La nota final de evaluación continua (EC) será la suma de los puntos obtenidos en las distintas actividades, según los pesos indicados en el apartado anterior.

Para aprobar la asignatura el estudiante debe alcanzar una nota igual o superior a 4 en todas las actividades propuestas.

Por otra parte, a lo largo del semestre, el consultor puede proponer discusiones o debates formales. La participación en calidad y cantidad en dichos debates también puede influir en la calificación final del semestre.

Recuperación de las Pruebas de Evaluación Continua (PEC)

La recuperación de las actividades se realizará de forma individual para cada actividad que no se haya entregado o aprobado.

Detalles del proceso de recuperación:

  • No existe una PEC de recuperación final. Las actividades se recuperan de forma individual.
  • La nota de las actividades que se entreguen con fecha posterior al límite será como máximo del 70% de la nota correspondiente cada una de las actividades. Descontando un 10% de la nota por día de retraso, hasta llegar al mínimo del 70% citado anteriormente.
  • Cualquier actividad entregada fuera de plazo (más allá de las 23:59 de la fecha límite propuesta) se considerará una entrega de recuperación.
  • La recuperación de las actividades no entregadas dentro de su fecha podrá entregarse a lo largo del semestre con las limitaciones sobre la nota citadas en los puntos anteriores.
  • Puede optar a la recuperación cualquier estudiante que: (1) no haya presentado la actividad dentro del plazo de entrega definido o (2) tenga una nota inferior a 5. Es decir, cualquier estudiante que tenga una nota de C-, D o NP en esta actividad.
  • Sólo es posible realizar una única entrega de recuperación, como máximo, de cada una de las actividades propuestas durante el curso y se corregirá dentro de las dos últimas semanas del semestre en curso. Consecuentemente la nota también se dará dentro de estas fechas.  

Amunt

A lo largo del semestre, el consultor os proporcionará retorno de vuestro progreso y se realizará una comunicación individual a aquellos estudiantes en riesgo de no superar el curso, según su evolución. En todo caso, podéis solicitar al consultor un retorno individual, tanto de vuestra evolución dentro del semestre, como de cada ejercicio individual. Las soluciones de los ejercicios no se van a publicar. También es posible ponerse en contacto con el profesor responsable del curso académico, si los comentarios y sugerencias recibidos por parte del consultor no son satisfactorios o no se está de acuerdo con ellos.

Amunt