Conceptos básicos de Kafka - curso 42.000 rublos. del IBS Training Center, capacitación las 24 horas, Fecha: 4 de diciembre de 2023.
Miscelánea / / November 29, 2023
Tópicos cubiertos:
1. Revisión (teoría – 1 hora)
¿Qué es Kafka?
Ejemplos de uso exitoso y fallido de Kafka.
Kafka y la base de datos: similitudes y diferencias.
Kafka y la cola de mensajes: similitudes y diferencias.
Arquitectura de almacenamiento Kafka: Brokers, Temas, Particiones, Segmentos, Réplicas.
Arquitectura de clúster Kafka: Zookeeper, partición, nodos de replicación maestro y esclavo, ISR.
Clientes y API.
2. Configuración de un clúster (práctica – 1 hora)
Práctica 2.1: Ejecución de un clúster Kafka usando Docker.
Instalando Zookeeper.
Instalación de brokers Kafka.
3. Desarrollo de aplicaciones en Java (teoría – 2,5 horas, práctica – 2,5 horas)
API de productor de Kafka: conceptos básicos.
Práctica 3.1: Envío de un mensaje.
Práctica 3.2: Envío de múltiples mensajes.
Práctica 3.3: Envío de múltiples mensajes con partición explícita.
Práctica 3.4: Envío de mensajes sin claves.
Kafka Consumer API: conceptos básicos, grupos de consumidores.
Práctica 3.5: Un destinatario.
Práctica 3.6: Múltiples destinatarios en un grupo.
Funciones adicionales: Paquetes, Repeticiones, Idempotencia, Transacciones, Reequilibrio de Grupos de Consumidores.
Práctica 3.7: Remitente sin paquetes y repeticiones.
Práctica 3.8: Remitente Idempotente.
Práctica 3.9: Remitente Transaccional.
Práctica 3.10: Envío y Recepción en una Transacción.
Práctica 3.11: Recibir-procesar-enviar en una transacción.
4. Acceso externo al cluster Kafka (teoría – 2 horas, práctica – 2 horas)
Seguridad: SSL, SASL, Kerberos.
REST Proxy: envío y recepción de mensajes en formatos JSON, binario y Avro.
Práctica 4.1: Acceso vía Proxy REST.
Registro de esquemas: registro de esquemas.
Práctica 4.2: Uso de Proxy REST con Registro de esquemas.
5. Mantenimiento y seguimiento (teoría – 1 hora, práctica – 1 hora)
Configurar un clúster para diferentes propósitos.
Zookeeper: configuración, modo independiente y de quórum, CLI.
Práctica 5.1: Monitoreo de un Cluster Kafka con Prometheus.
6. Varios grupos (teoría – 1 hora, práctica – 1 hora)
¿Por qué podría necesitar varios clústeres en Kafka?
Acceso a MirrorMaker.
Práctica 6.1: Uso de MirrorMaker para sincronizar clústeres.
Replicador de confluencia.
7. Kafka Connect (teoría – 2 horas, práctica – 2 horas)
Arquitectura Kafka Connect.
Sumideros de datos de Kafka Connect.
Práctica 7.1: Receptor de archivos FileStream.
Práctica 7.2: Receptor JDBC.
Fuentes de datos de Kafka Connect.
Práctica 7.3: Fuente FileStream.
Práctica 7.4: Fuente JDBC.
8. Fundamentos de Kafka Streams (teoría – 2 horas, práctica – 2 horas)
Kafka Streams: DSL, API, StreamBuilder, creación e implementación de topología.
Demostración 8.1: Implementación de la topología Streams.
Demostración 8.2: Creación de una aplicación Streams utilizando StreamBuilder.
Dispositivo Kafka Streams: subprocesos múltiples, instancias y tareas múltiples.
Esquemas de datos en Kafka: serialización a esquemas JSON, esquemas Avro, registro de esquemas, evolución de esquemas.
Demostración 8.3: Uso de esquemas JSON.
Procesamiento con estado: almacén estatal, tolerancia a fallos para almacenes estatales.
KTable: flujos de actualización de datos, almacenamiento en caché, velocidad de recuperación, agregación.
Ventanas en flujos: marcas de tiempo, flotantes, saltantes, de sesión.
Conexión: transmisión a transmisión, KTable a KTable, transmisión a KTable.