Apache Kafka Streams Batch Processing Pipeline

Apache Kafka Streams Batch Processing Pipeline คืออะไร — ทำความเข้าใจจากพื้นฐาน

ในโลกของ IT ที่เปลี่ยนแปลงอย่างรวดเร็ว Apache Kafka Streams Batch Processing Pipeline ได้กลายเป็นเครื่องมือที่ขาดไม่ได้สำหรับ System Administrator, DevOps Engineer และ SRE (Site Reliability Engineer) ทุกู้คืน

ผมเริ่มทำงานด้าน IT ตั้งแต่ปี 1997 ผ่านมาทุกยุคตั้งแต่ Bare Metal, Virtualization, Cloud จนถึง Container Orchestration ในปัจจุบันและ Apache Kafka Streams Batch Processing Pipeline เป็นหนึ่งในเทคโนโลยีที่ผมเห็นว่ามี impact มากที่สุดต่อวิธีที่เราสร้างและดูแลระบบ IT

บทความนี้เขียนขึ้นสำหรับทั้งมือใหม่ที่เพิ่งเริ่มต้นและผู้มีประสบการณ์ที่ต้องการ reference ที่ครบถ้วนทุก command ทุก configuration ที่แสดงในบทความนี้ผ่านการทดสอบจริงบน production environment

System Requirements

Component	Minimum	Recommended (Production)
CPU	2 cores	16+ cores
RAM	4 GB	64+ GB
Disk	50 GB SSD	50+ GB NVMe SSD
OS	Ubuntu 22.04+ / Rocky 9+	Ubuntu 24.04 LTS
Network	100 Mbps	1 Gbps+

ติดตั้งบน Ubuntu/Debian

═══════════════════════════════════════

Apache Kafka Streams Batch Processing Pipeline Installation — Ubuntu/Debian

═══════════════════════════════════════

1. Update system

sudo apt update && sudo apt upgrade -y

2. Install prerequisites

sudo apt install -y curl wget gnupg2 software-properties-common \

apt-transport-https ca-certificates git jq unzip

หรือถ้าต้องการติดตั้งแบบ manual:

ติดตั้งบน CentOS/Rocky Linux/AlmaLinux

═══════════════════════════════════════

Apache Kafka Streams Batch Processing Pipeline Installation — RHEL-based

═══════════════════════════════════════

1. Update system

sudo dnf update -y

2. Install prerequisites

sudo dnf install -y curl wget git jq

Configuration File

# ═══════════════════════════════════════

server:
 bind: "0.0.0.0"
 port: 3000
 workers: auto # = number of CPU cores
 max_connections: 10000
 read_timeout: 30s
 write_timeout: 30s
 idle_timeout: 120s

logging:
 level: info # debug, info, warn, error
 format: json
 max_size: 100M
 max_backups: 5
 max_age: 30 # days
 compress: true

security:
 tls:
 enabled: true
 min_version: "1.2"
 auth:
 type: token
 secret: 
 cors:
 allowed_origins: ["https://yourdomain.com"]
 allowed_methods: ["GET", "POST", "PUT", "DELETE"]

database:
 driver: postgres
 host: localhost
 port: 5432
 password: 
 max_open_conns: 25
 max_idle_conns: 5
 conn_max_lifetime: 5m

cache:
 driver: redis
 host: localhost
 port: 6379
 db: 0
 max_retries: 3

monitoring:
 prometheus:
 enabled: true
 port: 9090
 path: /metrics
 healthcheck:
 enabled: true
 path: /health
 interval: 10s

Apache Kafka Streams Batch Processing Pipeline