vault backup: 2024-08-26 13:07:54
This commit is contained in:
parent
327965a8d1
commit
437ac30883
10
.obsidian/plugins/home-tab/data.json
vendored
10
.obsidian/plugins/home-tab/data.json
vendored
@ -25,7 +25,11 @@
|
|||||||
"recentFilesStore": [
|
"recentFilesStore": [
|
||||||
{
|
{
|
||||||
"filepath": "_inbox/00 Kafka.md",
|
"filepath": "_inbox/00 Kafka.md",
|
||||||
"timestamp": 1724666538643
|
"timestamp": 1724666704047
|
||||||
|
},
|
||||||
|
{
|
||||||
|
"filepath": "_inbox/Docker-compose для запуска Kafka.md",
|
||||||
|
"timestamp": 1724666627185
|
||||||
},
|
},
|
||||||
{
|
{
|
||||||
"filepath": "knowledge/health/болезни/Бессонница.md",
|
"filepath": "knowledge/health/болезни/Бессонница.md",
|
||||||
@ -38,10 +42,6 @@
|
|||||||
{
|
{
|
||||||
"filepath": "_inbox/Параметры улучшения звукоизоляции.md",
|
"filepath": "_inbox/Параметры улучшения звукоизоляции.md",
|
||||||
"timestamp": 1724652252794
|
"timestamp": 1724652252794
|
||||||
},
|
|
||||||
{
|
|
||||||
"filepath": "_inbox/Звукоизоляция квартиры.md",
|
|
||||||
"timestamp": 1724651998258
|
|
||||||
}
|
}
|
||||||
],
|
],
|
||||||
"bookmarkedFileStore": [],
|
"bookmarkedFileStore": [],
|
||||||
|
@ -4,6 +4,10 @@
|
|||||||
"basename": "00 Kafka",
|
"basename": "00 Kafka",
|
||||||
"path": "_inbox/00 Kafka.md"
|
"path": "_inbox/00 Kafka.md"
|
||||||
},
|
},
|
||||||
|
{
|
||||||
|
"basename": "Docker-compose для запуска Kafka",
|
||||||
|
"path": "_inbox/Docker-compose для запуска Kafka.md"
|
||||||
|
},
|
||||||
{
|
{
|
||||||
"basename": "Бессонница",
|
"basename": "Бессонница",
|
||||||
"path": "knowledge/health/болезни/Бессонница.md"
|
"path": "knowledge/health/болезни/Бессонница.md"
|
||||||
@ -195,10 +199,6 @@
|
|||||||
{
|
{
|
||||||
"basename": "Покраска стен",
|
"basename": "Покраска стен",
|
||||||
"path": "_inbox/Покраска стен.md"
|
"path": "_inbox/Покраска стен.md"
|
||||||
},
|
|
||||||
{
|
|
||||||
"basename": "Строительные краски",
|
|
||||||
"path": "_inbox/Строительные краски.md"
|
|
||||||
}
|
}
|
||||||
],
|
],
|
||||||
"omittedPaths": [],
|
"omittedPaths": [],
|
||||||
|
@ -13,6 +13,11 @@ linked:
|
|||||||
---
|
---
|
||||||
Apache Kafka – это платформа потоковой передачи, которую можно использовать для быстрой обработки большого количества событий. Строго говоря это не [Брокер сообщений](Брокер%20сообщений.md), а распределенный реплицированный журнал фиксаций изменений (commit log).
|
Apache Kafka – это платформа потоковой передачи, которую можно использовать для быстрой обработки большого количества событий. Строго говоря это не [Брокер сообщений](Брокер%20сообщений.md), а распределенный реплицированный журнал фиксаций изменений (commit log).
|
||||||
|
|
||||||
|
Основные возможности:
|
||||||
|
- Публиковать записи и подписываться на очереди сообщений (топики)
|
||||||
|
- Хранить записи с отказоустойчивостью
|
||||||
|
- Обрабатывать поток по мере их возникновения
|
||||||
|
|
||||||
Где встречается потребности в потоковой обработке:
|
Где встречается потребности в потоковой обработке:
|
||||||
- Финансовые транзакции
|
- Финансовые транзакции
|
||||||
- Аналитика
|
- Аналитика
|
||||||
@ -48,6 +53,16 @@ Apache Kafka – это платформа потоковой передачи,
|
|||||||
- Offset - позиция записи
|
- Offset - позиция записи
|
||||||
- Pratition - шард топика
|
- Pratition - шард топика
|
||||||
|
|
||||||
|
Платформа:
|
||||||
|
- API
|
||||||
|
- Producer
|
||||||
|
- Consumer
|
||||||
|
- Admin
|
||||||
|
- [Kafka Connect](Kafka%20Connect.md)
|
||||||
|
- [Kafka Stream](Kafka%20Stream.md)
|
||||||
|
- ksqlDB
|
||||||
|
|
||||||
|
|
||||||
Доставка сообщений в Kafka может осуществляться как минимум тремя способами:
|
Доставка сообщений в Kafka может осуществляться как минимум тремя способами:
|
||||||
- не менее одного раза (at-least-once) – сообщение будет отправляется потребителям до тех пор, пока те не подтвердят его получение;
|
- не менее одного раза (at-least-once) – сообщение будет отправляется потребителям до тех пор, пока те не подтвердят его получение;
|
||||||
- не более одного раза (at-most-once) – сообщение отправляется только один раз и в случае сбоя не отправляется повторно;
|
- не более одного раза (at-most-once) – сообщение отправляется только один раз и в случае сбоя не отправляется повторно;
|
||||||
@ -87,8 +102,7 @@ Apache Kafka – это платформа потоковой передачи,
|
|||||||
## Дополнительно
|
## Дополнительно
|
||||||
- [Consumer Group](Consumer%20Group.md)
|
- [Consumer Group](Consumer%20Group.md)
|
||||||
- [[Кластер Kafka]]
|
- [[Кластер Kafka]]
|
||||||
- [Kafka Connect](Kafka%20Connect.md)
|
- [Docker-compose для запуска Kafka](Docker-compose%20для%20запуска%20Kafka.md)
|
||||||
- [Kafka Stream](Kafka%20Stream.md)
|
|
||||||
|
|
||||||
```
|
```
|
||||||
sudo docker run -p 9000:9000 -e ZK_HOSTS="10.21.21.14:2181" sheepkiller/kafka-manager
|
sudo docker run -p 9000:9000 -e ZK_HOSTS="10.21.21.14:2181" sheepkiller/kafka-manager
|
||||||
|
51
_inbox/Docker-compose для запуска Kafka.md
Normal file
51
_inbox/Docker-compose для запуска Kafka.md
Normal file
@ -0,0 +1,51 @@
|
|||||||
|
---
|
||||||
|
aliases:
|
||||||
|
tags:
|
||||||
|
- зрелость/🌱
|
||||||
|
date:
|
||||||
|
- - 2024-08-26
|
||||||
|
zero-link:
|
||||||
|
- "[[00 Kafka]]"
|
||||||
|
parents:
|
||||||
|
linked:
|
||||||
|
---
|
||||||
|
```yml
|
||||||
|
version: '3.1'
|
||||||
|
|
||||||
|
services:
|
||||||
|
|
||||||
|
zookeeper:
|
||||||
|
image: confluentinc/cp-zookeeper:latest
|
||||||
|
environment:
|
||||||
|
ZOOKEEPER_CLIENT_PORT: 2181
|
||||||
|
ZOOKEEPER_TICK_TIME: 2000
|
||||||
|
ports:
|
||||||
|
- 2181:2181
|
||||||
|
|
||||||
|
kafka:
|
||||||
|
image: confluentinc/cp-kafka:latest
|
||||||
|
depends_on:
|
||||||
|
- zookeeper
|
||||||
|
ports:
|
||||||
|
- 19092:19092
|
||||||
|
- 9092:9092
|
||||||
|
environment:
|
||||||
|
KAFKA_BROKER_ID: 1
|
||||||
|
KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181
|
||||||
|
KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://kafka:9092,PLAINTEXT_HOST://localhost:19092
|
||||||
|
KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: PLAINTEXT:PLAINTEXT,PLAINTEXT_HOST:PLAINTEXT
|
||||||
|
KAFKA_INTER_BROKER_LISTENER_NAME: PLAINTEXT
|
||||||
|
KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1
|
||||||
|
|
||||||
|
|
||||||
|
kafdrop:
|
||||||
|
image: obsidiandynamics/kafdrop
|
||||||
|
restart: "no"
|
||||||
|
ports:
|
||||||
|
- 9900:9000
|
||||||
|
environment:
|
||||||
|
KAFKA_BROKERCONNECT: "kafka:9092"
|
||||||
|
JVM_OPTS: "-Xms16M -Xmx48M -Xss180K -XX:-TieredCompilation -XX:+UseStringDeduplication -noverify"
|
||||||
|
depends_on:
|
||||||
|
- "kafka"
|
||||||
|
```
|
Loading…
Reference in New Issue
Block a user