digital-garden/_inbox/Kafka.md

aliases	tags	date	zero-link	linked
кафка kafka	type/moc	2024-07-02 2024-07-02	00 Архитектура ПО

Apache Kafka – это платформа потоковой передачи, которую можно использовать для быстрой обработки большого количества событий. Строго говоря это не Брокер сообщений, а распределенный реплецированный журнал фиксаций изменений (commit log).

Доставка сообщений в Kafka может осуществляться как минимум тремя способами:

• не менее одного раза (at-least-once) – сообщение будет отправляется потребителям до тех пор, пока те не подтвердят его получение;
• не более одного раза (at-most-once) – сообщение отправляется только один раз и в случае сбоя не отправляется повторно;
• точно один раз (exactly-once) – потребитель гарантированно получит сообщение ровно один раз.

Помимо различных семантик доставки, есть еще одно общее преимущество использования брокера сообщений – если приложение потребитель потерпело аварию или остановлено для технического обслуживания, то производитель может не ждать, пока его сообщение будет обработано. Когда потребители возобновят работу и вернутся в сеть, они смогут продолжить с того места, на котором остановились, и обработать ожидающие сообщения.

Платформа Kafka изначально была ориентирована на работу с несколькими потребителями. Это означает, что приложение, читающее сообщение из брокера сообщений, не делает это сообщение недоступным для других приложений, которые также могут захотеть его получить и использовать.

Сообщение, также называемое записью, является основной частью данных, проходящих через Kafka. Сообщения – это представление ваших данных в Kafka. Каждое сообщение имеет отметку времени, значение и необязательный ключ. При желании также можно добавлять свои заголовки

Заметки

• Реализована на Java
• Не использует RAM для доступа к данным.
• Отправленные сообщения не удаляются после прочтения. Можно настроить ротацию, чтобы старые сообщения удалялись.
• Для улучшения производительности желательно под кафку выделять отдельные жесткие диски.