1.8 KiB
1.8 KiB
| aliases | tags | date | zero-link | parents | linked | ||||
|---|---|---|---|---|---|---|---|---|---|
|
|
|
Если мы говорим о бэкенде, то у нас может быть 2 цели по его оптимизации:
- Throughput. Заставить его переваривать большее количество запросов в секунду, то есть увеличить его производительность.
- Latency. Уменьшить время отклика, то есть чтобы каждый запрос выполнялся намного быстрее.
Напомню, что Бэкенд большую часть времени ждет. Поэтому, чтобы бэкенд мог выдержать как можно большую нагрузку, мы должны в рамках одного ядра процессора обрабатывать не один запрос, а несколько, так как процессорное время тратится совсем небольшое, между ними расположены интервалы ожидания, мы можем обработку нескольких запросов выполнять на одном ядре, переключаясь между ними по мере того, как обработка блокируется на ожидание какого-то сетевого ввода вывода.
Подходы:
