Как fan-out создаёт хвост задержек: эксперимент с параллельными вызовами сервисов
An experiment looks at how fan-out causes a latency tail in parallel service calls. Individual services respond quickly and requests run in parallel, yet the final response can still miss its SLA. The likely cause is the number of dependencies: the more there are, the higher the chance of waiting for at least one slow response. Using a product card as an example, the discussion examines fan-out’s effect on tail latency, why p99 grows, and the cost of speeding up the response through restriction.
Каждый сервис отвечает быстро, запросы выполняются параллельно, но итоговый ответ всё равно не укладывается в SLA. Причина может быть в самом количестве зависимостей: чем их больше, тем выше вероятность дождаться хотя бы одного медленного ответа. На примере карточки товара разберём, как fan-out влияет на хвостовые задержки, почему растёт p99 и какой ценой можно ускорить ответ, ограничив ожидание необязательных данных. Разобрать эксперимент