Как мы превратили рекламный движок в распределённый кеш и сэкономили треть железа

Рекламный движок обрабатывает миллионы запросов в секунду, и на каждый нужно успеть за сотню миллисекунд: определить профиль пользователя, отобрать кандидатов, провести аукцион. Повторные вычисления заметно увеличивают latency и общую нагрузку на систему. Кеши помогают не только сэкономить >30% железа системы, но и повысить эффективность рекламы.

В докладе расскажу, как мы с помощью двух микросервисов превратили движок в распределённый кеш: - Почему не всегда подходит Redis - Как идентифицировать пользователя на балансировщике, не создавая критическую точку отказа - Как использовать бизнес-метрики для балансировки, чтобы бороться с флуктуациями на масштабе десятков миллисекунд - Как мы боремся с устаревшими данными