Экономика инференса: когда выгоднее API, облако или своё железо

Для AI-агента миллион токенов — далеко не вся себестоимость. Еще важны профиль нагрузки, latency, утилизация GPU, пики и стоимость простоя. В докладе покажу, как можно считать реальную стоимость инференса и где проходит точка безубыточности между API, облачным GPU и собственным контуром. Обсудим, почему при высокой и стабильной нагрузке экономика меняется, зачем агентной платформе гибридный подход и как выбирать, где именно запускать конкретный inference workload. Не претендую на единственный истинный способ подсчета экономики — просто делюсь своими наработками и тем, что вижу у коллег