Проблемы работы с большими объемами реляционно слабосвязанных данных в высоконагруженных веб-проектах Основная секция
Доклад принят в Программу конференции
Data Egret
CEO и консультант в компании Data Egret, специалист по базам данных PostgreSQL, Oracle, DB2.
Тезисы
Проблемы работы с большими объемами реляционно слабосвязанных данных в высоконагруженных веб-проектах / Илья Космодемьянский
Тезисы
Высоконагруженные проекты оперируют большим количеством данных. Часто случается, что эти данные не вписываются в привычную структуру реляционной СУБД, что резко снижает эффективность ее использования и является критичным для работы под большой нагрузкой. Ситуация может возникать по разным причинам, как объективным – природа самих данных, так и субъективным – используемые для реализации бизнес-логики подходы к разработке и технологии.
В данном сообщении будет рассказано о ряде задач, в которых приходится сталкиваться с большими объемами реляционно не связанных данных. Будут рассмотрены основные пути решения этих проблем – готовые решения, подходы к разработке собственных, решения на базе основных современных реляционных СУБД, традиционно применяемых в веб- разработке. Особое внимание планируется уделить сравнительной оценке плюсов и минусов каждого решения в контексте эффективности, надежности, простоты в разработке и поддержке.
Предлагаемые нами подходы основываются как на изучении общедоступного опыта по рассматриваемому вопросу, так и на обширном опыте, накопленном в компании «СУП фабрик».
О докладчике
Илья Космодемьянский, ведущий разработчик отдела технологий баз данных компании "Суп Фабрик".
Контакты: ilya.kosmodemiansky@sup.comДругие доклады секции Основная секция
Гринатом – ИТ-компания в структуре Росатом с фокусом на разработке инновационных решений для современных бизнес-процессов в атомной отрасли и за ее пределами. Мы развиваем цифровую экосистему Росатома, создаем свое ПО и обеспечиваем атомную отрасль современными ИТ-решениями, услугами и сервисами.
Авито, Sphinx
Hilbert Team — системный IТ‑интегратор. Отраслевой эксперт в области DevOps, DataOps, DevSecOps и FinOps.
Команда Тинькофф — это разработчики, продакт-менеджеры, дизайнеры, маркетологи, аналитики, тестировщики, SRE-инженеры и другие специалисты. Вместе они создают новые и развивают существующие финтех-продукты, которыми пользуются 25 миллионов клиентов и каждый из нас.
«Платформа Сфера» — универсальная экосистема продуктов для производства технологических решений, которая включает в себя более 40 инструментов для управления разработкой, тестированием, эксплуатацией программного обеспечения, а также инженерных инструментов для работы с исходным кодом и инструментами мониторинга рабочих станций и анализа бизнес-процессов.
На Авито каждый может найти что-то свое среди миллионов частных объявлений и предложений компаний по всей России: от квартиры и автомобиля до работы и кандидатов на вакансии. Сервис делают более 1300 инженеров. В Авито небольшой монолит на PHP, несколько сотен микросервисов на Go и Python, фронтенд на JavaScript, базы данных PostgreSQL, MongoDB и Redis, автоматические тесты, обученная на данных система модерации и поисковый движок Sphinx. Продуктом каждый месяц пользуется треть населения России.
Основная цель Яндекса — решать задачи людей. Любые задачи: в сети и в реальном мире, повседневные и редкие, бытовые и научные, за третий класс и за пятый курс. Именно для этого они совершенствуют свой поиск и создают новые сервисы.
Иннотех — масштабная развивающаяся компания, занимающаяся разработкой ПО банковской отрасли.
Дзен — контентная платформа, которой каждый месяц пользуются 32,5 миллиона человек. Рекомендательные алгоритмы отбирают контент для персональных лент пользователей от 100 тысяч авторов из почти 5 миллионов возможных вариантов.
Команда Тинькофф — это разработчики, продакт-менеджеры, дизайнеры, маркетологи, аналитики, тестировщики, SRE-инженеры и другие специалисты. Вместе они создают новые и развивают существующие финтех-продукты, которыми пользуются 25 миллионов клиентов и каждый из нас.
DDoS-Guard — cпециализированный провайдер защиты от DDoS-атак на базе собственных разработок. Им доверяют тысячи клиентов по всему миру, среди которых ISPsystem, Selectel, Reg.ru, hh.ru и другие. За 2023 год система защиты DDoS-Guard отразила 1.4 млн атак.
Доклад будет о личном проекте, так что в его контексте автор и есть компания :)
Грамант
«Перкона» (Percona)
IT-компания и основной цифровой партнер торговых сетей и бизнесов X5 Group. Команда из более 3500 специалистов разрабатывает решения, которые помогают 325 тысячам сотрудников группы работать с максимальным технологическим комфортом, а миллионам покупателей быстро и удобно покупать свежие продукты.
SberDevices — IT-компания полного цикла в экосистеме Сбера, R&D-центр экспертизы в области искусственного интеллекта: речевые технологии, понимание естественного языка, компьютерное зрение, лицевая и голосовая биометрия. Производит умные устройства — от лампочек до телевизоров. В портфолио SberDevices — ruGPT-3, ruDall-E, RuSBERT и другие масштабные ML-проекты, высоконагруженные системы и технологии обработки Big Data.
Яндекс — технологическая компания, которая создаёт инновационные продукты на основе машинного обучения и нейронных сетей. Команда талантливых математиков и программистов развивает самую популярную в России поисковую систему и более 85 пользовательских сервисов, которые помогают людям в повседневных заботах.
СберМаркет (ООО «Инстамарт Технолоджис») — технологический онлайн-сервис, который помогает делать покупки не выходя из дома. Tech-команда СберМаркета создает один из самых сложных высоконагруженных e-commerce-проектов в России и делает это с любовью.
На Авито каждый может найти что-то своё среди миллионов частных объявлений и предложений компаний. У нас десятки тысяч rps к бэкенду, терабайты картинок в хранилище и мощная система автоматизированной модерации на базе машинного обучения. Каждый месяц сервисом пользуется треть населения России.
Компания «ЭвоКарго» разрабатывает автономные логистические решения. «ЭвоКарго» предлагает принципиально новую экономически эффективную логистическую услугу по сервисной модели с применением автономного транспорта собственного производства на складских и производственных площадках. За три года компания стала одной из первых в мире, успешно запустивших полностью автономный логистический сервис грузоперевозок. Сервис позволяет снизить расходы на содержание флота до 30%.
Команда Тинькофф — это разработчики, продакт-менеджеры, дизайнеры, маркетологи, аналитики, тестировщики, SRE-инженеры и другие специалисты. Вместе они создают новые и развивают существующие финтех-продукты, которыми пользуются 25 миллионов клиентов и каждый из нас.
Postgres Professional — разработчик Postgres Pro, самой популярной российской системы управления базами данных. В команде Postgres Professional — 70% российских разработчиков PostgreSQL. Среди заказчиков Postgres Pro — крупнейшие российские компании из списка РБК-500, а также объекты КИИ.
Okko — один из крупнейших российских VoD-сервисов. Проект стартовал в 2011 году и сегодня представлен на всех ключевых платформах: Smart TV, mobile (IOS и Android), Apple TV, PlayStation 3, 4 и 5, web (ПК). Пользователи Okko могут купить и скачать понравившийся фильм в высоком качестве (8K, 4K, HDR), арендовать контент на 48 часов или купить подписку и смотреть его на любой популярной платформе. В коллекции сервиса — более 100 тысяч единиц популярного контента таких мировых киностудий, как Walt Disney Pictures, Paramount Pictures, 20th Century Fox, Warner Bros, Sony Pictures, Universal Pictures, а также ведущих европейских и российских производителей фильмов и сериалов. На платформе Okko также доступен сервис спортивных трансляций Okko Спорт.
Выступление, независимое от текущего места работы.
Evrone — это более 15 лет опыта в разработке высоконагруженных и ресурсоемких проектов со сложной бизнес-логикой, в продуктовой разработке для стартапов, аудите и консалтинге. Команда обладает экспертизой в Ruby, Go, Python, Rust, Elixir, React.js, Vue.js и приветствует Open Source-инициативы.
X5 Tech — IT-компания и основной цифровой партнер торговых сетей и бизнесов X5 Group. Команда из более 3500 специалистов разрабатывает решения, которые помогают 325 тысячам сотрудников группы работать с максимальным технологическим комфортом, а миллионам покупателей быстро и удобно покупать свежие продукты.
ВКонтакте — крупнейшая социальная сеть в России и странах СНГ. Мы ставим перед собой масштабные вызовы и делаем технологии доступными для каждого пользователя. ВКонтакте помогает решать любые повседневные задачи — и даже больше!
«Перкона» (Percona)
Доклад будет о личном проекте, так что в его контексте автор и есть компания :)
SberDevices — IT-компания полного цикла в экосистеме Сбера, R&D-центр экспертизы в области искусственного интеллекта: речевые технологии, понимание естественного языка, компьютерное зрение, лицевая и голосовая биометрия. Производит умные устройства — от лампочек до телевизоров. В портфолио SberDevices — ruGPT-3, ruDall-E, RuSBERT и другие масштабные ML-проекты, высоконагруженные системы и технологии обработки Big Data.
Okko — один из крупнейших российских VoD-сервисов. Проект стартовал в 2011 году и сегодня представлен на всех ключевых платформах: Smart TV, mobile (IOS и Android), Apple TV, PlayStation 3, 4 и 5, web (ПК). Пользователи Okko могут купить и скачать понравившийся фильм в высоком качестве (8K, 4K, HDR), арендовать контент на 48 часов или купить подписку и смотреть его на любой популярной платформе. В коллекции сервиса — более 100 тысяч единиц популярного контента таких мировых киностудий, как Walt Disney Pictures, Paramount Pictures, 20th Century Fox, Warner Bros, Sony Pictures, Universal Pictures, а также ведущих европейских и российских производителей фильмов и сериалов. На платформе Okko также доступен сервис спортивных трансляций Okko Спорт.
QIWI — международная группа компаний, которая предоставляющая платежные и финансовые сервисы в России и в других странах.
Яндекс — технологическая компания, которая создает инновационные продукты на основе машинного обучения и нейронных сетей. Команда талантливых математиков и программистов развивает самую популярную в России поисковую систему и более 85 пользовательских сервисов, которые помогают людям в повседневных заботах.
SiteGround
Яндекс — технологическая компания, которая создаёт инновационные продукты на основе машинного обучения и нейронных сетей. Команда талантливых математиков и программистов развивает самую популярную в России поисковую систему и более 85 пользовательских сервисов, которые помогают людям в повседневных заботах.
VK — это более 200 технологичных проектов, свыше 11 000 сотрудников и более 20 лет опыта создания высоконагруженных интернет-сервисов. ВКонтакте, Одноклассники, VK Cloud, Дзен, Маруся, VK Play — это лишь часть продуктов VK, которыми ежедневно пользуются миллионы людей по всей стране.
Altenar — международная IT-b2b-компания с офисами в России, на Мальте и в Греции, которая занимается разработкой высоконагруженного программного обеспечения для сбора, обработки, анализа спортивных данных в реальном времени и их последующего преобразования в информацию для b2b-клиентов.
Компания Last.Backend занимается созданием DevOps-технологий и продуктов. Имеет собственную систему оркестровки контейнеров аналога Kubernetes. Также занимается DevOps-акселерацией компаний, помогая в кратчайшие сроки получить качественную автоматизированную инфраструктуру под проект с дальнейшим 24/7-мониторингом.
Яндекс — технологическая компания, которая создаёт инновационные продукты на основе машинного обучения и нейронных сетей. Команда талантливых математиков и программистов развивает самую популярную в России поисковую систему и более 85 пользовательских сервисов, которые помогают людям в повседневных заботах.
Гринатом – ИТ-компания в структуре Росатом с фокусом на разработке инновационных решений для современных бизнес-процессов в атомной отрасли и за ее пределами. Мы развиваем цифровую экосистему Росатома, создаем свое ПО и обеспечиваем атомную отрасль современными ИТ-решениями, услугами и сервисами.
Т1 — многопрофильный холдинг, один из лидеров российского IТ-рынка, является партнером ключевых производителей и разработчиков в сфере информационных технологий. В штате — 20 тысяч сотрудников. В 2022 году оборот холдинга составил свыше 166,7 млрд рублей. По версии аналитических агентств CNews Analytics, TAdviser и RAEX, Т1 входит в топ-3 крупнейших российских IТ-компаний. В состав холдинга входят кластеры: Т1 (компании Т1 Интеграция, Т1 Консалтинг, Т1 Cloud, Сервионика), МультиКарта, Иннотех, Дататех и НОТА.
Sber Automotive Technologies (SberAutoTech) — разработчик технологии автономного вождения, совместимой с различными видами транспорта: от легковых автомобилей до грузовиков. Ключевое направление работы — создание универсальной беспилотной технологии.
На Авито каждый может найти что-то своё среди миллионов частных объявлений и предложений компаний. У нас десятки тысяч rps к бэкенду, терабайты картинок в хранилище и мощная система автоматизированной модерации на базе машинного обучения. Каждый месяц сервисом пользуется треть населения России.
Технологический партнер с комплексной экспертизой в области построения и развития инфраструктуры, внедрения информационных систем, разработки программных решений и сервисной поддержки. КРОК реализует проекты, которые задают тон индустрии: от крупнейшего ЦОДа в стране до «умной» инфраструктуры спортивных объектов.
Дзен — контентная платформа, которой каждый месяц пользуются 32,5 миллиона человек. Рекомендательные алгоритмы отбирают контент для персональных лент пользователей от 100 тысяч авторов из почти 5 миллионов возможных вариантов.
Lamoda Tech — это IТ-компания, где более 500 человек создают digital-продукты для e-commerce и делают моду ближе для миллионов пользователей Lamoda.
БФТ-Холдинг – российский разработчик программных продуктов и заказных решений для государственного сектора России. Проекты, выполняемые нами, меняют в лучшую сторону жизнь людей по всей России.
Tarantool — middleware для эффективного создания высоконагруженных сервисов. Сочетает в себе сервер приложений, гибридное хранилище данных, а также инструменты и средства масштабирования. Производительность систем на Tarantool может достигать 1 млн транзакций в секунду.
Positive Technologies — лидер рынка результативной кибербезопасности. Компания является ведущим разработчиком продуктов, решений и сервисов, позволяющих выявлять и предотвращать кибератаки до того, как они причинят неприемлемый ущерб бизнесу и целым отраслям экономики. Наши технологии используют более 3300 организаций по всему миру, в том числе 80% компаний из рейтинга «Эксперт-400».
Международная технологическая платформа транспортных и бытовых услуг.
