Работа с МЛ-сервисами под нагрузкой AI/ML и визуализация данных
Доклад принят в программу конференции
Тезисы
У нас в Авито созданы десятки сервисов, в которых используются модели машинного обучения. Модели встречаются большие и маленькие. Суммарная нагрузка на сервисы около 1млн RPM.
В этом докладе я расскажу, как мы используем инфраструктуру для удобной эксплуатации МЛ-моделей и продемонстрирую разработанную нами библиотеку для запуска МЛ-моделей в продакшне и под нагрузкой.
Олег Бугримов
Авито
В программировании более 20 лет.
В Авито руководит командой разработки МЛ-сервисов.
Другие доклады секции AI/ML и визуализация данных
О хороших практиках построения инфраструктуры ML-моделей
Дмитрий Аникин
Лаборатория Касперского
Разработка своего хранилища моделей машинного обучения и почему нам не подошли стандартные решения
Юрий Букаткин
Программный регион
Towards Knowledge as Code
Анатолий Щербаков
Recall Masters