Работа с МЛ-сервисами под нагрузкой AI/ML и визуализация данных

Доклад принят в программу конференции
Олег Бугримов
Авито

В программировании более 20 лет.
В Авито руководит командой разработки МЛ-сервисов.

Тезисы

У нас в Авито созданы десятки сервисов, в которых используются модели машинного обучения. Модели встречаются большие и маленькие. Суммарная нагрузка на сервисы около 1млн RPM.

В этом докладе я расскажу, как мы используем инфраструктуру для удобной эксплуатации МЛ-моделей и продемонстрирую разработанную нами библиотеку для запуска МЛ-моделей в продакшне и под нагрузкой.

Другие доклады секции AI/ML и визуализация данных