VK выложила в открытый доступ модель RuModernBERT для обработки естественного русского языка

Нейросеть понимает длинные тексты целиком, без разбиения на фрагменты и работает локально, без внешних API, что снижает нагрузку на инфраструктуру. Инженеры могут использовать ее для задач в области обработки текста, в том числе для извлечения информации, анализа тональности, поиска и ранжирования в приложениях и сервисах.
Модель может понять сложный или длинный запрос пользователя, например, в поисковой строке и найдет наиболее релевантную информацию, видео, товары или документы.
RuModernBERT доступна в нескольких версиях: на 150 млн параметров и облегченная модель на 35 млн параметров, что позволяет инженерам выбирать вариант под их задачи.
Благодаря современной архитектуре RuModernBERT работает быстрее аналогов: обучение и развертывание на конечных устройствах на 10–20%, обработка данных — в 2–3 раза быстрее на длинных контекстах по сравнению с ModernBERT, – пояснили в VK.
Источник: https://t.me/IT_today_ru #IT_News #VK #ИИ