VK улучшила языковую модель Diona для создания текстов
фото: фрипик
Компания VK (MOEX: VKCO) представила новую языковую модель Diona, которая предназначена для генерации и обработки текстовых данных. По информации от представителей компании, опубликованной в издании «Коммерсантъ», новая модель значительно улучшает эффективность и снижает нагрузку на инфраструктуру.
Diona разработана на основе предыдущих моделей, обученных на данных из открытых сообществ социальной сети «ВКонтакте» и обширных текстовых корпусах. Ключевое отличие Diona — увеличение количества параметров модели в 1,5 раза, от 4 до 30 миллиардов. Это позволяет учитывать контекст до 32 тысяч токенов, что в восемь раз больше, чем у предыдущей версии.
По данным «Коммерсанта», объем инвестиций в разработку Diona составил от 500 до 800 миллионов рублей. Эти вложения подчеркивают стратегическую значимость проекта для компании и его потенциал в обработке естественного языка, пишет источник.
