Трансфо́рмер (англ. Transformer) — архитектура глубоких нейронных сетей, представленная в 2017 году исследователями из Google Brain.[1]
По аналогии с рекуррентными нейронными сетями (РНС) трансформеры предназначены для обработки последовательностей, таких как текст на естественном языке, и решения таких задач как машинный перевод и автоматическое реферирование. В отличие от РНС, трансформеры не требуют обработки последовательностей по порядку. Например, если входные данные — это текст, то трансформеру не требуется обрабатывать конец текста после обработки его начала. Благодаря этому трансформеры распараллеливаются легче чем РНС и могут быть быстрее обучены.
Так гласит справка из Wikipedia. Эта архитектура нейронных сетей имеет огромный потенциал для решения разного рода задач, от генерации тестов, классификации тектов, классификации изображений, генерация изображения и мн. другие.
Мы видим устойчивый спрос у наших пользователей на генерацию заголовков и описаний к товарам и продуктам как дополнение к текстовому модулю. Для решения таких задач нами было принято решение использовать для этого транформеры, так как они уже себя хорошо зарекомендовали на этих типах задач.
Результатом будет сгенерированный и оптимизированный для SEO заголовок который “полюбят” и поисковые системы и пользователи.