Bing использует BERT с апреля

Компания Bing сообщила, что использует BERT с апреля, так что возможности обработки естественного языка теперь применяются ко всем запросам по всему миру.

Bing уже несколько месяцев использует BERT для улучшения качества результатов поиска, и непосредственно от Microsoft поступают сообщения о том, что трансформаторные модели были применены ко всем различным типам запросов, сделанных пользователями к поисковой системе.

В приведенном выше примере, как вы можете прочитать, лучшие возможности Bing по обработке естественного языка позволяют поисковой системе понять, что пользователь ищет в Интернете. В частности, Бинга спросили «что может усугубить сотрясение».

До добавления новых моделей трансформаторов результаты вопроса давали ответы на симптомы сотрясения мозга, а теперь они дают более полные и конкретные ответы. Если вы посмотрите на до и после апреля, вы увидите, как Бинг начал давать все более точные ответы в соответствии с исследованиями, проведенными пользователем.

Лучшее понимание естественного языка должно привести к более релевантным для пользователей результатам исследований. Уже несколько месяцев мы знаем, что и Bing, и Google используют эти продвинутые алгоритмы, чтобы обеспечить лучшие результаты поиска, особенно те, которые связаны с более длинными запросами.

Сегодня мы можем сказать, что внедрение BERT для улучшения результатов поиска BERT предшествует объявлению Google о BERT на шесть месяцев, и Бинг говорит, что это привело к дальнейшему улучшению качества поиска за прошедший год.

«В отличие от предыдущих глубоких нейросетевых архитектур (DNN), которые обрабатывали слова по порядку, новые трансформаторные модели понимают контекст и связь между каждым словом и всеми словами, окружающими его в предложении.

Джеффри Чжу (Jeffrey Zhu), руководитель программы Bing Platform, добавляет, что «начиная с апреля этого года, мы используем большие модели трансформаторов, чтобы обеспечить нашим клиентам дополнительные улучшения качества по сравнению с прошлым годом.

BERT опирается на возможности глубокого обучения, используемые в интеллектуальных функциях поиска Bing, такие как интеллектуальные ответы, основанные на множестве источников, интеллектуальный поиск изображений с распознаванием объектов и определение необычных слов с наведением на них «hover-over».

Эти улучшения могут помочь Бинг сохранить или увеличить свою долю на рынке поиска, что и в дальнейшем сделает его жизнеспособной платформой как для органических, так и для платных кампаний.

Microsoft реализовала модели трансформаторов с использованием виртуальных машин серии Azure N с GPU-ускорителями, а затем выполнила дальнейшую оптимизацию для выполнения параллельных вычислений в масштабе веб-поиска.