19 октября 2026 · Все новости
Компания Perplexity разработала поисковый движок Photon для обслуживания поискового конвейера. Он заменил адаптированный open-source движок, который перестал справляться с растущим индексом и нагрузкой. В результате Photon сократил задержку на 99-м перцентиле примерно с 800 до 65 мс. Для ранжирования используется компактная запись документа с частотами слов, их позициями и полями, в которых они встречаются. Данные читаются асинхронно, а индекс строится отдельно от обработки запросов, что уменьшает задержки при работе с диском и обновлении поисковой базы.
Photon использует инвертированный индекс, где для каждого слова хранится список документов, в которых оно встречается. Также Photon применяет алгоритм, похожий на WAND, который позволяет пропускать документы, заведомо не способные попасть в итоговую выдачу. При этом Photon хранит примерно в 2,5 раза больше данных на документ и использует примерно на 20% меньше серверов для обслуживания запросов, чем прежняя система.
Быстрый режим Search API, основанный на Photon, рассчитан на агентов, которым приходится часто обращаться к поиску в ходе выполнения задачи. Медианная задержка одного поискового вызова составляет 160 мс, а 95% вызовов укладываются в 230 мс. Быстрый режим набрал 64,3% в агентных бенчмарках при оценочной стоимости модели и поиска $59,73. Стандартный режим получил 64,0% в агентных бенчмарках, но обошёлся в $187,60 на том же наборе задач. Расчётная экономия от использования быстрого режима составила около 68%.

Источник: Хабр
Другие новости
Требования к трещинам на стекле при техосмотре20 октября
Рост использования искусственного интеллекта злоумышленниками20 октября
Бюджетные нешипованные шины для переобувки автомобиля на зиму20 октября
Отказ от поглощения для сохранения творческой свободы20 октября
Причины снижения количества лишений прав за выезд на встречную полосу в России20 октября
Jumanji: Welcome to the Jungle20 октября