Perplexity запустила собственный поисковый движок Photon с задержкой 160 мс

Perplexity выпустила Photon — собственный retrieval and ranking engine на Rust, который заменил форкированный open-source движок. Photon обрабатывает все production-трафик поисковика и доступен через Fast Search mode в Perplexity Search API с задержкой 160 мс на p50 и 230 мс на p95. Движок предлагается как hosted API по $1 за 1000 запросов (параметр search_type: "fast"), но не выкладывается в open source.

Старый движок упирался в три проблемы: tail latency до 800 мс на p99, скачки до 1,2 с при слиянии индексов и восстановление кластера свыше недели. Perplexity решила, что разработка с нуля дешевле, чем поддержка форка.