ERPC обновила сетевую платформу на Rust. Улучшения кэша и управления соединениями повышают стабильность Solana RPC, gRPC и Shredstream

ELSOUL LABO B.V. (штаб-квартира: Амстердам, Нидерланды; CEO: Fumitake Kawasaki) и Validators DAO обновили всю сетевую платформу ERPC. Благодаря полному переходу на актуальную версию open-source Rust-фреймворка Cloudflare нам удалось повысить эффективность кэша и качество управления соединениями, укрепив общую стабильность сервиса.

Это позволяет ERPC обеспечивать еще более стабильную и низколатентную среду для всех пользователей Solana RPC, Geyser gRPC и Shredstream.

Контекст и цель обновления

В экосистеме Solana разница даже в несколько миллисекунд может заметно влиять на вероятность прохождения транзакций и на пользовательский опыт. ERPC уже снижала задержку за счет zero-distance-подхода и повышала доступность с помощью выделенной инфраструктуры. Но у базовой сетевой платформы всегда остается пространство для улучшений, особенно под пиковыми нагрузками и при долгой непрерывной работе.

Это обновление усиливает сам фундамент платформы: мы пересмотрели эффективность кэша и управление соединениями, чтобы дополнительно повысить стабильность при высоких нагрузках и длительном использовании.

Что такое Pingora

Pingora — это open-source сетевой фреймворк на Rust, разработанный Cloudflare.

Он сочетает высокую производительность при большой конкуренции запросов с безопасностью и способен обеспечивать до трех раз более высокую производительность по сравнению с Nginx — одним из самых распространенных веб-серверов.

Используя эту платформу нового поколения, ERPC предоставляет оптимизированные для Solana сервисы RPC, gRPC и Shredstream с высокой эффективностью и стабильностью.

Что улучшилось в Pingora 0.6.0

Последняя версия Pingora 0.6.0 включает следующие улучшения:

Улучшения, связанные с кэшем

Оптимизированы загрузка и сохранение LRU-кэша
Загрузка по каждому shard и атомарные операции сохранения повышают и надежность, и скорость.
Добавлена поддержка асинхронной очистки
Удаление кэша теперь выполняется асинхронно и не конфликтует с обычной обработкой запросов.
Расширен фильтр cache hit
Это позволяет гибче управлять логикой при попадании в кэш и эффективнее использовать кэширование.

Улучшения keepalive и управления соединениями

Усилен контроль таймаутов keepalive
Это снижает накладные расходы при повторном использовании соединений и улучшает и загрузку CPU, и задержку.
Автоматически отключается ненужный keepalive
Это предотвращает избыточное потребление ресурсов и помогает поддерживать стабильную связь.

Повышение эффективности H2 / IO-слоя

Обновлен crate h2 с защитой от атаки MadeYouReset
Это повышает безопасность и одновременно улучшает эффективность.
Оптимизирована обработка IO-ошибок
Снижается число лишних повторных попыток и избыточной обработки ошибок.

Передача данных и обработка запросов

Добавлена поддержка multipart range requests
Это делает передачу больших объемов данных эффективнее, снижая расход полосы и задержку.
Добавлена поддержка кэширования больших chunked-данных
Уменьшается нагрузка от повторной выборки и обеспечивается более стабильная доставка.

Благодаря этим изменениям заметно усилились эффективность кэша, управление соединениями и производительность передачи данных. Мы уже получили отзывы вроде «наконец удалось добиться того, к чему давно шли», и пользователи смогут почувствовать разницу в реальной эксплуатации.

Примечания к релизу Pingora 0.6.0: https://github.com/cloudflare/pingora/releases/tag/0.6.0

Как это влияет на сервисы

RPC

Для часто используемых запросов данных и отправки транзакций улучшенная работа кэша обеспечивает плавные и стабильные ответы даже в пиковые часы.

gRPC

Для Geyser gRPC, где особенно важна работа в реальном времени, улучшенное управление соединениями и оптимизированная обработка stream-потоков позволяют сохранять стабильность даже при длинных сессиях. Потребность в повторных подключениях и ресинхронизации снижается, что особенно полезно для трейдинга и мониторинга.

Shredstream

Для Shredstream, которому нужна масштабная доставка данных, улучшенный кэш и контроль соединений обеспечивают плавную непрерывную передачу с минимальными задержками и сбоями даже под высокой нагрузкой.

Доступность

Обновление уже применено ко всем эндпоинтам ERPC: RPC, gRPC и Shredstream. Цены, спецификации, rate limits и методы аутентификации не изменились, поэтому пользователи могут сразу получить преимущества без перенастройки существующей среды.

Мы уже получили много положительных отзывов, в том числе о том, что «давняя цель наконец достигнута», и это подтверждает, что улучшения хорошо заметны в реальном использовании.

Надеемся, вы воспользуетесь этими улучшениями.

Какие задачи решает ERPC

Для решения следующих проблем мы построили собственную выделенную Solana-инфраструктуру и zero-distance-сеть:

Сбои транзакций и скачки задержки, типичные для обычных RPC-сред
Искусственное ограничение производительности со стороны многих инфраструктурных провайдеров
Существенное влияние сетевой дистанции на качество связи
Сложность доступа небольших проектов к качественной инфраструктуре

За счет непрерывных исследований, разработки и проверки в реальной эксплуатации мы стремимся предоставлять максимально возможную производительность в рамках постоянно развивающейся платформы. По вопросам консультаций и бесплатного пробного периода: