Kiến trúc độ trễ thấp cho Solana HFT

Dữ liệu vẫn đang đến, nhưng mức giá mà ứng dụng dùng để ra quyết định lại chưa được cập nhật. Với ứng dụng Solana HFT, bạn cần xem xét cả thời gian tính toán lẫn thời gian dữ liệu đã nhận phải chờ trước khi được dùng trong quyết định. Các cập nhật trước đó có thể vẫn đang chờ xử lý, một lần ghi log chưa hoàn tất, hoặc cập nhật của thị trường khác đang giữ khóa. Cách tổ chức mã sẽ làm thay đổi những khoảng chờ này.
Bài viết theo dõi nơi dữ liệu đầu vào phải chờ và những công việc có thể tiếp tục khi thiết kế thay đổi, thông qua năm mẫu thiết kế. Bạn cũng có thể chọn triệu chứng giống với ứng dụng của mình rồi đọc ngay phần tương ứng.
| Hiện tượng trong ứng dụng | Thiết kế cần xem xét |
|---|---|
| Dữ liệu chưa xử lý tăng dần khi ứng dụng chạy lâu hơn | 1. Tốc độ đến, tốc độ xử lý và giới hạn chờ |
| Không thể xử lý giá tiếp theo trong lúc lưu bản ghi | 2. Tách công việc bắt buộc cho quyết định khỏi log phân tích |
| Cập nhật thị trường A khiến cập nhật thị trường B phải chờ | 3. Tách khóa bảo vệ các trạng thái độc lập |
| Lặp lại cùng một bước chuẩn bị mỗi lần dữ liệu đến | 4. Chuẩn bị trước và tái sử dụng phần không thay đổi |
| Vẫn dùng giá trị cũ để ra quyết định sau khi kết nối trở lại | 5. Phân biệt khôi phục kết nối với khôi phục trạng thái dùng để ra quyết định |
Cuối mỗi phần có chỉ dẫn có thể sao chép để áp dụng cải tiến tương ứng vào ứng dụng của bạn. Hãy đưa chúng cho một tác nhân AI có thể đọc mã nguồn dự án.
Số lượng, giá, số lần thao tác và thời lượng trong các sơ đồ là mô hình minh họa. Chúng không thể hiện hiệu năng đo được hay kết quả giao dịch.
Chạm hoặc nhấp vào sơ đồ để mở ảnh ở kích thước gốc.
1. So sánh lượng dữ liệu đến với năng lực xử lý và đặt giới hạn chờ
Giả sử trong mỗi khoảng thời gian có độ dài bằng nhau, ứng dụng nhận sáu sự kiện và xử lý được hai sự kiện. Cuối khoảng đầu tiên, bốn sự kiện vẫn chưa được xử lý. Hàng đợi là nơi dữ liệu chờ được xử lý.
Việc xử lý vẫn tiến triển, nhưng bốn sự kiện chưa được sử dụng để ra quyết định.
Bây giờ giữ nguyên tỷ lệ và tăng quy mô lên 60.000 sự kiện đến. Xử lý 20.000 sự kiện thì còn 40.000 sự kiện chờ. Ở bên phải sơ đồ, mỗi chấm biểu thị 100 sự kiện và mỗi nhóm 100 chấm biểu thị 10.000 sự kiện. Hai nhóm đã được xử lý, bốn nhóm vẫn đang chờ.
Các nhóm bên phải là cách biểu diễn khối lượng dữ liệu. Chúng không phải các lô xử lý trong ứng dụng.
Khoảng tiếp theo bắt đầu với 40.000 sự kiện đã chờ sẵn. Thêm 60.000 sự kiện đến và 20.000 sự kiện được xử lý, nên còn lại 80.000. Kết thúc khoảng kế tiếp nữa, con số là 120.000. Các mức giá mới đến phải chờ sau những công việc đã có trong hàng đợi.
Nếu lượng đến liên tục vượt năng lực xử lý, lượng tồn đọng sẽ tiếp tục tăng.
Hàng đợi giúp hấp thụ các đợt dữ liệu dồn đến trong thời gian ngắn. Tăng dung lượng hàng đợi không giải quyết được tình trạng thiếu năng lực xử lý kéo dài như ví dụ này. Ngoài số mục và số byte được giữ lại, hãy theo dõi mục cũ nhất đã chờ bao lâu và đặt giới hạn chấp nhận được. Nếu không còn đáp ứng yêu cầu về độ mới của dữ liệu, hãy tạm dừng các quyết định giao dịch mới phụ thuộc vào những giá trị đó, ngay cả khi không mất cập nhật nào.
Điều gì nên xảy ra khi chạm giới hạn? Trong sơ đồ tiếp theo, cả tám ô khả dụng đều đã đầy khi hai cập nhật nữa đến. Nếu không giữ lại được hai cập nhật này và chúng cần thiết cho quyết định, ứng dụng không còn cập nhật đúng các giá trị đang lưu. Hãy tạm dừng các quyết định giao dịch mới phụ thuộc vào những giá trị đó và tiếp tục sau khi khôi phục được các cập nhật cần thiết.
Thiết kế hàng đợi cũng phải quy định hành vi sau khi chạm giới hạn.
Hãy xem có thể giảm công việc hoặc tăng năng lực xử lý hay không. Nếu bên tiêu thụ chỉ cần trạng thái đầy đủ mới nhất của cùng một đối tượng, có thể gộp các giá trị trung gian vào giá trị mới nhất. Tuy nhiên, nếu quá trình xử lý tích lũy các thay đổi dạng delta hoặc cần sự kiện trung gian, việc bỏ qua cập nhật sẽ làm đổi kết quả.
Tạm dừng nhận cũng có thể chỉ chuyển thời gian chờ về phía thượng nguồn. Hãy xem xét cơ chế điều khiển luồng gRPC, vốn điều chỉnh nhịp gửi và nhận, cùng với bộ lọc phía máy chủ để thu hẹp dữ liệu đăng ký và năng lực xử lý thực tế của ứng dụng.[3][4]
Để cải thiện tình trạng tồn đọng trong hàng đợi nhận và độ mới của dữ liệu, hãy sao chép chỉ dẫn sau.
text
Cải thiện cách ứng dụng này xử lý dữ liệu đến khi xử lý không theo kịp và dữ liệu dùng để ra quyết định trở nên cũ.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã của đường nhận → hàng đợi → cập nhật trạng thái → quyết định. Làm việc với ngôn ngữ, môi trường thực thi và SDK hiện có. Xác định cập nhật chứa toàn bộ trạng thái hay phần thay đổi, thứ tự áp dụng cần thiết và yêu cầu về độ mới.
1. Lưu đầu vào có thể tái hiện, không chứa thông tin bí mật, và ghi lại số đo ban đầu. Kiểm tra cả thời gian chờ trước khi vào hàng đợi. Trong cùng khoảng thời gian, đo số mục và byte đi vào, đi ra, công việc đang xếp hàng, tuổi của mục chờ lâu nhất và công việc đang thực hiện.
2. Xác định và triển khai giới hạn về số mục, byte, thời gian chờ và mức đồng thời, kèm lý do cho từng giới hạn. Nêu giả định khi chưa rõ yêu cầu. Kiểm tra khả năng giảm nhận hoặc xử lý không cần thiết và năng lực xử lý có đủ hay không. Không coi chỉ tăng kích thước hàng đợi là giải pháp cho thiếu hụt năng lực xử lý kéo dài.
3. Xác định hành vi khi hàng đợi đầy. Nếu không thể giữ cập nhật cần thiết, hoặc không còn đáp ứng độ mới dù không thiếu cập nhật, hãy tạm dừng các quyết định giao dịch mới phụ thuộc vào những giá trị đó. Tiếp tục cập nhật và khôi phục trạng thái, rồi kiểm tra điều kiện để tiếp tục quyết định.
4. Nếu gộp các giá trị trung gian, hãy xác định rằng trạng thái đầy đủ mới nhất của cùng đối tượng đủ để giữ nguyên kết quả. Không âm thầm bỏ phần thay đổi hoặc sự kiện cần thiết. Nếu tạm dừng nhận, kiểm tra cách nhà cung cấp điều khiển luồng và thời gian chờ chuyển đến đâu.
5. Phát lại đầu vào bình thường, đợt dồn dữ liệu, quá tải kéo dài và phục hồi sau khi hàng đợi đầy trong các điều kiện tương ứng. So sánh tốc độ đến và xử lý, tuổi của mục cũ nhất, p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ, cập nhật thiếu hoặc bị bỏ. Đối chiếu trạng thái đã áp dụng và quyết định với kết quả mong đợi. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.Cải thiện cách ứng dụng này xử lý dữ liệu đến khi xử lý không theo kịp và dữ liệu dùng để ra quyết định trở nên cũ.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã của đường nhận → hàng đợi → cập nhật trạng thái → quyết định. Làm việc với ngôn ngữ, môi trường thực thi và SDK hiện có. Xác định cập nhật chứa toàn bộ trạng thái hay phần thay đổi, thứ tự áp dụng cần thiết và yêu cầu về độ mới.
1. Lưu đầu vào có thể tái hiện, không chứa thông tin bí mật, và ghi lại số đo ban đầu. Kiểm tra cả thời gian chờ trước khi vào hàng đợi. Trong cùng khoảng thời gian, đo số mục và byte đi vào, đi ra, công việc đang xếp hàng, tuổi của mục chờ lâu nhất và công việc đang thực hiện.
2. Xác định và triển khai giới hạn về số mục, byte, thời gian chờ và mức đồng thời, kèm lý do cho từng giới hạn. Nêu giả định khi chưa rõ yêu cầu. Kiểm tra khả năng giảm nhận hoặc xử lý không cần thiết và năng lực xử lý có đủ hay không. Không coi chỉ tăng kích thước hàng đợi là giải pháp cho thiếu hụt năng lực xử lý kéo dài.
3. Xác định hành vi khi hàng đợi đầy. Nếu không thể giữ cập nhật cần thiết, hoặc không còn đáp ứng độ mới dù không thiếu cập nhật, hãy tạm dừng các quyết định giao dịch mới phụ thuộc vào những giá trị đó. Tiếp tục cập nhật và khôi phục trạng thái, rồi kiểm tra điều kiện để tiếp tục quyết định.
4. Nếu gộp các giá trị trung gian, hãy xác định rằng trạng thái đầy đủ mới nhất của cùng đối tượng đủ để giữ nguyên kết quả. Không âm thầm bỏ phần thay đổi hoặc sự kiện cần thiết. Nếu tạm dừng nhận, kiểm tra cách nhà cung cấp điều khiển luồng và thời gian chờ chuyển đến đâu.
5. Phát lại đầu vào bình thường, đợt dồn dữ liệu, quá tải kéo dài và phục hồi sau khi hàng đợi đầy trong các điều kiện tương ứng. So sánh tốc độ đến và xử lý, tuổi của mục cũ nhất, p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ, cập nhật thiếu hoặc bị bỏ. Đối chiếu trạng thái đã áp dụng và quyết định với kết quả mong đợi. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.2. Xử lý giá tiếp theo mà không chờ lưu xong bản ghi
Xét trường hợp giá thị trường thay đổi từ 100 sang 101. Ứng dụng đã áp dụng 100, hoàn thành quyết định và đang lưu một bản ghi phân tích. Nếu vòng lặp xử lý dữ liệu đầu vào chờ thao tác lưu hoàn tất, nó không thể áp dụng 101 dù cập nhật đã đến. Giá được lưu trong ứng dụng vẫn là 100.
Lý do chưa thể bắt đầu xử lý 101 là phải chờ bản ghi của 100.
Bây giờ chuyển bản ghi phân tích vào hàng đợi phụ còn dung lượng và để một tác vụ riêng lưu nó. Sau khi bàn giao xong, vòng lặp nhận có thể quay lại đầu vào tiếp theo. Nó có thể áp dụng 101 và ra quyết định trong khi việc lưu bản ghi cho 100 vẫn tiếp diễn.
Phép so sánh dưới đây giữ nguyên thời gian lưu của 100, thời điểm 101 đến và thời gian cần để xử lý 101. Điểm thay đổi là việc chuyển sang đầu vào tiếp theo có phụ thuộc vào thao tác lưu hoàn tất hay không.
Ngay cả khi không rút ngắn công việc xử lý 101, bạn vẫn có thể giảm thời gian chờ trước lúc nó bắt đầu.
Đường xử lý bắt buộc từ nhận dữ liệu qua quyết định đến gửi giao dịch được gọi là hot path. Trong ví dụ này, log phân tích không cần làm chậm quyết định được đưa ra khỏi đường đó. Kiểm tra số dư, kiểm tra giới hạn rủi ro và những lần lưu phải hoàn tất để đảm bảo tính đúng đắn vẫn phải nằm ở vị trí mà yêu cầu quy định.
Công việc lưu vẫn tồn tại, nên hàng đợi phụ cũng cần giới hạn dung lượng và thời gian chờ. Một tác vụ riêng không nhất thiết chạy trên CPU riêng. Công việc dùng CPU lâu hoặc gây blocking trong Tokio, cũng như thao tác đồng bộ kéo dài trên event loop của Node.js, có thể ngăn công việc khác tiến triển. Khi di chuyển công việc, hãy kiểm tra nó thực sự sẽ chạy ở đâu.[1][2]
Để tách thời gian chờ lưu bản ghi phân tích khỏi đường ra quyết định, hãy sao chép chỉ dẫn sau.
text
Cải thiện ứng dụng này tại những chỗ việc chờ lưu xong bản ghi phân tích ngăn cập nhật tiếp theo được áp dụng hoặc dùng cho quyết định.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và vòng lặp nhận. Làm việc với ngôn ngữ, môi trường thực thi và thư viện lưu trữ hiện có. Tìm nơi chờ lưu xong và xác định luồng, tác vụ hoặc vòng lặp sự kiện thực sự thực hiện công việc.
1. Chuẩn bị đầu vào có thể tái hiện, không chứa thông tin bí mật. Ghi lại lúc nhận, áp dụng trạng thái, bắt đầu và hoàn tất quyết định, bắt đầu và hoàn tất lưu, cùng kết quả hiện tại.
2. Dựa trên yêu cầu, xác định lưu xong có phải điều kiện tiên quyết cho quyết định hoặc khôi phục hay không. Giữ kiểm tra số dư, rủi ro và lưu bền vững cần cho tính đúng đắn ở đúng vị trí cần thiết. Tách các bản ghi phân tích được phép hoàn tất lưu sau.
3. Xác định cách bàn giao bản ghi để thay đổi trạng thái sau đó không làm thay đổi giá trị cần ghi. Triển khai hàng đợi phụ có giới hạn và bộ tiêu thụ chịu trách nhiệm lưu. Nêu giới hạn số mục, byte và thời gian chờ; hành vi khi hàng đợi đầy, lưu lỗi, thử lại và tắt; yêu cầu lưu giữ. Không bỏ bản ghi khi chưa biết yêu cầu lưu giữ.
4. Không giả định tác vụ riêng sẽ chạy trên CPU khác. Kiểm tra nơi I/O đồng bộ và công việc CPU kéo dài được thực hiện. Nếu dùng worker hoặc cơ chế tương tự, hãy giới hạn mức đồng thời và tính cả chuyển đổi, sao chép, chờ bàn giao trong đánh giá.
5. Dùng cùng đầu vào và nhịp đến để tái hiện lưu bình thường, lưu chậm, lỗi, hàng đợi phụ đầy và tắt. So sánh p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, thời gian chờ và tồn đọng phía lưu, CPU và bộ nhớ, bản ghi thiếu hoặc trùng. Kiểm tra tính đúng đắn của trạng thái và quyết định, cùng yêu cầu lưu giữ bản ghi. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.Cải thiện ứng dụng này tại những chỗ việc chờ lưu xong bản ghi phân tích ngăn cập nhật tiếp theo được áp dụng hoặc dùng cho quyết định.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và vòng lặp nhận. Làm việc với ngôn ngữ, môi trường thực thi và thư viện lưu trữ hiện có. Tìm nơi chờ lưu xong và xác định luồng, tác vụ hoặc vòng lặp sự kiện thực sự thực hiện công việc.
1. Chuẩn bị đầu vào có thể tái hiện, không chứa thông tin bí mật. Ghi lại lúc nhận, áp dụng trạng thái, bắt đầu và hoàn tất quyết định, bắt đầu và hoàn tất lưu, cùng kết quả hiện tại.
2. Dựa trên yêu cầu, xác định lưu xong có phải điều kiện tiên quyết cho quyết định hoặc khôi phục hay không. Giữ kiểm tra số dư, rủi ro và lưu bền vững cần cho tính đúng đắn ở đúng vị trí cần thiết. Tách các bản ghi phân tích được phép hoàn tất lưu sau.
3. Xác định cách bàn giao bản ghi để thay đổi trạng thái sau đó không làm thay đổi giá trị cần ghi. Triển khai hàng đợi phụ có giới hạn và bộ tiêu thụ chịu trách nhiệm lưu. Nêu giới hạn số mục, byte và thời gian chờ; hành vi khi hàng đợi đầy, lưu lỗi, thử lại và tắt; yêu cầu lưu giữ. Không bỏ bản ghi khi chưa biết yêu cầu lưu giữ.
4. Không giả định tác vụ riêng sẽ chạy trên CPU khác. Kiểm tra nơi I/O đồng bộ và công việc CPU kéo dài được thực hiện. Nếu dùng worker hoặc cơ chế tương tự, hãy giới hạn mức đồng thời và tính cả chuyển đổi, sao chép, chờ bàn giao trong đánh giá.
5. Dùng cùng đầu vào và nhịp đến để tái hiện lưu bình thường, lưu chậm, lỗi, hàng đợi phụ đầy và tắt. So sánh p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, thời gian chờ và tồn đọng phía lưu, CPU và bộ nhớ, bản ghi thiếu hoặc trùng. Kiểm tra tính đúng đắn của trạng thái và quyết định, cùng yêu cầu lưu giữ bản ghi. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.3. Không để các cập nhật độc lập chờ cùng một khóa
Giả sử ứng dụng có thể cập nhật độc lập giá của thị trường A và B. Cập nhật B đến sau khi cập nhật A đã bắt đầu. Nếu một mutex bảo vệ cả A lẫn B, B phải chờ đến khi A nhả khóa.
Mutex chỉ cấp quyền truy cập dữ liệu được bảo vệ cho một thao tác tại một thời điểm. Nếu thao tác khác đang dùng, thao tác muốn lấy cùng khóa đó phải chờ.[17]
Dữ liệu B đã đến, nhưng đang chờ khóa chung do A giữ.
Nếu A và B sửa các giá trị riêng biệt, một lựa chọn là bảo vệ chúng bằng các khóa riêng. Nửa trên của sơ đồ tiếp theo dùng khóa chung; nửa dưới dùng khóa riêng. Vị trí đến và thời gian giữ khóa của A, B giống nhau ở cả hai nửa. Ví dụ giả định khóa của B đang rảnh và có năng lực thực thi dành cho B. Hướng dẫn chính thức của Tokio cũng mô tả phân mảnh mutex cho dữ liệu có các khóa định danh độc lập.[18]
Thanh màu xanh của B vẫn dài như nhau. Phần được loại bỏ là khoảng chờ màu hồng trước nó.
Thanh xanh biểu thị thời gian từ khi lấy khóa đến khi nhả khóa. Trong ví dụ này, B hoàn tất khi A vẫn đang cập nhật. Tách khóa không loại bỏ thời gian chờ do khóa riêng của B đang bận hoặc do công việc khác đã chiếm hết tài nguyên thực thi.
Trước khi tách khóa, xác định cập nhật nào thực sự độc lập. Dù giá A và B có thể cập nhật riêng, một quyết định dùng cả hai giá hoặc số dư chung vẫn cần cách đọc nhất quán các giá trị cần thiết. Ngay trên cùng một luồng, giá trị có thể thay đổi khi thao tác tạm ngưng tại await. Hãy quy định quyết định đọc phiên bản nào, đọc theo cách nào và áp dụng cập nhật theo thứ tự nào.
Ví dụ, nếu A và B đọc cùng số dư rồi mỗi bên tạo một lệnh, cả hai có thể đều dự tính sử dụng cùng số tiền đó. Giá trị dùng chung vẫn cần được bảo vệ riêng, chẳng hạn bởi một chủ thể duy nhất kiểm tra số dư và giữ chỗ tiền cho từng lệnh theo thứ tự.
Một lựa chọn khác là chỉ định một chủ thể duy nhất cập nhật mỗi trạng thái rồi gửi thông điệp cập nhật cho nó. Đây là nguyên tắc Single Writer. Tách khóa và lựa chọn một bên ghi duy nhất là hai quyết định thiết kế riêng. LMAX Disruptor mô tả Single Writer và các phụ thuộc xử lý; Tokio mô tả quản lý trạng thái bằng thông điệp gửi tới một tác vụ chuyên trách.[5][18]
Để giảm thời gian chờ khóa giữa các cập nhật độc lập, hãy sao chép chỉ dẫn sau.
text
Cải thiện ứng dụng này tại những chỗ cập nhật cho một thị trường hoặc khóa dữ liệu khiến cập nhật độc lập khác phải chờ cùng một khóa đồng bộ dùng chung.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã đọc hoặc ghi trạng thái, lấy khóa đồng bộ hoặc dùng await để chờ công việc khác. Dùng ngôn ngữ và môi trường thực thi hiện có. Xác định ai cập nhật từng giá trị và mỗi quyết định đọc những tập giá trị nào.
1. Lưu đầu vào có thể tái hiện, không chứa thông tin bí mật, và ghi lại số đo ban đầu. Với khóa đồng bộ có tranh chấp, ghi lượt đến theo khóa dữ liệu, thời gian chờ lấy khóa, thời gian giữ, thứ tự cập nhật và phiên bản trạng thái dùng để quyết định.
2. Phân biệt giá trị có thể cập nhật độc lập với giá trị cần được bảo vệ tính nhất quán cùng nhau. Tách khóa đồng bộ quanh trạng thái độc lập, làm rõ thứ tự áp dụng và trách nhiệm ghi của từng khóa dữ liệu. Kiểm soát số khóa đồng bộ hoặc số bên phụ trách xử lý.
3. Bảo vệ quyết định liên quan nhiều thị trường, số dư dùng chung hoặc việc đặt trước vốn. Phối hợp kiểm tra số dư và đặt trước vốn thành một thao tác, để nhiều lệnh không thể cùng giả định một khoản vốn đều sẵn sàng cho mình. Xác định thứ tự lấy khóa nếu cần nhiều khóa đồng bộ.
4. Kiểm tra thay đổi trạng thái qua các điểm await và thứ tự hoàn tất giải mã song song. Xác định quyết định đọc phiên bản nào và đọc bằng cách nào. Không để thứ tự hoàn tất giải mã thay thế thứ tự áp dụng cần thiết. Sau khi tách khóa, kiểm tra giới hạn tài nguyên thực thi hoặc tranh chấp trên cùng khóa dữ liệu có còn gây chờ hay không.
5. Phát lại cùng đầu vào và thứ tự đến với các khóa dữ liệu độc lập, cập nhật tập trung vào một khóa, tranh chấp đặt trước vốn dùng chung, công việc bị tạm dừng rồi tiếp tục. So sánh thời gian chờ khóa, p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ. Kiểm tra thứ tự cập nhật cần thiết, trạng thái nhất quán khi quyết định và không đặt trước vốn hai lần. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.Cải thiện ứng dụng này tại những chỗ cập nhật cho một thị trường hoặc khóa dữ liệu khiến cập nhật độc lập khác phải chờ cùng một khóa đồng bộ dùng chung.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã đọc hoặc ghi trạng thái, lấy khóa đồng bộ hoặc dùng await để chờ công việc khác. Dùng ngôn ngữ và môi trường thực thi hiện có. Xác định ai cập nhật từng giá trị và mỗi quyết định đọc những tập giá trị nào.
1. Lưu đầu vào có thể tái hiện, không chứa thông tin bí mật, và ghi lại số đo ban đầu. Với khóa đồng bộ có tranh chấp, ghi lượt đến theo khóa dữ liệu, thời gian chờ lấy khóa, thời gian giữ, thứ tự cập nhật và phiên bản trạng thái dùng để quyết định.
2. Phân biệt giá trị có thể cập nhật độc lập với giá trị cần được bảo vệ tính nhất quán cùng nhau. Tách khóa đồng bộ quanh trạng thái độc lập, làm rõ thứ tự áp dụng và trách nhiệm ghi của từng khóa dữ liệu. Kiểm soát số khóa đồng bộ hoặc số bên phụ trách xử lý.
3. Bảo vệ quyết định liên quan nhiều thị trường, số dư dùng chung hoặc việc đặt trước vốn. Phối hợp kiểm tra số dư và đặt trước vốn thành một thao tác, để nhiều lệnh không thể cùng giả định một khoản vốn đều sẵn sàng cho mình. Xác định thứ tự lấy khóa nếu cần nhiều khóa đồng bộ.
4. Kiểm tra thay đổi trạng thái qua các điểm await và thứ tự hoàn tất giải mã song song. Xác định quyết định đọc phiên bản nào và đọc bằng cách nào. Không để thứ tự hoàn tất giải mã thay thế thứ tự áp dụng cần thiết. Sau khi tách khóa, kiểm tra giới hạn tài nguyên thực thi hoặc tranh chấp trên cùng khóa dữ liệu có còn gây chờ hay không.
5. Phát lại cùng đầu vào và thứ tự đến với các khóa dữ liệu độc lập, cập nhật tập trung vào một khóa, tranh chấp đặt trước vốn dùng chung, công việc bị tạm dừng rồi tiếp tục. So sánh thời gian chờ khóa, p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ. Kiểm tra thứ tự cập nhật cần thiết, trạng thái nhất quán khi quyết định và không đặt trước vốn hai lần. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.4. Chuẩn bị trước phần không thay đổi để giảm công việc sau khi dữ liệu đến
Giả sử mỗi cập nhật giá khiến ứng dụng phân tích cùng một ID cố định, suy ra một địa chỉ cố định từ cùng đầu vào và cấp phát bộ nhớ làm việc. Bộ nhớ làm việc này còn gọi là buffer. Lặp lại ba bước chuẩn bị đó sẽ đưa thời gian chuẩn bị thông tin không thay đổi vào đường đi của mỗi quyết định.
Phần chuẩn bị có đầu vào không đổi có thể hoàn tất trước khi dữ liệu đến và được tái sử dụng. Sau khi nhận, ứng dụng kiểm tra thông tin thay đổi trong sự kiện này, xây dựng thông điệp cuối cùng cần gửi và ký nội dung đó.
Đưa phần chuẩn bị không thay đổi về trước, nhưng vẫn kiểm tra nội dung hiện tại và ký sau khi dữ liệu đến.
Hãy đếm sự khác biệt với ba cập nhật. Chuẩn bị ba loại cho mỗi sự kiện cần chín lần thao tác chuẩn bị. Chuẩn bị ba loại đó một lần rồi tái sử dụng tuần tự cần ba lần. Cả hai thiết kế vẫn nhận ba sự kiện, xử lý từng sự kiện một và tạo ba đầu ra.
Trong ví dụ này, số sự kiện vẫn là ba, còn số lần chuẩn bị cố định giảm từ chín xuống ba.
Phép so sánh giả định các điều kiện cố định không đổi và bộ nhớ làm việc có thể tái sử dụng an toàn theo thứ tự. Nội dung bộ nhớ vẫn được cập nhật theo sự kiện hiện tại mỗi lần. Nếu nhiều thao tác chạy đồng thời, hãy dùng vùng riêng cho từng thao tác hoặc một pool quản lý quyền truy cập để chúng không ghi đè lên cùng bộ nhớ.
Mở rộng cùng ví dụ lên 1.000 sự kiện. Chuẩn bị ba loại cho mỗi sự kiện cần 3.000 lần; hoàn tất phần chuẩn bị dùng chung một lần cần ba lần. Cả hai thiết kế nhận 1.000 sự kiện, xử lý từng sự kiện một và tạo 1.000 đầu ra. Cần phân biệt số lần chuẩn bị với số sự kiện được xử lý.
Phần giảm đi là sự chuẩn bị cố định bị lặp lại. Kiểm tra, quyết định, ký và các công việc khác vẫn còn, nên tỷ lệ các con số này không phải hệ số tăng tốc của toàn ứng dụng.
Xác định điều kiện để việc tái sử dụng vẫn hợp lệ. Nếu đầu vào dùng để suy ra địa chỉ cố định thay đổi, phải tính lại địa chỉ. Giá, số lượng, số dư, trạng thái tài khoản được tham chiếu, giới hạn rủi ro và blockhash phải hợp lệ khi quyết định dùng chúng. Nếu ứng dụng duy trì trạng thái cục bộ liên tục cập nhật, hãy kiểm tra phiên bản, độ mới và tính hợp lệ. Điều này không nhất thiết đòi hỏi lấy lại mọi dữ liệu qua RPC cho mỗi quyết định.
getLatestBlockhash của Solana trả về blockhash cùng lastValidBlockHeight. Khi kiểm tra hết hạn, phải phân biệt chiều cao khối với slot.[7] Chốt thông điệp trước khi ký. Nếu thông điệp thay đổi sau khi ký, hãy tạo chữ ký cho nội dung đã cập nhật.[19]
Để thực hiện sớm và tái sử dụng phần chuẩn bị không thay đổi, hãy sao chép chỉ dẫn sau.
text
Kiểm tra công việc lặp lại cùng thao tác phân tích, suy ra địa chỉ hoặc cấp phát bộ nhớ cho mỗi đầu vào, rồi đưa phần chuẩn bị có thể tái sử dụng về trước lúc nhận.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã nhận → chuẩn bị → quyết định → xây dựng thông điệp → ký. Dùng ngôn ngữ, môi trường thực thi và SDK hiện có. Xác định đầu vào, đầu ra, chủ sở hữu và thời hạn hiệu lực của từng phần chuẩn bị.
1. Lưu đầu vào có thể tái hiện, không chứa thông tin bí mật. Ghi số sự kiện và đầu ra, số lần thực hiện và thời lượng của từng phần chuẩn bị, bộ nhớ được cấp phát và thời gian từ lúc nhận đến khi hoàn tất quyết định.
2. Xác định phần chuẩn bị có đầu vào không đổi, thực hiện khi khởi tạo hoặc ở giai đoạn sớm hơn phù hợp, rồi tái sử dụng kết quả. Triển khai khóa tái sử dụng, vô hiệu hóa và tính lại khi đầu vào hoặc cấu hình thay đổi, cùng giới hạn cho bộ nhớ đệm và pool bộ đệm.
3. Cập nhật bộ nhớ làm việc tái sử dụng theo đầu vào hiện tại. Với công việc đồng thời, dùng vùng riêng hoặc cơ chế cho mượn có quản lý, để vùng nhớ không bị ghi đè hoặc trả lại khi vẫn đang được sử dụng.
4. Kiểm tra giá, số lượng, số dư, trạng thái tài khoản, điều kiện rủi ro và blockhash theo yêu cầu của quyết định. Kiểm tra phiên bản và độ mới khi dùng trạng thái cục bộ được cập nhật liên tục. Với Solana, phân biệt chiều cao khối với slot khi dùng lastValidBlockHeight để kiểm tra blockhash hết hạn. Hoàn tất nội dung thông điệp trước khi ký; nếu nội dung thay đổi sau khi ký, hãy ký lại thông điệp đã cập nhật.
5. Với cùng đầu vào, so sánh số lần và thời gian chuẩn bị, p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ, cùng đầu ra. Tái hiện thêm thay đổi đầu vào hoặc cấu hình, hết hạn và thực thi đồng thời để kiểm tra việc dùng lại kết quả cũ và xung đột bộ nhớ. Không coi tỷ lệ số lần chuẩn bị là mức tăng tốc của toàn ứng dụng. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.Kiểm tra công việc lặp lại cùng thao tác phân tích, suy ra địa chỉ hoặc cấp phát bộ nhớ cho mỗi đầu vào, rồi đưa phần chuẩn bị có thể tái sử dụng về trước lúc nhận.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã nhận → chuẩn bị → quyết định → xây dựng thông điệp → ký. Dùng ngôn ngữ, môi trường thực thi và SDK hiện có. Xác định đầu vào, đầu ra, chủ sở hữu và thời hạn hiệu lực của từng phần chuẩn bị.
1. Lưu đầu vào có thể tái hiện, không chứa thông tin bí mật. Ghi số sự kiện và đầu ra, số lần thực hiện và thời lượng của từng phần chuẩn bị, bộ nhớ được cấp phát và thời gian từ lúc nhận đến khi hoàn tất quyết định.
2. Xác định phần chuẩn bị có đầu vào không đổi, thực hiện khi khởi tạo hoặc ở giai đoạn sớm hơn phù hợp, rồi tái sử dụng kết quả. Triển khai khóa tái sử dụng, vô hiệu hóa và tính lại khi đầu vào hoặc cấu hình thay đổi, cùng giới hạn cho bộ nhớ đệm và pool bộ đệm.
3. Cập nhật bộ nhớ làm việc tái sử dụng theo đầu vào hiện tại. Với công việc đồng thời, dùng vùng riêng hoặc cơ chế cho mượn có quản lý, để vùng nhớ không bị ghi đè hoặc trả lại khi vẫn đang được sử dụng.
4. Kiểm tra giá, số lượng, số dư, trạng thái tài khoản, điều kiện rủi ro và blockhash theo yêu cầu của quyết định. Kiểm tra phiên bản và độ mới khi dùng trạng thái cục bộ được cập nhật liên tục. Với Solana, phân biệt chiều cao khối với slot khi dùng lastValidBlockHeight để kiểm tra blockhash hết hạn. Hoàn tất nội dung thông điệp trước khi ký; nếu nội dung thay đổi sau khi ký, hãy ký lại thông điệp đã cập nhật.
5. Với cùng đầu vào, so sánh số lần và thời gian chuẩn bị, p50/p95/p99 từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ, cùng đầu ra. Tái hiện thêm thay đổi đầu vào hoặc cấu hình, hết hạn và thực thi đồng thời để kiểm tra việc dùng lại kết quả cũ và xung đột bộ nhớ. Không coi tỷ lệ số lần chuẩn bị là mức tăng tốc của toàn ứng dụng. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ và nêu điểm bắt đầu, kết thúc phép đo.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.5. Không tiếp tục ra quyết định khi thiếu cập nhật cần thiết
Giả sử có hai thị trường cho cùng một tài sản và ứng dụng tính chênh lệch giá B−A. Trong lúc mất kết nối, A đổi từ 100 thành 105 và ứng dụng bỏ lỡ cập nhật đó. Nếu sau khi nối lại chỉ nhận giá 104 của B, nó tính 104−100, tức +4. Dùng giá A đã cập nhật sẽ cho 104−105, tức -1. Dấu của kết quả cũng thay đổi.
Cùng một phép tính sẽ đổi kết quả tùy việc dùng giá cũ 100 hay giá đã cập nhật 105 của A.
Mô hình này chỉ thể hiện chênh lệch giá. Nó không gồm phí, điều kiện khớp lệnh và các yếu tố khác, cũng không biểu thị lợi nhuận giao dịch. Điểm cần lưu ý là khôi phục kết nối không nhất thiết khôi phục mọi cập nhật cần cho quyết định.
Trong ví dụ này, hãy tạm dừng các quyết định giao dịch mới dùng giá A và B, rồi thay giá cũ 100 của A bằng giá 105 đã khôi phục. Tiếp theo, xác minh các cập nhật cần cho quyết định đã được áp dụng vào A, B và các điều kiện về thứ tự, độ mới đã được đáp ứng. Chỉ tiếp tục khi hoàn thành kiểm tra cần thiết; nếu không hoàn thành được thì giữ trạng thái tạm dừng.
Tách việc cập nhật giá trị khỏi việc xác minh những giá trị đó có thể dùng để ra quyết định hay không.
Cơ chế khôi phục thường gặp là snapshot: tập hợp trạng thái tại một thời điểm. Khi nối snapshot với luồng cập nhật liên tục, phải xác định cập nhật nào đã có trong snapshot và cập nhật tiếp theo nào cần áp dụng. Điều này tránh áp dụng hai lần một delta đã có, hoặc bỏ sót cập nhật tại ranh giới. Cách thực hiện cụ thể phải theo những bảo đảm của API được chọn về bắt đầu đăng ký, định danh, lấy lại và phát lại dữ liệu.
Thông điệp Yellowstone có các trường như slot và write_version.[16] Chỉ riêng sự hiện diện của chúng không bảo đảm có thứ tự sử dụng được xuyên các nhà cung cấp hoặc có thể phát hiện đầy đủ mọi khoảng thiếu. Không chuyển trực tiếp chênh lệch slot thành số cập nhật bị mất hay số giây trễ. Hãy xác minh trạng thái đã được nối lại đúng theo những bảo đảm của nhà cung cấp đã chọn.
Cũng phải tính đến các phép tính bắt đầu trước khi khôi phục. Một thao tác bắt đầu với trạng thái cũ nhưng kết thúc sau khôi phục có thể dùng kết quả của nó ghi đè trạng thái mới. Một cách xử lý là gán số thế hệ cho trạng thái qua mỗi lần khôi phục và từ chối kết quả của thế hệ cũ. Nếu dùng trạng thái processed, hãy đưa rollback, khi trạng thái đó không còn được chấp nhận, vào điều kiện cần xem xét lại trạng thái.[6]
Để khôi phục trạng thái hợp lệ trước khi tiếp tục ra quyết định sau khi nối lại, hãy sao chép chỉ dẫn sau.
text
Ngăn ứng dụng này tiếp tục quyết định giao dịch trên trạng thái cũ chỉ vì kết nối đã trở lại. Triển khai khôi phục trạng thái cần thiết trước khi tiếp tục quyết định.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã đăng ký, lấy dữ liệu ban đầu, áp dụng cập nhật, nối lại và quyết định. Dùng ngôn ngữ, môi trường thực thi và SDK hiện có. Kiểm tra nhà cung cấp, commitment, ý nghĩa cập nhật và bảo đảm thực tế về thứ tự, định danh, lấy lại và phát lại.
1. Phân biệt trạng thái kết nối, tính hợp lệ của dữ liệu và quyền tiếp tục quyết định. Nếu xác định thiếu cập nhật cần thiết hoặc không đủ độ mới, hãy tạm dừng quyết định giao dịch mới phụ thuộc vào trạng thái đó, trong khi tiếp tục nhận, cập nhật và khôi phục cần thiết.
2. Nếu dùng snapshot, dựa trên bảo đảm của nhà cung cấp để xác định cập nhật nào đã nằm trong đó và ranh giới với luồng tiếp theo. Ngăn áp dụng phần thay đổi hai lần, thiếu dữ liệu ở ranh giới và sai thứ tự áp dụng. Không dùng giả định để lấp chỗ thiếu trong các bảo đảm này. Không coi slot hoặc write_version là chuỗi thứ tự luôn dùng được để phát hiện cập nhật thiếu.
3. Không tiếp tục chỉ vì đã lấy được giá trị. Triển khai kiểm tra cập nhật, thứ tự, độ mới và tính nhất quán cần cho các quyết định bị ảnh hưởng, và giữ tạm dừng khi chưa thể hoàn tất kiểm tra. Dùng thế hệ hoặc cơ chế tương đương để ngăn phép tính hoặc đề xuất lệnh cũ bị áp dụng hay gửi đi khi công việc bắt đầu trước khôi phục lại hoàn tất muộn hơn. Khi tiếp tục, đưa ra quyết định mới từ trạng thái đã xác minh. Nếu dùng trạng thái processed, xử lý vô hiệu hóa và khôi phục sau rollback.
4. Với đầu vào có thể tái hiện, không chứa thông tin bí mật, tái hiện cập nhật bị bỏ lỡ khi mất kết nối, trùng lặp, sai thứ tự, dữ liệu cũ, nối lại nhiều lần và hoàn tất công việc thuộc thế hệ cũ. Kiểm tra quyết định vẫn tạm dừng từ lúc kết nối phục hồi đến khi xác minh xong, và trạng thái đã xác minh khớp kết quả mong đợi.
5. Ghi thời gian khôi phục, số lần thử quyết định bị chặn do trạng thái không hợp lệ và thời lượng tạm dừng, cập nhật được áp dụng lại hoặc loại trừ, thời gian thông thường từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ. Không âm thầm bỏ thời gian tạm dừng hoặc cập nhật thiếu khỏi số đo. Nêu ranh giới đo và những gì có thể hoặc không thể phát hiện. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.Ngăn ứng dụng này tiếp tục quyết định giao dịch trên trạng thái cũ chỉ vì kết nối đã trở lại. Triển khai khôi phục trạng thái cần thiết trước khi tiếp tục quyết định.
Đọc README, chỉ dẫn phát triển, các phụ thuộc và mã đăng ký, lấy dữ liệu ban đầu, áp dụng cập nhật, nối lại và quyết định. Dùng ngôn ngữ, môi trường thực thi và SDK hiện có. Kiểm tra nhà cung cấp, commitment, ý nghĩa cập nhật và bảo đảm thực tế về thứ tự, định danh, lấy lại và phát lại.
1. Phân biệt trạng thái kết nối, tính hợp lệ của dữ liệu và quyền tiếp tục quyết định. Nếu xác định thiếu cập nhật cần thiết hoặc không đủ độ mới, hãy tạm dừng quyết định giao dịch mới phụ thuộc vào trạng thái đó, trong khi tiếp tục nhận, cập nhật và khôi phục cần thiết.
2. Nếu dùng snapshot, dựa trên bảo đảm của nhà cung cấp để xác định cập nhật nào đã nằm trong đó và ranh giới với luồng tiếp theo. Ngăn áp dụng phần thay đổi hai lần, thiếu dữ liệu ở ranh giới và sai thứ tự áp dụng. Không dùng giả định để lấp chỗ thiếu trong các bảo đảm này. Không coi slot hoặc write_version là chuỗi thứ tự luôn dùng được để phát hiện cập nhật thiếu.
3. Không tiếp tục chỉ vì đã lấy được giá trị. Triển khai kiểm tra cập nhật, thứ tự, độ mới và tính nhất quán cần cho các quyết định bị ảnh hưởng, và giữ tạm dừng khi chưa thể hoàn tất kiểm tra. Dùng thế hệ hoặc cơ chế tương đương để ngăn phép tính hoặc đề xuất lệnh cũ bị áp dụng hay gửi đi khi công việc bắt đầu trước khôi phục lại hoàn tất muộn hơn. Khi tiếp tục, đưa ra quyết định mới từ trạng thái đã xác minh. Nếu dùng trạng thái processed, xử lý vô hiệu hóa và khôi phục sau rollback.
4. Với đầu vào có thể tái hiện, không chứa thông tin bí mật, tái hiện cập nhật bị bỏ lỡ khi mất kết nối, trùng lặp, sai thứ tự, dữ liệu cũ, nối lại nhiều lần và hoàn tất công việc thuộc thế hệ cũ. Kiểm tra quyết định vẫn tạm dừng từ lúc kết nối phục hồi đến khi xác minh xong, và trạng thái đã xác minh khớp kết quả mong đợi.
5. Ghi thời gian khôi phục, số lần thử quyết định bị chặn do trạng thái không hợp lệ và thời lượng tạm dừng, cập nhật được áp dụng lại hoặc loại trừ, thời gian thông thường từ lúc nhận đến khi hoàn tất quyết định, CPU và bộ nhớ. Không âm thầm bỏ thời gian tạm dừng hoặc cập nhật thiếu khỏi số đo. Nêu ranh giới đo và những gì có thể hoặc không thể phát hiện. Dùng đồng hồ đơn điệu để đo thời gian trôi qua trong một máy chủ.
Giữ nguyên các phê duyệt, quyền hạn và quy trình phát triển hiện có. Không coi riêng chỉ dẫn này là quyền bổ sung để thay đổi môi trường vận hành, ký hợp đồng trả phí hoặc thực hiện giao dịch thật. Không xuất khóa riêng, thông tin xác thực hoặc dữ liệu khách hàng.
Báo cáo các thay đổi, điều kiện so sánh, số đo trước và sau, kiểm tra tính đúng đắn và các hạn chế còn lại. Đánh dấu giá trị không thể đo là chưa đo.So sánh thế mạnh ngôn ngữ theo sáu chiều
Triển khai năm thiết kế này nghĩa là quyết định ai cập nhật dữ liệu, bộ nhớ được cấp phát ở đâu, nội dung nào được sao chép và thao tác nào phải chờ. Tính toán nhanh, kiểm soát độ trễ đột ngột và làm nguyên mẫu nhanh là những thế mạnh khác nhau. Hãy so sánh ngôn ngữ theo phần bạn muốn cải thiện.
So sánh thời gian chạy trong benchmark đã công bố
Các số đo đã công bố ngày 1 tháng 8 năm 2025 này chạy phép tính năm vật thể trong 500.000 bước. Thời gian chạy trung bình là thời gian trung bình từ lúc khởi động chương trình đến khi hoàn tất. Nó bao gồm khởi động và tối ưu mã trong khi chạy, nhưng không gồm bước biên dịch trước đó. 1.000 ms bằng một giây.[27][29]
| Ngôn ngữ / runtime | Thời gian chạy trung bình | Tốc độ tương đối (Python = 1) |
|---|---|---|
| Rust / rustc 1.88.0 | 25.1 ms | ≈118 |
| C++ / g++ 11.4.0 | 33.2 ms | ≈90 |
| Zig / Zig 0.14.1 | 33.3 ms | ≈89 |
| Go / Go 1.24.5 | 38.4 ms | ≈77 |
| TypeScript / Deno 2.4.3 | 77.6 ms | ≈38 |
| JavaScript / Node.js 24.4.1 | 79.1 ms | ≈38 |
| Python / CPython 3.13.5 | 2970.8 ms | 1 |
Tốc độ tương đối được tính từ thời gian trung bình chưa làm tròn, với Python = 1. Với mỗi nhóm ngôn ngữ và runtime, chúng tôi chọn giá trị trung bình đã công bố thấp nhất trong các bản ổn định có phần tính toán số chạy trên một luồng, không dùng lệnh SIMD tường minh, kiểu vectơ hoặc thư viện tính toán số bên ngoài. Mã nguồn và tối ưu hóa khác nhau; Zig dùng ReleaseFast. TypeScript chạy dưới dạng tệp thực thi chứa Deno/V8, còn JavaScript chạy trên Node.js.[28]
Hãy đọc các giá trị gần nhau như những kết quả tương đương, không biến bài duy nhất này thành thứ hạng ngôn ngữ tổng thể. Nó không trực tiếp đo thời gian xử lý của bot chạy liên tục sau khi khởi động hoặc độ trễ trước khi lệnh tới đích.
Môi trường được ghi nhận là Linux trên AMD EPYC 7763 với bốn lõi khả dụng. Mã đo công bố được cấu hình lặp ba lần cho mỗi điều kiện, mỗi lần khởi động một tiến trình mới. Không xác minh được commit chính xác của lượt chạy lịch sử và các quan sát thô riêng lẻ, nên ở đây trình bày các giá trị trung bình đã công bố.[28][29]
So sánh thế mạnh thiết kế trên sáu chiều
Các hình sau là hướng dẫn lựa chọn mang tính biên tập theo ba mức cho một client Solana off-chain. Chiều Tốc độ tính toán xem xét các lựa chọn để tăng tốc việc đọc nhiều dữ liệu và tính toán được viết trực tiếp trong ngôn ngữ và bản triển khai đang so sánh. Nó không xếp hạng toàn ứng dụng mà thời gian chủ yếu dành cho chờ mạng, hoặc tính toán được giao cho thư viện ngoài đã tăng tốc.
Rust, Go, C++ và Zig là những ứng viên mạnh cho thực thi native đã tối ưu. Điều này không khẳng định tốc độ bằng nhau; muốn sắp thứ tự chính xác hơn phải đo tải công việc thực tế. V8 cũng chuyển các hàm thường xuyên thực thi thành mã máy. Nói JavaScript chậm chỉ vì được thông dịch sẽ không chính xác.[20][21]
Ba chiều Tốc độ tính toán, Kiểm soát độ trễ và Kiểm soát bộ nhớ mô tả tính toán và khả năng kiểm soát. Hỗ trợ an toàn, Dễ làm nguyên mẫu và Solana SDK mô tả sự hỗ trợ cho phát triển. Không phải cả sáu trục đều biểu thị tốc độ xử lý.
Mỗi lục giác dùng cùng các trục và thang đo. Càng ra ngoài thì vị trí định tính trên chiều đó càng mạnh. Đây không phải tốc độ hay tỷ lệ đo được: mức 3 không có nghĩa gấp ba mức 1. Hãy so sánh riêng từng chiều bạn muốn cải thiện, thay vì xem diện tích đa giác là điểm tổng hợp.
| Chiều | Nội dung so sánh |
|---|---|
| Tốc độ tính toán | Các lựa chọn để tăng tốc việc đọc nhiều dữ liệu và tính toán tự viết trong bản triển khai được so sánh |
| Kiểm soát độ trễ | Mức độ trực tiếp có thể đưa các việc như cấp phát, thu hồi bộ nhớ và tối ưu mã khi chạy ra khỏi phần xử lý quan trọng để hạn chế độ trễ đột ngột |
| Kiểm soát bộ nhớ | Mức độ trực tiếp có thể thiết kế cách bố trí dữ liệu, quyền sở hữu và vòng đời, cấp phát, tái sử dụng và thu hồi |
| Hỗ trợ an toàn | Sự hỗ trợ từ tính năng ngôn ngữ, môi trường thực thi và công cụ chuẩn để ngăn lỗi vòng đời bộ nhớ và bộ nhớ dùng chung |
| Dễ làm nguyên mẫu | Mức độ dễ dàng khi chạy ứng dụng nhỏ và thử thay đổi; đánh giá biên tập thay đổi theo kinh nghiệm và mã hiện có |
| Solana SDK | Mức độ dễ dàng tìm đến client SDK và ví dụ phù hợp với mục đích sử dụng từ tài liệu chính thức của Solana |
Các chiều kiểm soát đánh giá khả năng thiết kế trực tiếp, an toàn đánh giá hỗ trợ sẵn có, còn SDK đánh giá đường tiếp cận từ tài liệu chính thức. Cùng một mức có thể tương ứng với cơ chế và bảo đảm khác nhau.[8][13][20][21][26]
Hình tổng quan so sánh sáu ngôn ngữ trong ba cột và hai hàng: Rust, Go, TypeScript, Python, C++ và Zig. Hãy so sánh những chiều quan trọng với bạn, sau đó dùng các hình riêng và giải thích bên dưới để kiểm tra giả định về môi trường thực thi và cách sử dụng phù hợp.
Rust kết hợp kiểm soát bố trí, cấp phát và tái sử dụng trên đường xử lý quan trọng với kiểm tra quyền sở hữu và mượn. Quản lý bộ nhớ thông thường của Rust không cần GC truy vết.[8] Bảo đảm của safe Rust chống data race không bảo đảm tránh được mọi race condition nói chung, deadlock hoặc logic quyết định sai. Mã unsafe và giao diện với ngôn ngữ khác cần xác minh riêng.[22] Sao chép, cấp phát, giải phóng, khóa và chờ hệ điều hành vẫn xảy ra, nên hãy kiểm tra với đầu vào và tải thực tế.
Go cũng là ứng viên cho thực thi native đã biên dịch. Nó giúp xây dựng dịch vụ và xử lý đồng thời, trong khi môi trường thực thi hỗ trợ quản lý bộ nhớ và các thao tác khác.[20] Phần lớn công việc GC diễn ra đồng thời, nhưng vẫn cần đo cấp phát và chi phí CPU, bộ nhớ, độ trễ của thu gom. Tiềm năng xử lý CPU cần được xem riêng với khả năng kiểm soát trực tiếp thời điểm thu hồi bộ nhớ.[13]
TypeScript là ngôn ngữ; Node.js và Deno là môi trường thực thi. Hình này xét JavaScript do V8 chạy. Chú thích kiểu không tồn tại trong mã được thực thi, nên thêm kiểu tự nó không làm công việc CPU nhanh hơn. Dữ liệu bên ngoài vẫn cần được xác thực khi chạy.[9][10][21] Các lựa chọn này có thể đảm nhiệm tích hợp API, cấu hình, giám sát, giao diện Web và xử lý luồng đáp ứng hiệu năng cần thiết.
worker_threads của Node.js và Web Workers của Deno có thể chuyển công việc CPU sang ngữ cảnh thực thi khác. Tài liệu Node.js khuyến nghị dùng pool worker thay vì tạo worker cho từng tác vụ. Tính cả chuyển đổi, sao chép và thời gian chờ gửi công việc, ngoài phép tính ở đích.[11][12]
Python là ứng viên cho nghiên cứu, phân tích, xác minh và công việc sử dụng thư viện hiện có. Đánh giá CPU ở đây áp dụng cho vòng lặp viết bằng Python và thực thi trong CPython thông thường. Tính toán được giao cho mã biên dịch, chẳng hạn thao tác NumPy, là trường hợp khác.[23] Kiểm tra cấu hình thực tế, bao gồm bản dựng free-threaded, thay vì chỉ dựa vào tên ngôn ngữ.[14] Nếu chuyển một phần sang Rust hoặc bản triển khai khác, hãy đo chuyển đổi và sao chép ở ranh giới, rồi xác minh toàn ứng dụng có lợi hay không.
C++ kết hợp kiểm soát cấp thấp với trừu tượng hóa và thư viện hiện có. RAII và con trỏ thông minh giúp quản lý vòng đời tài nguyên, nhưng sử dụng chúng không bảo đảm toàn bộ an toàn vòng đời bộ nhớ hoặc bộ nhớ dùng chung.[24] Mức an toàn ở giữa cũng không có nghĩa là bảo đảm giống bộ nhớ được quản lý trong các lựa chọn như Go.
Zig hỗ trợ tổ chức cấp phát và chọn bộ cấp phát một cách tường minh. Hồ sơ này giả định các kiểm tra của ReleaseSafe. ReleaseFast và ReleaseSmall có kiểm tra mặc định khác nhau, và ReleaseSafe không phát hiện được mọi trường hợp hành vi không hợp lệ.[25] Cùng hình đa giác với C++ không có nghĩa cơ chế giống hệt nhau.
Chiều Solana SDK dựa vào đường dẫn trong tài liệu chính thức cho TypeScript và Rust, cùng client Go và Python được liệt kê ở đó. Nó không xếp hạng số lượng hoặc chất lượng thư viện nói chung, cũng không khẳng định C++ và Zig thiếu thư viện. Với SDK thực sự chọn dùng, hãy kiểm tra API cần thiết, tình trạng bảo trì và theo kịp thay đổi, cùng khả năng tương thích với môi trường thực thi được chọn, bao gồm Deno.[26]
Đo xem ứng dụng tốn thời gian ở đâu, rồi chọn thế mạnh mà phần đó cần. Trước hết giảm chờ và công việc lặp lại trong ngôn ngữ hiện tại. Nếu cần kiểm soát chi tiết hơn, chuyển phần liên quan sang ngôn ngữ khác vẫn là một lựa chọn.
So sánh thay đổi trong cùng điều kiện
Chỉ dẫn của mỗi phần bao gồm triển khai và xác minh cải tiến tương ứng. Nếu áp dụng nhiều cải tiến, hãy giữ mối liên hệ giữa từng thay đổi và kết quả đo của nó. Áp dụng các thay đổi cùng lúc khiến khó phân biệt thay đổi nào tác động đến kết quả nào.
So sánh trước và sau với cùng đầu vào, điều kiện đăng ký, tải và yêu cầu đầu ra. Với thời gian từ nhận đến hoàn tất quyết định, hãy xem trung vị p50 cùng p95 và p99. p99 là ngưỡng thời gian mà 99% sự kiện được đo hoàn tất trong đó. Nó giúp nhìn thấy phần chậm của phân bố bên cạnh thời gian xử lý điển hình.
Cộng p99 của từng giai đoạn không tạo ra p99 đầu cuối. Hãy đo trực tiếp tổng thời gian từ nhận đến hoàn tất quyết định cho mỗi sự kiện, đồng thời theo dõi chờ hàng đợi, CPU, bộ nhớ, cập nhật thiếu hoặc bị bỏ và mức nhất quán của kết quả quyết định.
Khi đo thời gian trôi qua trong một máy chủ, dùng đồng hồ đơn điệu không chạy lùi khi giờ hệ thống được hiệu chỉnh. Nếu SDK chỉ gọi callback sau khi giải mã, đã có xử lý diễn ra trước khi callback bắt đầu. Nêu chính xác điểm bắt đầu và kết thúc mỗi phép đo để có thể xem riêng độ trễ truyền dữ liệu và độ trễ ứng dụng.
Cũng kiểm tra những gì xảy ra sau khi gửi. Phản hồi sendTransaction thành công không bảo đảm giao dịch được cụm xử lý hoặc xác nhận.[15] Liên kết thời điểm nhận, quyết định, yêu cầu gửi được chấp nhận và kết quả quan sát trên chuỗi sẽ giúp tìm vị trí cần cải thiện tiếp theo.
Biến truyền dữ liệu nhanh thành quyết định kịp thời
Truyền dữ liệu nhanh và một ứng dụng hoàn thành các quyết định cần thiết đúng lúc đều quan trọng. ERPC tiếp tục cải thiện hạ tầng truyền dữ liệu và xây dựng thông tin giúp nâng cao phần mềm chạy trên đó.
Trước tiên kiểm chứng các thay đổi ứng dụng trong cùng môi trường. Sau đó, khi cần, so sánh cùng mã ở các vị trí triển khai hoặc tài nguyên khác nhau để phân biệt tác động. Khi dùng tính phí theo giờ của ERPC, hãy xác định trước giả thuyết, điều kiện so sánh và thời lượng sử dụng, đồng thời kiểm tra giá và khả năng cung cấp trên Dashboard hiện tại.
Tài liệu tham khảo và liên kết liên quan
- [1] Tokio / Tác vụ nặng CPU và blocking
- [2] Node.js / Không chặn Event Loop
- [3] gRPC / Điều khiển luồng
- [4] Yellowstone gRPC / Thông điệp và đặc tả đăng ký
- [5] LMAX Disruptor / Thiết kế và sử dụng
- [6] Solana / Commitment
- [7] Solana / getLatestBlockhash
- [8] Rust / Quyền sở hữu
- [9] TypeScript / Hành vi lúc chạy và xóa kiểu
- [10] Deno / TypeScript
- [11] Node.js / Worker threads
- [12] Deno / Web Workers
- [13] Go / Bộ thu gom rác
- [14] Python / Free threading
- [15] Solana / sendTransaction
- [16] Yellowstone gRPC / Định nghĩa thông điệp
- [17] Rust / std::sync::Mutex
- [18] Tokio / Trạng thái chung và phân mảnh mutex
- [19] Solana / Cấu trúc giao dịch và chữ ký
- [20] Go / Câu hỏi thường gặp
- [21] V8 / Tổng quan
- [22] Rust / Data race và race condition
- [23] NumPy / NumPy là gì?
- [24] C++ / Hướng dẫn cốt lõi
- [25] Zig / Tài liệu tham chiếu ngôn ngữ
- [26] Solana / SDK phía client
- [27] Programming-Language-Benchmarks / nbody
- [28] Programming-Language-Benchmarks / Measurement code (2025-07-31): execution, defaults, aggregation, Zig build, Deno configuration.
- [29] Programming-Language-Benchmarks / Published measurement data (2025-08-01)
- Logo và nguồn: Rust © Rust Foundation (CC BY 4.0, giữ nguyên hình dạng và màu sắc); Zig © Zig project (CC BY-SA 4.0, giữ nguyên hình dạng và màu sắc).
- Các logo khác: Go © The Go Authors; TypeScript © Microsoft; Python © Python Software Foundation; C++ by Jeremy Kratz / Standard C++ Foundation; Node.js / OpenJS Foundation and Node.js contributors; Deno / Deno Land Inc..
- ERPC
- ERPC Web Dashboard































