Throughput per siklus CPU di router asli
Angka mesin virtual dan angka perangkat keras nyaris tidak pernah sama. Kami mengukur keduanya, menjaga rentangnya, dan jujur soal di mana kami kalah.
Angka terbaru, 2026-10-30
Pada mesin virtual Linux x86_64 kami, dengan thread sebanyak vCPU, Quantum memindahkan 1,33 hingga 2,67 kali lalu lintas satu aliran wireguard-go selama tautan bukan pembatasnya, dan seri pada tautan 2,5 Gbit/s. wireguard-go menghabiskan 1,7 hingga 2,6 kali CPU Quantum per gigabit (Quantum pada pengaturan yang lebih hemat, kebanyakan satu thread), belum mencapai target 2,5 kali kami pada 10 dari 12 pengukuran, dan Quantum kalah dalam latensi di bawah beban dari WireGuard kernel. Angka router di bawah berasal dari 2026-09-01 dan tidak diukur ulang. Metode dan setiap kekalahan: benchmark Linux.
Pada dua router fisik, memindahkan lalu lintas sungguhan lewat LAN gigabit sungguhan, inti terowongan kami mencapai 122 Mbit/s, sementara implementasi tunnel kernel bawaan router mencapai 66.8 Mbit/s — pada pengirim yang sama, dengan CPU lebih sedikit per Mbit. Tidak ada satu pun angka yang menceritakan keseluruhan kisahnya sendirian.
Kedua kubu terpaksa memakai generator lalu lintas yang berbeda, karena tidak ada satu generator pun yang berjalan di kedua sisi perbandingan itu. Jadi rasio yang layak diperdebatkan adalah masing-masing kubu dibandingkan dengan batas atas tanpa-terowongannya sendiri, yang ada di tabel di bawah dan justru menguntungkan kami lebih besar, bukan lebih kecil. Uji empat-VM di sebuah laptop (2026-08-31, kini riwayat; lihat pembaruan di bawah) menunjukkan angka yang lebih cepat secara absolut dan, pada satu sisi, sesuatu yang kurang menguntungkan. Kami lebih memercayai angka dari router, karena router adalah satu-satunya di antara keduanya yang benar-benar dilewati lalu lintas pelanggan.
Itulah temuan yang layak dijadikan pembuka, dan juga alasan mengapa tulisan ini memiliki dua bagian hasil, bukan satu: mesin virtual dan perangkat keras tidak sepakat soal sisi mana yang lebih penting, dan menutupi ketidaksepakatan itu akan menghabiskan lebih banyak kredibilitas daripada keuntungan yang didapat dari angka mana pun.
- Mesin virtual Mesin virtual di laptop
Empat VM pada satu laptop; riwayat
- Router Dua router MikroTik
Lewat LAN gigabit sungguhan: inti kami melawan tunnel kernel bawaan router
- Mikro-benchmark Biaya encapsulate dan decapsulate
Inti kami melawan boringtun 0.7.1 pada Apple M3 Max
- Terbaru Mesin virtual Linux
Quantum pada mesin virtual x86_64, thread sebanyak vCPU, melawan wireguard-go
Baca ini sebelum melihat angka-angkanya
Data plane kami secara bawaan memakai satu thread. Pembanding yang kami jalankan bersamanya di mesin virtual kami secara bawaan memakai empat. Jika dibiarkan tidak disetarakan, satu flag itu saja mengubah throughput-nya dari sekitar 789 menjadi 1427 Mbit/s pada mesin virtual laptop 2026-08-31 — sebuah kesenjangan pada pengaturan bawaan, bukan pada datapath-nya — dan hal ini pernah menghasilkan satu angka yang salah dipublikasikan di sini. Pada x86 khusus, 2026-10-17, boringtun dengan empat thread bawaannya membawa 1317 Mbit/s (lihat pembaruan di bawah). Setiap angka mesin virtual laptop di bawah ini mengunci kedua inti Rust pada satu thread. Implementasi Go dan kernel pada bagan itu berjalan dengan pengaturan bawaan masing-masing, yang memakai lebih dari satu — jika ada bedanya, itu justru menguntungkan mereka dibandingkan dengan thread tunggal kami. Kesenjangan bawaan-sebagaimana-dirilis ditampilkan terpisah, satu kali, agar tidak tersembunyi karena kelalaian juga.
Apa yang diukur, dan pada apa
Dua lingkungan independen, karena sebuah benchmark hanya jujur dalam lingkungan tempatnya dijalankan — angka iperf3 dan angka bandwidth-test bukanlah satu angka yang memakai dua nama, dan VM yang berbagi core laptop bukanlah router.
Perangkat keras — dua router MikroTik, satu LAN gigabit, 2026-09-01. RB3011UiAS (ARMv7, 2×1400 MHz) sebagai pengirim, cAP ax (ARM64, 4×864 MHz) sebagai penerima, RouterOS 7.24.1 pada keduanya. Inti kami berjalan sebagai fv, di dalam container RouterOS, di userspace, melawan implementasi protokol WireGuard bawaan kernel router itu sendiri — satu-satunya pembanding yang setara (apples-to-apples) yang tersedia pada perangkat keras tersebut, karena itulah satu-satunya alternatif yang tersedia langsung di RouterOS. Dua generator, karena tidak ada satu pun yang melintasi implementasi dengan bersih: dd | nc untuk uji container kami, bandwidth-test bawaan RouterOS untuk uji kernel — masing-masing membawa batas atas tanpa-terowongannya sendiri sebagai kontrol, sehingga pembaca bisa memeriksa kewajaran batas itu sebelum memercayai rasionya.
Mesin virtual di laptop — empat guest Debian aarch64 di bawah QEMU/HVF pada satu host Apple-silicon, 2026-08-31. Keypair, alamat, port, MTU, dan proses bring-up interface yang sama untuk setiap binari yang diuji: inti kami, boringtun 0.7 (implementasi WireGuard userspace dari Cloudflare, dalam Rust), wireguard-go (implementasi referensi protokol WireGuard, userspace), dan modul protokol WireGuard bawaan kernel Linux sendiri. Uji iperf3 selama 15 detik, tiga sampel masing-masing, kedua inti Rust dikunci pada satu thread data plane karena alasan pada catatan di atas.
task test:impls # VMs: ours vs boringtun vs wireguard-go vs the kernel
task test:all # VMs: single-hop, multi-hop, and the comparisonUji router belum menjadi target task — pengujiannya adalah fv yang dijalankan manual di dalam container RouterOS pada setiap kotak, melawan server protokol WireGuard bawaan RouterOS. Seluruh topologi dan setiap baris data mentah ada di docs/benchmarks/results.csv milik kami sendiri.
Angka yang benar-benar penting: di router
Inti kami mencapai 122 Mbit/s melawan 66.8 Mbit/s milik tunnel kernel router itu sendiri, pada 0.53 %/Mbit melawan 1.10, dan kalah pada round-trip time, 1.22 ms melawan 0.92 ms.
Dua kerangka independen sepakat, dan itulah yang membuat hasilnya bisa dipercaya, bukan sekadar dipilih-pilih: throughput absolut menguntungkan inti kami 1.8×, dan throughput yang dipertahankan terhadap batas atas tanpa-terowongan masing-masing generator menguntungkan kami 2.2×. Yang tidak dikatakan bagan: kedua generator bukanlah alat yang sama, itulah sebabnya kedua batas atas-tanpa-terowongan dicetak di tabel di bawah, bukan satu rasio headline, dan kedua angka itu akan berubah jika pengirim menerima lalu lintas jaringan sungguhan alih-alih membangkitkannya secara lokal. Berbeda dengan hasil mesin virtual laptop di bawah, ini adalah uji tunggal: persentase dalam kurung adalah rentang pergerakan CPU selama uji itu, bukan sebaran dari uji yang diulang-ulang.
Setiap angka router, 2026-09-01
| Ukuran | Inti kami (userspace) | Tunnel kernel bawaan router |
|---|---|---|
| Throughput | 122 Mbit/s | 66.8 Mbit/s |
| CPU, pengirim | 65% (63–67) | 74% (70–79) |
| CPU, penerima | 18% (10–22) | 20% (18–21) |
| CPU per Mbit | 0.53 %/Mbit | 1.10 %/Mbit |
| RTT | 1.22 ms | 0.92 ms |
| Memori resident (pengirim / penerima) | 3.0 / 3.1 MB | di dalam kernel, tidak bisa dipisahkan |
| Generator | dd | nc | bandwidth-test |
| Batas atas tanpa-terowongan generator itu | 187 Mbit/s | 220.5 Mbit/s |
| Yang dipertahankan dari batas atasnya sendiri | 65% | 30% |
Mesin virtual di laptop: tiga inti userspace, satu kernel, thread yang disetarakan
2026-08-31, empat VM pada satu laptop; riwayat, lihat pembaruan.
Dengan thread yang disetarakan, inti kami mencapai 1535 Mbit/s melawan 1427 milik boringtun, 1228 milik wireguard-go dan 1376 milik WireGuard kernel, pada memori puncak 3.5 MB dan latensi p99 0.94 ms.
Sebagaimana dirilis, tanpa disetarakan
Pada mesin virtual laptop 2026-08-31, inti kami secara bawaan memakai 1 thread dan mencapai 1535 Mbit/s; boringtun secara bawaan memakai 4 thread dan mencapai sekitar 789 Mbit/s pada pengaturan itu. Melaporkan hanya angka bawaan-lawan-bawaan akan mengulang kesalahan yang sama, kali ini ke arah yang menguntungkan. Kedua angka itu nyata; hanya satu di antaranya yang benar-benar memisahkan datapath dari jumlah thread.
Biaya CPU adalah tempat mesin virtual laptop benar-benar berguna dalam tulisan ini — itulah satu-satunya sisi yang tidak bisa ditunjukkan hasil router, karena pembanding di dalam kernel milik router tidak memberi rincian CPU apa pun untuk dibandingkan.
Di mana kami tidak menang
Tiga tempat, semuanya dijelaskan, bukan dikubur di dalam CSV:
Latensi di bawah beban di Linux, 2026-10-30. Pada mesin virtual Linux x86_64 kami, ping p99 Quantum di bawah satu aliran TCP lebih tinggi daripada WireGuard kernel dan boringtun (antara dua VM 2-vCPU pada satu host, 4,72 ms dibanding 2,27 dan 1,83), tetapi lebih rendah daripada wireguard-go, dan CPU-nya per gigabit tidak mencapai target 2,5 kali kami terhadap wireguard-go pada 10 dari 12 pengukuran. Throughput tidak lagi ada di daftar ini untuk Linux: lihat pembaruan di bawah.
CPU mode-user, di mesin virtual laptop 2026-08-31. 0.347 s/Gbit berbanding 0.290 milik pembanding Rust yang lebih murah — satu-satunya tempat pada hasil laptop di mana pembanding itu unggul atas kami. Menurut pembacaan kami, ini adalah sesuatu yang "dibeli", bukan disia-siakan: inti kami melakukan offload checksum TUN di kedua arah, yang memindahkan pekerjaan keluar dari kernel dan masuk ke CPU userspace yang dihitung sebagai waktu user — dan kolom CPU-system, tempat kompromi itu dibayar kembali, justru jauh lebih unggul (0.549 berbanding 0.787). Total CPU tetap menang. Pemisahan user/sys di atas ditampilkan justru agar kompromi ini terlihat, bukan sekadar diklaim.
Round-trip time, di router. 1.22 ms berbanding 0.92 ms milik tunnel kernel — satu-satunya sisi perangkat keras tempat implementasi di dalam kernel menang telak, karena alasan yang wajar: jalur kami membayar biaya satu hop veth container dan satu giliran penjadwalan userspace yang tidak dibayar oleh jalur di dalam kernel. Menariknya, mesin virtual laptop 2026-08-31 justru menunjukkan urutan sebaliknya pada latensi p99 (0.94 ms berbanding 0.96 ms milik kernel) — kami tidak menyimpulkan apa pun dari itu selain "lingkungan berbeda, hambatan berbeda", dan kami mengatakannya secara jujur alih-alih memilih angka mana pun yang lebih menguntungkan.
Pembaruan 2026-10-30: mesin virtual Linux
Mesin virtual di laptop (2026-08-31) dan uji pada router (2026-09-01) di atas adalah riwayat bertanggal; router tidak diukur ulang. Pada 2026-10-30 kami mengukur daemon Linux, yang dibangun hari itu dari kode sumber kami, pada mesin virtual x86_64 kami: host AMD Ryzen 7 8845HS, Ubuntu 26.04.1, kernel 7.0, iperf3 3.20, satu dan empat aliran TCP, median dari 5 kali jalan.
- Kami unggul 1,33–2,67 kali dibandingkan lalu lintas satu aliran wireguard-go Quantum dengan thread sebanyak vCPU, pada satu VM dengan tiap sisi dibatasi 1, 2 atau 4 vCPU
- Kami unggul 1,35–1,79 kali dibandingkan lalu lintas satu aliran wireguard-go Quantum dengan thread sebanyak vCPU, antara dua VM pada satu host
- Seri Seri dibandingkan keduanya di batas tautan Quantum dan wireguard-go pada tautan 2,5 Gbit/s
- Campuran 10 dari 12 dibandingkan wireguard-go menghabiskan 1,7 hingga 2,6 kali CPU Quantum per gigabit Pengukuran yang belum mencapai target CPU 2,5 kali kami
- Kami kalah 4,72 ms dibandingkan 2,27 untuk WireGuard kernel Ping p99 di bawah satu aliran TCP antara dua VM 2-vCPU pada satu host, lebih tinggi daripada WireGuard kernel
Dengan thread sebanyak vCPU (fv run --threads N; bawaannya 1; ini bukan aplikasinya), Quantum memindahkan 1,33 hingga 2,67 kali lalu lintas satu aliran wireguard-go pada satu VM dengan tiap sisi dibatasi 1, 2 atau 4 vCPU, dan 1,35 hingga 1,79 kali antara dua VM pada satu host; pada tautan 2,5 Gbit/s keduanya seri di batas tautan. wireguard-go menghabiskan 1,7 hingga 2,6 kali CPU Quantum per gigabit di atas garis dasar tanpa tunnel (Quantum pada pengaturan yang lebih hemat, kebanyakan satu thread), belum mencapai target 2,5 kali kami pada 10 dari 12 pengukuran, dan latensi Quantum di bawah beban lebih tinggi daripada WireGuard kernel.
Uji kami sebelumnya pada 2026-10-16 dan 2026-10-17, di server Scaleway dengan build sebelum perubahan ini, menempatkan WireGuard kernel dan wireguard-go di depan sekitar dua hingga tiga kali; keduanya tetap di halaman perbandingan sebagai build sebelumnya dan tidak dibandingkan dengan yang ini. Metode, sebaran, dan setiap kekalahan: benchmark Linux dan uji pada mesin virtual.
Angka mana yang baru, dan mana yang sudah lama
Setiap angka di atas membawa tanggal: angka router adalah 2026-09-01, angka laptop 2026-08-31. Keduanya riwayat, diukur pada pohon kode sebelum pembaruan versi mayor terkoordinasi untuk crate kriptografi yang dipanggil data plane kami pada setiap paket — chacha20poly1305, blake2, curve25519-dalek. Angka router juga tidak dikunci ke satu commit tertentu — baca “2026-09-01” sebagai “awal September”. Pengukuran terkini di Linux adalah pembaruan 2026-10-30 di atas.
Yang bisa kami jalankan ulang hari ini, di mesin ini, tanpa router atau mesin virtual, adalah bagian jalur yang paling langsung disentuh oleh pembaruan kripto itu: biaya encapsulate dan decapsulate, terpisah dari setiap urusan socket, TUN, dan threading di atas.
Diuji ulang 2026-09-05, Apple M3 Max, cargo bench -p forestvpn-quantum --bench datapath_benches -- --measurement-time 3 --warm-up-time 1, criterion 0.8.2, 100 sampel per titik. Tidak ada socket, tidak ada TUN, tidak ada thread — satu handshake yang selesai, lalu encapsulate/decapsulate dalam sebuah loop. Hasilnya bercampur menurut arah dan ukuran paket, semuanya dalam kisaran beberapa persen ke arah mana pun, persis seperti yang kami perkirakan: kedua inti menyegel dan membuka setiap paket data dengan kode ChaCha20-Poly1305 yang sama, dari crate ring. Ini bukan klaim throughput — ini menyatakan bahwa jalur kripto kami berbiaya kurang lebih sama dengan milik boringtun, dalam batas noise, dan itulah yang membuat kemenangan router di atas layak dipercaya: kemenangan itu datang dari bagian lain pada stack (batching syscall, offload, threading), bukan dari cipher yang lebih cepat.
Mereproduksi
task test:impls # VMs: ours vs boringtun vs wireguard-go vs the kernel
task test:all # VMs: single-hop, multi-hop, and the multihop cost table
cargo bench -p forestvpn-quantum --bench datapath_benches -- --measurement-time 3 --warm-up-time 1Uji router masih manual hari ini: fv di dalam container RouterOS pada setiap kotak, melawan server protokol WireGuard bawaan RouterOS.
Agar jujur soal apa yang sebenarnya didapat dari ini: harness dan results.csv mentah di balik setiap tabel di sini ada di tree kami sendiri, yang belum publik hari ini. Baca perintah-perintah di atas sebagai pernyataan yang persis tentang apa yang kami jalankan, bukan sebagai sesuatu yang bisa Anda clone dan ulangi. Klaim yang paling tidak bergantung pada kami juga adalah yang paling layak diperiksa — boringtun dan wireguard-go bersifat publik, iperf3 bersifat publik, dan jebakan jumlah-thread di awal tulisan ini (pada mesin virtual laptop 2026-08-31, satu flag yang menggeser sebuah pembanding antara sekitar 789 dan 1427 Mbit/s pada satu host) bisa direproduksi oleh siapa pun yang memiliki ketiganya tanpa satu pun kode kami di dalamnya. Jika itu tetap berlaku bagi Anda, baris-baris yang sudah disetarakan di atas adalah yang layak diperdebatkan. Jika tidak, kami ingin mendengarnya.