Same bits.
Every device.Cùng từng bit.
Trên mọi thiết bị.
AI inference you can check. Call our OpenAI-compatible API and every answer comes back with a signed receipt that anyone can verify. The same model and input give the identical result, bit for bit, on x86 and ARM CPUs, an Android phone and five NVIDIA GPU models across four generations.Suy luận AI có thể kiểm chứng. Gọi API tương thích OpenAI, mỗi câu trả lời đều kèm một biên nhận có chữ ký mà ai cũng xác minh được. Cùng một model và đầu vào cho ra kết quả giống hệt nhau từng bit trên CPU x86 và ARM, một điện thoại Android và năm mẫu GPU NVIDIA thuộc bốn thế hệ.
Free during the public preview, no card needed. Preview limits apply; paid plans are opening soon.Miễn phí trong giai đoạn thử nghiệm công khai, không cần thẻ. Áp dụng giới hạn thử nghiệm; các gói trả phí sắp mở. See the measurements →Xem số đo →
8d694e5c…3851cc8d694e5c…3851cc8d694e5c…3851ccQwen2.5-7B int4, ALL digestQwen2.5-7B int4, digest ALL
Bit-exact across devicesKhớp từng bit giữa các thiết bị
Every logit and every sampling step, not just the chosen token.Mọi logit và mọi bước lấy mẫu, không chỉ token được chọn.
Steady timingThời gian ổn định
4-bit Qwen2.5-7B on an A10: p50 10.77 ms and p99 10.87 ms per token, with hashing on. Batched up to 64 streams, p99 stays within 1% of p50.Qwen2.5-7B 4 bit trên A10: p50 10,77 ms và p99 10,87 ms mỗi token, khi bật hash. Khi chạy batch tới 64 luồng, p99 cao hơn p50 dưới 1%.
Measured Oct 2026 · results as of 2026-10-30Đo tháng 10/2026 · số liệu tính đến 30/10/2026No speed penaltyKhông phải đánh đổi tốc độ
4-bit Qwen2.5-7B on an NVIDIA A10: 92.98 tok/s with hashing on, vs 90.30 for llama.cpp Q4_K_M and 87.99 for vLLM AWQ.Qwen2.5-7B 4 bit trên NVIDIA A10: 92,98 token/giây khi bật hash, so với 90,30 của llama.cpp Q4_K_M và 87,99 của vLLM AWQ.
Measured Oct 2026 · results as of 2026-10-30Đo tháng 10/2026 · số liệu tính đến 30/10/2026From API key to verified answer in three stepsTừ khóa API tới câu trả lời đã xác minh trong ba bước
- 1
Get a keyLấy khóa
Sign in to the console with your email or Google and create an API key. It is shown once, so keep it on your server.Đăng nhập console bằng email hoặc Google và tạo khóa API. Khóa chỉ hiện một lần, hãy giữ nó ở phía máy chủ.
- 2
Call the APIGọi API
Send a chat request to api.idemcore.net. The API is OpenAI-compatible, so existing OpenAI SDKs work once you change the base URL.Gửi yêu cầu chat tới api.idemcore.net. API tương thích OpenAI, nên các SDK OpenAI sẵn có chạy được chỉ bằng cách đổi base URL.
- 3
Verify the receiptXác minh biên nhận
Every answer carries a signed receipt. Check it with one more API call, or open it in the console, which checks the signature in your browser.Mỗi câu trả lời đều kèm biên nhận có chữ ký. Kiểm tra bằng một lệnh gọi API nữa, hoặc mở trong console, nơi chữ ký được kiểm ngay trên trình duyệt của bạn.
curl https://api.idemcore.net/v1/chat/completions \
-H "Authorization: Bearer $IDEMCORE_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "MODEL_ID",
"messages": [{"role": "user", "content": "Name the three primary colours."}]}'
{
"choices": [{ "message": { "role": "assistant",
"content": "Red, yellow and blue." } }],
"idemcore": {
"receipt": {
"receipt_id": "rcpt_3550cebf53dbc66a554977e8",
"model_id": "MODEL_ID",
"weights_hash": "9f923a5b…",
"key_id": "ed25519:…",
"signature": "…"
}
}
}
Full API reference →Tài liệu API đầy đủ →Verify a receipt →Xác minh biên nhận →Python & JS examples →Ví dụ Python & JS →
Three ways to use IdemcoreBa cách dùng Idemcore
Cloud APICloud API
An OpenAI-compatible chat API with a signed receipt on every answer. The console gives you API keys, usage, receipts, team members and audit export.API chat tương thích OpenAI, mỗi câu trả lời kèm biên nhận có chữ ký. Console có khóa API, mức dùng, biên nhận, thành viên nhóm và xuất log kiểm toán.
SDK & verifierSDK & công cụ kiểm chứng
Client examples for Python and JavaScript, plus the open verifier (Apache-2.0) to check receipts and logs on your own machine, so you never have to trust us.Ví dụ client cho Python và JavaScript, cùng công cụ kiểm chứng mở (Apache-2.0) để kiểm biên nhận và log trên máy của bạn, nên bạn không cần tin chúng tôi.
On-premises licenseGiấy phép cài tại chỗ
Run the engine on your own servers, GPUs or devices, so prompts and outputs stay in your environment. Every license starts with a fixed-scope pilot.Chạy engine trên máy chủ, GPU hoặc thiết bị của bạn, để prompt và kết quả nằm trong hạ tầng của bạn. Mọi giấy phép đều bắt đầu bằng một đợt thí điểm có phạm vi cố định.
The engine is closed and licensed; the verifier is open, so anyone can check a result without trusting us.Engine là mã đóng và được cấp phép; công cụ kiểm chứng là mã mở, nên ai cũng kiểm được kết quả mà không cần tin chúng tôi.
SolutionsGiải pháp theo ngành

Simulation & ReplayMô phỏng & phát lại
AI steps inside simulations replay identically, years later, on any machine. For autonomy simulation, AI audit and research labs.Các bước AI trong mô phỏng phát lại y hệt, nhiều năm sau, trên bất kỳ máy nào. Dành cho mô phỏng tự hành, kiểm toán AI và phòng nghiên cứu.
Simulation page →Trang mô phỏng →
Game & Esports IntegrityGame & Esports
Deterministic game AI with a per-tick hash, server spot-check replay and evidence logs for match disputes.AI game tất định với hash theo từng tick, phát lại kiểm tra trên server và log làm bằng chứng khi tranh chấp trận đấu.
Games page →Trang game →
Banking & FinanceNgân hàng & tài chính
A signed receipt for every answer an AI assistant gives a customer, so a disputed answer can be checked and replayed months later.Biên nhận có chữ ký cho mỗi câu trả lời mà trợ lý AI đưa ra cho khách hàng, để câu trả lời bị khiếu nại có thể được kiểm và phát lại sau nhiều tháng.
Banking page →Trang ngân hàng →Coming soonSắp ra mắt

Verifiable Compute NetworksMạng tính toán kiểm chứng được
Results that independent nodes can cross-check by comparing hashes.Kết quả để các node độc lập đối chiếu bằng cách so hash.
Coming soonSắp ra mắt
Mobile / On-device SDKSDK di động / trên thiết bị
Deterministic inference packaged for apps on phones and edge devices.Suy luận tất định đóng gói cho ứng dụng trên điện thoại và thiết bị biên.
Coming soonSắp ra mắt
Robotics, Autonomy & AeroRobot, tự hành & hàng không
Replayable AI decisions for testing and incident review.Quyết định AI phát lại được cho kiểm thử và điều tra sự cố.
Coming soonSắp ra mắt
Chip Health & EnergySức khỏe chip & năng lượng
Exploring reproducible runs as a reference for hardware checks.Nghiên cứu dùng lần chạy tái lập làm mốc tham chiếu khi kiểm tra phần cứng.
Coming soonSắp ra mắtIdemcore: Bit-Identical LLM Inference from Phones to Datacenter GPUs, with an Open Per-Token Verification Protocol
An integer-only kernel for transformer inference and an open verification protocol: every decoding step emits a 64-bit hash of the full-vocabulary integer logits and a hash of the integer distribution used for sampling. Anyone can re-run a request on hardware they control and compare logs line by line.Một kernel thuần số nguyên cho suy luận transformer cùng giao thức kiểm chứng mở: mỗi bước giải mã ghi một hash 64 bit của toàn bộ logit số nguyên trên cả bộ từ vựng và một hash của phân phối số nguyên dùng để lấy mẫu. Ai cũng có thể chạy lại một yêu cầu trên phần cứng mình kiểm soát và so log từng dòng.
@misc{wick2026idemcore,
title = {{Idemcore}: Bit-Identical {LLM} Inference from Phones to Datacenter {GPUs}, with an Open Per-Token Verification Protocol},
author = {Wick, Don},
year = {2026},
note = {Preprint},
url = {https://idemcore.net}
}Verified resultsKết quả đã kiểm chứng
Every pair below was decoded on both devices and compared hash by hash. All matched, e.g. Qwen2.5-7B 8-bit: 512/512 positions identical between an x86 CPU and an NVIDIA A10.Mỗi cặp dưới đây được chạy trên cả hai thiết bị và so từng hash. Tất cả đều khớp, ví dụ Qwen2.5-7B 8 bit: 512/512 vị trí giống hệt giữa CPU x86 và NVIDIA A10.
| ModelModel | Matched x86-64 onKhớp x86-64 trên | PositionsSố vị trí | ResultKết quả |
|---|---|---|---|
| Qwen2.5-0.5B 8-bit | NVIDIA T4 | 3260 | ✓ identicalkhớp |
| Qwen2.5-0.5B 8-bit | Windows 11 ARM64 (Snapdragon X) | 3260 | ✓ identicalkhớp |
| Qwen2.5-0.5B 8-bit | Android phone (Galaxy Z Fold5) | 3260 | ✓ identicalkhớp |
| Qwen2.5-7B 8-bit | NVIDIA A10 | 512 | ✓ identicalkhớp |
| Qwen2.5-7B 8-bit | Android phone (Galaxy Z Fold5) | 64 | ✓ identicalkhớp |
| Qwen2.5-7B 4-bit (g) | NVIDIA A10 | 512 | ✓ identicalkhớp |
| Qwen2.5-7B 4-bit (g4) | NVIDIA A10G | 512 | ✓ identicalkhớp |
| Qwen2.5-7B 4-bit (g) | Android phone (Galaxy Z Fold5) | 128 | ✓ identicalkhớp |
| gpt-oss-20b (MoE) | NVIDIA L40S | 512 | ✓ identicalkhớp |
| gpt-oss-120b (MoE) | NVIDIA H100 | 128 of 512 | ✓ identicalkhớp |
gpt-oss-120b: spot check of 128 of 512 positions against the x86 CPU. 7B 8-bit on the phone: 64-position prefix.gpt-oss-120b: kiểm tra 128 trên 512 vị trí so với CPU x86. 7B 8 bit trên điện thoại: 64 vị trí đầu.
Measured Oct 2026 · results as of 2026-10-30Đo tháng 10/2026 · số liệu tính đến 30/10/2026
Speed, single stream (Qwen2.5-7B-Instruct)Tốc độ, một luồng (Qwen2.5-7B-Instruct)
| GPU | EngineEngine | tok/s | p50 ms | p99 ms |
|---|---|---|---|---|
| A10 | Idemcore 4-bit (g), hashing onbật hash | 92.98 | 10.77 | 10.87 |
| A10 | llama.cpp Q4_K_M | 90.30 | 11.09 | 11.83 |
| A10 | vLLM AWQ | 87.99 | 11.30 | 12.16 |
| A10 | llama.cpp Q8_0 | 58.52 | 17.11 | 17.90 |
| A10 | Idemcore 8-bit, hashing onbật hash | 56.95 | 17.56 | 18.07 |
| A10 | vLLM fp16 | 30.44 | 32.80 | 33.60 |
| A10G | Idemcore 4-bit (g4), hashing onbật hash | 98.64 | 10.15 | 10.27 |
| A10G | llama.cpp Q4_K_M | 92.37 | 10.75 | 13.12 |
Batch 1 decode on rented cloud GPUs. On the A10, Idemcore ran in a separate session from the baselines. A10 and A10G are different cloud SKUs, so compare within each GPU. Cloud GPU clocks vary between sessions. MoE: gpt-oss-20b at 72.1–72.2 tok/s on an L40S, gpt-oss-120b at 37.1–37.3 tok/s on an H100.Giải mã batch 1 trên GPU thuê. Trên A10, Idemcore chạy ở phiên khác với các engine so sánh. A10 và A10G là hai loại máy khác nhau, chỉ so trong cùng một GPU. Xung nhịp GPU đám mây thay đổi giữa các phiên. MoE: gpt-oss-20b đạt 72,1–72,2 token/giây trên L40S, gpt-oss-120b đạt 37,1–37,3 token/giây trên H100.
Measured Oct 2026 · results as of 2026-10-30Đo tháng 10/2026 · số liệu tính đến 30/10/2026
Batched serving, every stream bit-exact (Qwen2.5-7B 4-bit, A10G)Phục vụ theo batch, mọi luồng khớp từng bit (Qwen2.5-7B 4 bit, A10G)
| StreamsSố luồng | Idemcore total tok/sIdemcore tổng tok/s | Per stream tok/sMỗi luồng tok/s | p50 / p99 ms | vLLM AWQ total tok/svLLM AWQ tổng tok/s |
|---|---|---|---|---|
| 1 | 92.69 | 92.69 | 10.81 / 10.88 | 87.0–87.8 |
| 8 | 641.37 | 80.17 | 12.49 / 12.61 | 645–651 |
| 16 | 1057.55 | 66.10 | 15.16 / 15.28 | 1187–1189 |
| 32 | 1371.69 | 42.87 | 23.42 / 23.57 | 1993–2012 |
| 64 | 1413.34 | 22.08 | 45.48 / 45.70 | not runchưa chạy |
Improved batched GPU kernel. At every batch size from 1 to 64, every stream matched a single-stream x86 CPU run hash for hash, including shuffled slot order and streams joining late. On par with vLLM AWQ at 8 streams; vLLM is faster from 16 streams on (1.12× at 16, about 1.46× at 32). p99 step time stays within 1% of p50 (within about 4% when streams join late). Our timings are teacher-forced GPU step times; vLLM's are client-side generation timings, so the comparison is indicative. One vLLM version (0.11.0) was used, with its batch-invariant mode not enabled. In the same tests, vLLM and llama.cpp were not bit-reproducible across batch compositions at default settings in our runs.Kernel GPU xử lý batch đã cải tiến. Ở mọi kích thước batch từ 1 đến 64, mọi luồng đều khớp từng hash với lần chạy một luồng trên CPU x86, kể cả khi xáo thứ tự slot và khi luồng vào sau. Ngang vLLM AWQ ở 8 luồng; từ 16 luồng trở lên vLLM nhanh hơn (1,12× ở 16, khoảng 1,46× ở 32). p99 thời gian mỗi bước cao hơn p50 dưới 1% (khoảng 4% khi luồng vào sau). Số của chúng tôi là thời gian bước trên GPU (teacher-forced), số của vLLM đo phía client khi sinh token, nên so sánh chỉ mang tính tham khảo. Chỉ dùng một phiên bản vLLM (0.11.0), không bật chế độ batch-invariant. Trong cùng thử nghiệm, vLLM và llama.cpp không tái lập được từng bit khi đổi thành phần batch, ở cấu hình mặc định, trong các lần chạy của chúng tôi.
Measured 2026-10-30Đo ngày 30/10/2026
Batched serving on an H100, every stream bit-exact (Qwen2.5-7B 4-bit, H100 80GB)Phục vụ theo batch trên H100, mọi luồng khớp từng bit (Qwen2.5-7B 4 bit, H100 80GB)
| StreamsSố luồng | Idemcore total tok/sIdemcore tổng tok/s | vLLM AWQ total tok/svLLM AWQ tổng tok/s |
|---|---|---|
| 1 | 311.28 | 261.7–263.5 |
| 8 | 1676.05 | 1639.1–1949.0 |
| 16 | 2229.32 | not runchưa chạy |
| 32 | 2871.76 | 4395.8–5328.7 |
| 64 | 3545.15 | not runchưa chạy |
NVIDIA H100 80GB HBM3 (1980 MHz), current batched kernel, hashing on with every step verified on the host, 512 teacher-forced steps per stream. Every stream at every batch size matched the single-stream x86 CPU run, 0 mismatches. At one stream Idemcore is about 20% faster than vLLM AWQ, at 8 streams the two are on par, and at 32 streams vLLM is faster by about 1.5–1.9×. vLLM 0.11.0 ran in the same container (range over four runs; not run at 16 or 64 streams), measured end to end, so the comparison is indicative. In that container, vLLM's greedy output for one of 8 prompts changed between a solo run and the same prompt inside a batch in 3 of 4 comparisons.NVIDIA H100 80GB HBM3 (1980 MHz), kernel batch hiện tại, bật hash và kiểm tra mọi bước trên host, 512 bước teacher-forced mỗi luồng. Ở mọi kích thước batch, mọi luồng đều khớp lần chạy một luồng trên CPU x86, 0 chỗ lệch. Ở một luồng Idemcore nhanh hơn vLLM AWQ khoảng 20%, ở 8 luồng hai bên ngang nhau, còn ở 32 luồng vLLM nhanh hơn khoảng 1,5–1,9×. vLLM 0.11.0 chạy trong cùng container (khoảng giá trị qua bốn lần chạy; chưa chạy ở 16 và 64 luồng), đo đầu cuối, nên so sánh chỉ mang tính tham khảo. Trong container đó, kết quả greedy của vLLM cho 1 trong 8 prompt thay đổi giữa lần chạy riêng và khi cùng prompt nằm trong batch, ở 3 trên 4 lần so sánh.
Measured 2026-10-30Đo ngày 30/10/2026
Quality (perplexity vs the reference model)Chất lượng (perplexity so với model tham chiếu)
| BuildBản | Perplexity gapChênh lệch perplexity | Top-1 agreementTrùng token top-1 |
|---|---|---|
| Idemcore 7B 8-bit | −0.11% | 98.0% |
| Idemcore 7B 4-bit (g) | +0.60% | 95.5% |
| Idemcore 7B 4-bit (g4) | +2.11% | 89.5% |
| llama.cpp Q4_K_M (7B) | +3.92% | 91.0% |
| Idemcore gpt-oss-20b vs HF MXFP4so với HF MXFP4 | +1.37% | 94.3% |
| Idemcore gpt-oss-120b vs HF MXFP4so với HF MXFP4 | +6.23% | 93.4% |
512-position WikiText-2 slice; gaps under about 1% should not be over-read. 7B reference: the bf16 checkpoint computed in fp32. The gpt-oss-120b gap is the main quality item we are working on.Đoạn WikiText-2 dài 512 vị trí; chênh dưới khoảng 1% không nên diễn giải quá mức. Tham chiếu 7B: checkpoint bf16 tính bằng fp32. Chênh lệch của gpt-oss-120b là hạng mục chất lượng chính chúng tôi đang cải thiện.
Measured Oct 2026 · results as of 2026-10-30Đo tháng 10/2026 · số liệu tính đến 30/10/2026
Technical paperBài báo kỹ thuật
Method, every measurement and its limits. Link will appear here when published.Phương pháp, toàn bộ số đo và giới hạn. Link sẽ có ở đây khi công bố.
Open verifier (Apache-2.0)Công cụ kiểm chứng mở (Apache-2.0)
Log spec, sample logs and the checker, on GitHub. Link will appear here when published.Đặc tả log, log mẫu và công cụ kiểm tra trên GitHub. Link sẽ có ở đây khi công bố.
Method and dates for every number on this pagePhương pháp và ngày đo cho mọi con số trên trang
Bit-exactness: each device decodes the same model and inputs and writes a per-token log; a pair counts as matched only when every compared position has the same logits hash and sampling-distribution hash. Idemcore speeds are teacher-forced decode step times with hashing on; baseline numbers are generation timings measured by their own clients, so cross-engine comparisons are indicative. Cloud GPU clocks varied by up to ±30% between sessions; treat cross-session differences under about 10% as noise. Energy figures are indicative (GPU power counters on cloud GPUs, the battery gauge on the phone). Dates: all results are from runs in October 2026, as published in our results of 2026-10-30; the A10G and H100 batched tables, the phone 4-bit run and the H100 vLLM comparison were measured on 2026-10-30.Khớp từng bit: mỗi thiết bị chạy cùng model và đầu vào và ghi log theo từng token; một cặp chỉ tính là khớp khi mọi vị trí được so có cùng hash logit và hash phân phối lấy mẫu. Tốc độ Idemcore là thời gian bước giải mã teacher-forced khi bật hash; số của các engine khác là thời gian sinh token đo bằng client của chính chúng, nên so sánh giữa engine chỉ mang tính tham khảo. Xung nhịp GPU đám mây dao động tới ±30% giữa các phiên; chênh dưới khoảng 10% giữa các phiên nên coi là nhiễu. Số năng lượng chỉ mang tính tham khảo (bộ đếm công suất GPU trên đám mây, cảm biến pin trên điện thoại). Ngày đo: mọi kết quả đến từ các lần chạy trong tháng 10/2026, theo bản kết quả công bố ngày 30/10/2026; bảng batch A10G và H100, lần chạy 4 bit trên điện thoại và phép so với vLLM trên H100 được đo ngày 30/10/2026.
Verify it yourselfTự kiểm chứng
One command recomputes every published hash from the raw logs and re-checks every device pair. Python 3.8 or newer, standard library only, about 4 seconds on a laptop.Một lệnh tính lại mọi hash đã công bố từ log gốc và kiểm lại mọi cặp thiết bị. Python 3.8 trở lên, chỉ dùng thư viện chuẩn, khoảng 4 giây trên laptop.
GitHub: available at launchGitHub: có khi ra mắt The command below works once the verifier repository is public.Lệnh dưới đây chạy được khi kho mã công cụ kiểm chứng được công khai.
1RunChạy
git clone https://github.com/idemcore/idemcore-verifier && cd idemcore-verifier && python3 -m idemcore_verify samples
Expected outputKết quả mong đợi
[1/2] recompute published hashes (HASHES.tsv)
[2/2] re-check reference/candidate pairs (PAIRS.tsv)
checked 65 logs (448904 token rows) and 58 pairs
PASS: every published hash recomputes and every pair is bit-identical2Compare two devices yourselfTự so hai thiết bị
python3 -m idemcore_verify compare samples/gpt-oss-20b/x86_64.log samples/gpt-oss-20b/nvidia_l40s.log
What a MATCH looks likeMATCH trông như thế nào
OK samples/gpt-oss-20b/x86_64.log: 512 tokens, ALL 8ec348aaf3b4109c (recomputed 8ec348aaf3b4109c)
OK samples/gpt-oss-20b/nvidia_l40s.log: 512 tokens, ALL 8ec348aaf3b4109c (recomputed 8ec348aaf3b4109c)
MATCH: 512/512 positions identical (mode exact; only-in-ref 0, only-in-cand 0)MATCH means that at every position both logs carry the same hash of the full-vocabulary integer logits and the same hash of the sampling distribution, and that each log’s chained ALL digest recomputes. Here an x86-64 CPU and an NVIDIA L40S give ALL 8ec348aaf3b4109c for gpt-oss-20b. On the 128-position Qwen2.5-7B 4-bit workload the digest is 8d694e5c633851cc on the x86 CPU, the Galaxy Z Fold5 and every GPU batch size we ran. If anything differs, the verifier prints FAIL and the first position that diverges.MATCH nghĩa là ở mọi vị trí, hai log có cùng hash của toàn bộ logit số nguyên trên cả bộ từ vựng và cùng hash của phân phối lấy mẫu, và digest ALL nối chuỗi của mỗi log tính lại đúng. Ở đây CPU x86-64 và NVIDIA L40S cùng cho ALL 8ec348aaf3b4109c với gpt-oss-20b. Với tác vụ Qwen2.5-7B 4 bit dài 128 vị trí, digest là 8d694e5c633851cc trên CPU x86, Galaxy Z Fold5 và mọi kích thước batch GPU chúng tôi đã chạy. Nếu có gì khác, công cụ in FAIL và vị trí đầu tiên bị lệch.
What a match does not prove: the 64-bit hash is FNV-1a, which detects accidental differences but is not collision-resistant, and a match shows two runs agree, not which program produced them.Điều một lần khớp không chứng minh: hash 64 bit là FNV-1a, phát hiện được khác biệt ngẫu nhiên nhưng không chống va chạm, và một lần khớp cho thấy hai lần chạy giống nhau, chứ không cho biết chương trình nào tạo ra chúng.
Sample logs and output as of verifier v0.2.0, 2026-10-30Log mẫu và kết quả theo công cụ kiểm chứng v0.2.0, ngày 30/10/2026
Same 8 prompts, solo vs batched: what changedCùng 8 prompt, chạy riêng và chạy batch: điều gì thay đổi
We ran 8 prompts × 512 greedy tokens through common floating-point serving stacks under several schedules (solo repeats, batches of 8, shuffled order, mixed batches, staggered arrivals) and compared each prompt with its own first solo run.Chúng tôi chạy 8 prompt × 512 token greedy qua các stack phục vụ dấu phẩy động phổ biến với nhiều lịch chạy (lặp lại riêng lẻ, batch 8, xáo thứ tự, batch trộn, đến lệch giờ) và so mỗi prompt với lần chạy riêng đầu tiên của chính nó.
Prompts (of 8) whose greedy output changed in at least one scheduleSố prompt (trên 8) có kết quả greedy thay đổi ở ít nhất một lịch chạy
Idemcore was held to a stricter test: every per-token logits hash and sampling-distribution hash of every stream, at B = 1 to 64, with shuffled slots and staggered joins, against a single-stream x86 CPU log. vLLM token-identical repeats at B = 8 still differed in logprobs; llama.cpp solo repeats were bit-identical, batched runs changed nearly every logprob. A10G and A10, one version of each engine, default settings unless noted.Idemcore được kiểm nghiêm ngặt hơn: mọi hash logit theo token và hash phân phối lấy mẫu của mọi luồng, ở B = 1 đến 64, có xáo slot và luồng vào lệch giờ, so với log một luồng trên CPU x86. Với vLLM, các lần lặp B = 8 trùng token vẫn khác logprob; với llama.cpp, lặp lại riêng lẻ khớp từng bit, còn chạy batch làm đổi gần như mọi logprob. A10G và A10, mỗi engine một phiên bản, cấu hình mặc định trừ khi có ghi chú.
These counts describe these specific runs, not general divergence rates. vLLM’s batch-invariant mode is not available in vLLM 0.11.0, so we did not test it; batch-invariant float kernels address the same problem within one GPU family, and we did not measure them.Các con số này mô tả đúng những lần chạy này, không phải tỉ lệ lệch chung. Chế độ batch-invariant của vLLM chưa có trong vLLM 0.11.0 nên chúng tôi không thử; các kernel số thực batch-invariant giải quyết cùng vấn đề trong phạm vi một dòng GPU, và chúng tôi chưa đo chúng.
Related workCông trình liên quan
- Thinking Machines Lab, Thinking Machines Lab, “Defeating Nondeterminism in LLM Inference” (2025): explains why batch composition changes float results and builds batch-invariant kernels.: giải thích vì sao thành phần batch làm đổi kết quả số thực và xây kernel batch-invariant.
- Ong et al., “TOPLOC: A Locality Sensitive Hashing Scheme for Trustless Verifiable Inference” (2025): verifies inference with hashes that tolerate small numerical differences. Idemcore takes the other route: make the bits identical, then compare exact hashes.: kiểm chứng suy luận bằng hash chấp nhận sai khác số học nhỏ. Idemcore đi hướng khác: làm cho các bit giống hệt, rồi so hash chính xác.
Measured Oct 2026 · results as of 2026-10-30Đo tháng 10/2026 · số liệu tính đến 30/10/2026
PlansCác gói
Start free on the public preview today. Paid plans open soon, and we will publish their prices here when they do.Bắt đầu miễn phí với bản thử nghiệm công khai ngay hôm nay. Các gói trả phí sắp mở, và chúng tôi sẽ công bố giá tại đây khi mở.
Public previewThử nghiệm công khai
- Full chat API with a signed receipt on every answerĐầy đủ API chat, mỗi câu trả lời kèm biên nhận có chữ ký
- Console: API keys, usage, receipts, members, audit exportConsole: khóa API, mức dùng, biên nhận, thành viên, xuất log kiểm toán
- Preview limits on output length and request rateGiới hạn thử nghiệm về độ dài đầu ra và tần suất yêu cầu
- Shared capacity, no uptime SLAHạ tầng dùng chung, chưa có cam kết SLA
Pay as you go & TeamTrả theo mức dùng & Team
- $2 of trial credit for new accountsTặng $2 tín dụng dùng thử cho tài khoản mới
- Pay per token with prepaid creditTrả theo token bằng tín dụng nạp trước
- Team plan with higher limits and longer receipt storageGói Team với giới hạn cao hơn và lưu biên nhận lâu hơn
- Spending limits you set in the consoleHạn mức chi tiêu do bạn đặt trong console
On-premises & industryCài tại chỗ & theo ngành
- Your servers, private cloud or devicesMáy chủ, cloud riêng hoặc thiết bị của bạn
- Simulation, games, banking and financeMô phỏng, game, ngân hàng và tài chính
- Fixed-scope pilot with pass criteria agreed up frontThí điểm phạm vi cố định, tiêu chí đạt thống nhất từ đầu
- Updates and support includedĐã gồm cập nhật và hỗ trợ
Verifying a receipt is always free. Prices in US dollars, excluding taxes. Pilots run in four steps: scope (week 1), integrate (weeks 2–6), measure (weeks 6–10), then decide.Xác minh biên nhận luôn miễn phí. Giá tính bằng đô la Mỹ, chưa gồm thuế. Thí điểm gồm bốn bước: xác định phạm vi (tuần 1), tích hợp (tuần 2–6), đo (tuần 6–10), rồi quyết định.
Questions we getCâu hỏi thường gặp
What is bit-exact, and why do I need it?Bit-exact là gì, và tại sao tôi cần nó?
The same model and input give identical output bits on every supported device: every logit and the sampling distribution match, not just the final text. That makes results auditable, replays exact, and disputes settled by comparing hashes.Cùng một model và đầu vào cho ra kết quả giống hệt từng bit trên mọi thiết bị được hỗ trợ: mọi logit và phân phối lấy mẫu đều khớp, không chỉ văn bản cuối. Nhờ vậy kết quả kiểm toán được, phát lại chính xác, và tranh chấp được giải quyết bằng cách so hash.
Is quality worse than the original model?Chất lượng có kém hơn model gốc không?
Barely, on our 512-position WikiText-2 slice, against the bf16 reference. Qwen2.5-7B 4-bit (g): perplexity +0.60%, top-1 agreement 95.5% (llama.cpp Q4_K_M: +3.92%, 91.0%). 8-bit: −0.11%, top-1 98.0%. gpt-oss-20b: +1.37% against HF MXFP4; gpt-oss-120b: +6.23%, which we are working on.Rất ít, trên đoạn WikiText-2 dài 512 vị trí, so với bản tham chiếu bf16. Qwen2.5-7B 4 bit (g): perplexity +0,60%, trùng top-1 95,5% (llama.cpp Q4_K_M: +3,92%, 91,0%). 8 bit: −0,11%, top-1 98,0%. gpt-oss-20b: +1,37% so với HF MXFP4; gpt-oss-120b: +6,23%, đang được cải thiện.
Which models are supported?Hỗ trợ những model nào?
Qwen2.5-0.5B, Qwen2.5-7B (8-bit and 4-bit), gpt-oss-20b and gpt-oss-120b. Other models on request, as part of a pilot.Qwen2.5-0.5B, Qwen2.5-7B (8 bit và 4 bit), gpt-oss-20b và gpt-oss-120b. Model khác theo yêu cầu, trong chương trình thí điểm.
Which hardware does it run on?Chạy trên phần cứng nào?
x86-64 CPUs; ARM CPUs: an Android phone (Galaxy Z Fold5, Snapdragon 8 Gen 2) and a Windows 11 ARM64 laptop (Snapdragon X Plus); five NVIDIA GPU models across four generations: T4, A10, A10G, L40S and H100. AMD and Apple GPUs are not supported yet.CPU x86-64; CPU ARM: điện thoại Android (Galaxy Z Fold5, Snapdragon 8 Gen 2) và laptop Windows 11 ARM64 (Snapdragon X Plus); năm mẫu GPU NVIDIA thuộc bốn thế hệ: T4, A10, A10G, L40S và H100. GPU AMD và Apple chưa được hỗ trợ.
Is it faster than 4-bit engines?Có nhanh hơn các engine 4 bit không?
About the same. On an A10, 4-bit Idemcore with hashing on decoded 92.98 tok/s, against 90.30 for llama.cpp Q4_K_M and 87.99 for vLLM AWQ (separate sessions, batch 1). Cloud GPU clocks vary, so we read this as parity, not a win. Batched on an A10G, we are on par with vLLM AWQ at 8 streams, and vLLM is faster from 16 streams on.Ngang nhau. Trên A10, Idemcore 4 bit bật hash đạt 92,98 token/giây, so với 90,30 của llama.cpp Q4_K_M và 87,99 của vLLM AWQ (khác phiên, batch 1). Xung nhịp GPU đám mây dao động, nên chúng tôi coi đây là ngang bằng, không phải thắng. Khi chạy batch trên A10G, chúng tôi ngang vLLM AWQ ở 8 luồng, còn từ 16 luồng trở lên vLLM nhanh hơn.
Does it support batched serving?Có phục vụ theo batch không?
Yes, on NVIDIA GPUs. 4-bit Qwen2.5-7B on an A10G served up to 64 streams at once, and every stream stayed bit-identical to a single-stream x86 run: 641 tok/s total at 8 streams, 1372 tok/s at 32. vLLM is faster at 16 or more streams. On an H100 80GB, the same model reached 1676 tok/s at 8 streams and 3545 tok/s at 64, all bit-exact; vLLM AWQ was faster at 32 streams (4396–5329 vs 2872 tok/s). The comparison is indicative: our GPU step times vs vLLM's client-side timings, one vLLM version, batch-invariant mode not enabled.Có, trên GPU NVIDIA. Qwen2.5-7B 4 bit trên A10G phục vụ tới 64 luồng cùng lúc, và mọi luồng vẫn khớp từng bit với lần chạy một luồng trên x86: tổng 641 token/giây ở 8 luồng, 1372 token/giây ở 32 luồng. Từ 16 luồng trở lên vLLM nhanh hơn. Trên H100 80GB, cùng model đạt 1676 token/giây ở 8 luồng và 3545 token/giây ở 64 luồng, tất cả khớp từng bit; vLLM AWQ nhanh hơn ở 32 luồng (4396–5329 so với 2872 token/giây). So sánh chỉ mang tính tham khảo: thời gian bước GPU của chúng tôi so với số đo phía client của vLLM, một phiên bản vLLM, không bật chế độ batch-invariant.
Does it run on a phone?Có chạy trên điện thoại không?
Yes. 4-bit Qwen2.5-7B on a Galaxy Z Fold5 matched the x86 CPU on all 128 positions at 3.39 tok/s, about 2.49 J/token (battery-gauge estimate, not a power meter).Có. Qwen2.5-7B 4 bit trên Galaxy Z Fold5 khớp CPU x86 ở cả 128 vị trí, tốc độ 3,39 token/giây, khoảng 2,49 J/token (ước tính từ cảm biến pin, không phải máy đo công suất).
What happens to my data on the cloud API?Dữ liệu của tôi trên cloud API được xử lý thế nào?
By default the API keeps only hashes of each request and answer, never the prompt or answer text; storing full text is an opt-in setting. If your data must not leave your environment at all, use an on-premises license, where inference runs on your own hardware.Mặc định API chỉ lưu giá trị hash của mỗi yêu cầu và câu trả lời, không lưu nội dung prompt hay câu trả lời; lưu toàn văn là tùy chọn bạn phải tự bật. Nếu dữ liệu tuyệt đối không được rời hạ tầng của bạn, hãy dùng giấy phép cài tại chỗ, khi đó suy luận chạy trên phần cứng của bạn.
Is it open source?Có phải mã nguồn mở không?
The verifier and the log format are open source (Apache-2.0). The inference engine is closed and licensed.Công cụ kiểm chứng và định dạng log là mã nguồn mở (Apache-2.0). Engine suy luận là mã đóng và được cấp phép.
Do I have to trust Idemcore?Tôi có phải tin Idemcore không?
No. The verifier is open; anyone can re-run a result on their own hardware and compare hashes.Không. Công cụ kiểm chứng là mã mở; ai cũng có thể chạy lại kết quả trên phần cứng của mình và so hash.
Does it replace an anti-cheat?Có thay thế anti-cheat không?
No. It proves a simulation was not altered and makes replays exact. It does not detect wallhacks or aimbots, which do not change game state.Không. Nó chứng minh mô phỏng không bị sửa và giúp phát lại chính xác. Nó không phát hiện wallhack hay aimbot, vốn không thay đổi trạng thái game.
Why are four products marked coming soon?Vì sao bốn sản phẩm ghi “sắp ra mắt”?
Each one opens only after its own measurements are done, so every claim on this page is backed by a number.Mỗi sản phẩm chỉ mở khi đã đo xong phần của nó, để mọi khẳng định trên trang này đều có số liệu đi kèm.
Can I buy online?Có mua trực tuyến được không?
The cloud API is free during the public preview: sign up in the console, no card needed. Paid plans, with $2 of trial credit for new accounts, open soon. On-premises and industry licenses start with a pilot and a written agreement. See Plans.Cloud API miễn phí trong giai đoạn thử nghiệm công khai: đăng ký trong console, không cần thẻ. Các gói trả phí, tặng $2 tín dụng dùng thử cho tài khoản mới, sắp mở. Giấy phép cài tại chỗ và theo ngành bắt đầu bằng thí điểm và thỏa thuận bằng văn bản. Xem Các gói.
Is the API ready for production?API đã sẵn sàng cho môi trường production chưa?
It is a public preview: the API, receipts and console work today, with preview limits on output length and request rate and no uptime SLA yet. Paid plans with higher limits are opening soon.Đây là bản thử nghiệm công khai: API, biên nhận và console đã chạy, với giới hạn thử nghiệm về độ dài đầu ra và tần suất yêu cầu, chưa có cam kết SLA. Các gói trả phí với giới hạn cao hơn sắp mở.
Ask your AI about IdemcoreHỏi AI của bạn về Idemcore
Copy this prompt into any assistant. It points to our plain-text summary at Sao chép prompt này vào trợ lý AI bất kỳ. Prompt dẫn tới bản tóm tắt dạng văn bản của chúng tôi tại /agents.md.
I am evaluating Idemcore (https://idemcore.net). Read https://idemcore.net/agents.md and the results section of https://idemcore.net. Explain in plain terms what "bit-exact across devices" means, which models and hardware were measured and when, where Idemcore is slower than vLLM, and what the open verifier does and does not prove. Quote numbers only from those pages and say when something is not stated there.
Tôi đang tìm hiểu Idemcore (https://idemcore.net). Hãy đọc https://idemcore.net/agents.md và phần kết quả trên https://idemcore.net. Giải thích dễ hiểu "khớp từng bit giữa các thiết bị" nghĩa là gì, những model và phần cứng nào đã được đo và đo khi nào, Idemcore chậm hơn vLLM ở đâu, và công cụ kiểm chứng mở chứng minh được gì, không chứng minh được gì. Chỉ trích số liệu từ các trang đó và nói rõ khi thông tin không có ở đó.Run Idemcore on your own hardwareChạy Idemcore trên phần cứng của bạn
For the cloud API, just sign up in the console. For an on-premises license or an industry pilot, leave your work email and we will reply personally.Với cloud API, bạn chỉ cần đăng ký trong console. Với giấy phép cài tại chỗ hoặc thí điểm theo ngành, hãy để lại email công việc, chúng tôi sẽ trả lời trực tiếp.