Same bits.
Every device.Cùng từng bit.
Trên mọi thiết bị.

From API key to verified answer in three stepsTừ khóa API tới câu trả lời đã xác minh trong ba bước

curl https://api.idemcore.net/v1/chat/completions \
  -H "Authorization: Bearer $IDEMCORE_API_KEY" \
  -H "Content-Type: application/json" \
  -d'{
    "model": "MODEL_ID",
    "messages": [
      {
        "role": "user",
        "content": "Name the three primary colours."
      }
    ],
    "max_tokens": 64
  }'

from idemcore import Idemcore   # pip install idemcore

client = Idemcore()  # reads IDEMCORE_API_KEY
r = client.chat(
    "Name the three primary colours.",
    model="MODEL_ID",
    max_tokens=64,
)
print(r.text)        # Red, yellow and blue.
print(r.receipt_id)  # rcpt_3550cebf53dbc66a554977e8

# check signature, hash chain, prompt and answer locally
check = client.verify_local(r)
print(check.ok)      # True

// npm install @idemcore/sdk   (ES modules, Node 18+)
import { Idemcore } from "@idemcore/sdk";

const client = new Idemcore(); // reads IDEMCORE_API_KEY
const r = await client.chat(
  "Name the three primary colours.",
  { model: "MODEL_ID", maxTokens: 64 },
);
console.log(r.text);      // Red, yellow and blue.
console.log(r.receiptId); // rcpt_3550cebf53dbc66a554977e8

// check signature, hash chain, prompt and answer locally
const check = await client.verifyLocal(r);
console.log(check.ok);    // true

{
  "id": "chatcmpl-3550cebf53dbc66a554977e8",
  "object": "chat.completion",
  "model": "MODEL_ID",
  "choices": [{
    "index": 0,
    "message": {
      "role": "assistant",
      "content": "Red, yellow and blue."
    },
    "finish_reason": "stop"
  }],
  "usage": { "total_tokens": 54, … },
  "idemcore": {
    "receipt": {Signed receiptBiên nhận có chữ ký      "receipt_version": "r1",      "receipt_id": "rcpt_3550cebf53dbc66a554977e8",      "model_id": "MODEL_ID",      "prompt_hash": "3dff8f72…",      "output_token_hash": "2b0654b1…",      "chain_digest": "3b1d1d9e…",      "key_id": "ed25519:…",      "signature": "…"    },    "disclosure": { "salt": "q3J…", … }
  }
}

pip install idemcore

npm install @idemcore/sdk

pip install idemcore-verify

Four ways to use IdemcoreBốn cách dùng Idemcore

The engine is closed and licensed; the verifier is open, so anyone can check a result without trusting us.Engine là mã đóng và được cấp phép; công cụ kiểm chứng là mã mở, nên ai cũng kiểm được kết quả mà không cần tin chúng tôi.

Reproducible agentsAgent tái lập được

New · Python & JavaScript SDKMới · SDK Python & JavaScript

Record, replay and verify whole agent sessionsGhi, phát lại và kiểm chứng cả phiên agent

Record every model call and tool call as one tamper-evident trace, verify it offline, and replay it against the live model: every answer must match bit for bit. Built for audit, debugging and compliance.Ghi mọi lần gọi model và gọi công cụ thành một trace chống sửa đổi, kiểm chứng ngoại tuyến, và phát lại trên model đang chạy: mọi câu trả lời phải khớp đến từng bit. Dành cho kiểm toán, gỡ lỗi và tuân thủ.

• Signed receipt on every model stepBiên nhận có chữ ký cho mỗi bước model
• Edits, deletions and reordering are detectedPhát hiện sửa, xóa và đổi thứ tự
• Tools are not run again on replayCông cụ không bị chạy lại khi phát lại

Reproducible agents →Agent tái lập được →

Large models on multiple GPUsModel lớn trên nhiều GPU

Research: keeping output bit-identical when a large model is split across several GPUs. Not available yet.Nghiên cứu: giữ kết quả giống từng bit khi một model lớn được chia ra nhiều GPU. Chưa ra mắt.

Coming soon · researchSắp ra mắt · nghiên cứu

SolutionsGiải pháp theo ngành

PilotThí điểm

Simulation & ReplayMô phỏng & phát lại

AI steps inside simulations replay identically, years later, on any machine. For autonomy simulation, AI audit and research labs.Các bước AI trong mô phỏng phát lại y hệt, nhiều năm sau, trên bất kỳ máy nào. Dành cho mô phỏng tự hành, kiểm toán AI và phòng nghiên cứu.

Simulation page →Trang mô phỏng →

PilotThí điểm

Game & Esports IntegrityGame & Esports

Deterministic game AI with a per-tick hash, server spot-check replay and evidence logs for match disputes.AI game tất định với hash theo từng tick, phát lại kiểm tra trên server và log làm bằng chứng khi tranh chấp trận đấu.

Games page →Trang game →

PilotThí điểm

Banking & FinanceNgân hàng & tài chính

A signed receipt for every answer an AI assistant gives a customer, so a disputed answer can be checked and replayed months later.Biên nhận có chữ ký cho mỗi câu trả lời mà trợ lý AI đưa ra cho khách hàng, để câu trả lời bị khiếu nại có thể được kiểm và phát lại sau nhiều tháng.

Banking page →Trang ngân hàng →

Early access and coming soonTruy cập sớm và sắp ra mắt

Verifiable Compute NetworksMạng tính toán kiểm chứng được

Results that independent nodes can cross-check by comparing hashes. Pilots are open now.Kết quả để các node độc lập đối chiếu bằng cách so hash. Đã nhận thí điểm.

Available as pilotCó thể thí điểmRequest a pilot →Đăng ký thí điểm →

Mobile / On-device SDKSDK di động / trên thiết bị

Deterministic inference packaged for apps on phones and edge devices.Suy luận tất định đóng gói cho ứng dụng trên điện thoại và thiết bị biên.

Early accessTruy cập sớmJoin the waitlist →Đăng ký chờ →

Robotics, Autonomy & AeroRobot, tự hành & hàng không

Replayable AI decisions for testing and incident review.Quyết định AI phát lại được cho kiểm thử và điều tra sự cố.

Coming soonSắp ra mắt

Chip Health & EnergySức khỏe chip & năng lượng

Exploring reproducible runs as a reference for hardware checks.Nghiên cứu dùng lần chạy tái lập làm mốc tham chiếu khi kiểm tra phần cứng.

Coming soonSắp ra mắt

Verified resultsKết quả đã kiểm chứng

Every pair below was decoded on both devices and compared hash by hash. All matched, e.g. Qwen2.5-7B 8-bit: 512/512 positions identical between an x86 CPU and an NVIDIA A10.Mỗi cặp dưới đây được chạy trên cả hai thiết bị và so từng hash. Tất cả đều khớp, ví dụ Qwen2.5-7B 8 bit: 512/512 vị trí giống hệt giữa CPU x86 và NVIDIA A10.

gpt-oss-120b: spot check of 128 of 512 positions against the x86 CPU. 7B 8-bit on the phone: 64-position prefix.gpt-oss-120b: kiểm tra 128 trên 512 vị trí so với CPU x86. 7B 8 bit trên điện thoại: 64 vị trí đầu.

Measured 2026-10-30Đo ngày 30/10/2026

Speed, single stream (Qwen2.5-7B-Instruct)Tốc độ, một luồng (Qwen2.5-7B-Instruct)

Batch 1 decode on rented cloud GPUs. On the A10, Idemcore ran in a separate session from the baselines. A10 and A10G are different cloud SKUs, so compare within each GPU. Cloud GPU clocks vary between sessions. Single-stream vLLM rows from an earlier vLLM version were removed until they are re-measured on current versions. MoE: gpt-oss-20b at 72.1–72.2 tok/s on an L40S, gpt-oss-120b at 37.1–37.3 tok/s on an H100.Giải mã batch 1 trên GPU thuê. Trên A10, Idemcore chạy ở phiên khác với các engine so sánh. A10 và A10G là hai loại máy khác nhau, chỉ so trong cùng một GPU. Xung nhịp GPU đám mây thay đổi giữa các phiên. Các dòng vLLM một luồng đo trên phiên bản vLLM cũ đã được gỡ cho tới khi đo lại trên phiên bản hiện tại. MoE: gpt-oss-20b đạt 72,1–72,2 token/giây trên L40S, gpt-oss-120b đạt 37,1–37,3 token/giây trên H100.

Measured 2026-10-30Đo ngày 30/10/2026

Batched serving, every stream bit-exact (Qwen2.5-7B 4-bit, A10G)Phục vụ theo batch, mọi luồng khớp từng bit (Qwen2.5-7B 4 bit, A10G)

Improved batched GPU serving. At every batch size from 1 to 64, every stream matched a single-stream x86 CPU run hash for hash, including shuffled slot order and streams joining late. p99 step time stays within 1% of p50 (within about 4% when streams join late). These are GPU decode step times, not end-to-end serving numbers; for an end-to-end comparison with other engines, see the H100 benchmark below.Phục vụ batch trên GPU đã cải tiến. Ở mọi kích thước batch từ 1 đến 64, mọi luồng đều khớp từng hash với lần chạy một luồng trên CPU x86, kể cả khi xáo thứ tự slot và khi luồng vào sau. p99 thời gian mỗi bước cao hơn p50 dưới 1% (khoảng 4% khi luồng vào sau). Đây là thời gian bước giải mã trên GPU, không phải số đo phục vụ đầu cuối; để so đầu cuối với các engine khác, xem bảng đo trên H100 bên dưới.

Measured 2026-10-30Đo ngày 30/10/2026

Throughput benchmark: H100, Qwen2.5-7B, prefill includedBảng đo thông lượng: H100, Qwen2.5-7B, có tính bước đọc câu hỏi

Plainly: throughput engines such as vLLM and SGLang are currently faster, about 1.6–2.9× Idemcore’s aggregate tokens per second at 32 to 256 concurrent requests. Idemcore gives the same output regardless of batch size, and every answer carries a receipt anyone can verify. We update these numbers as optimizations ship.Nói thẳng: các engine tối ưu thông lượng như vLLM và SGLang hiện nhanh hơn, khoảng 1,6–2,9 lần tổng token mỗi giây của Idemcore ở 32 đến 256 yêu cầu đồng thời. Idemcore cho cùng một kết quả bất kể cỡ lô, và mỗi câu trả lời có biên nhận mà ai cũng kiểm chứng được. Chúng tôi cập nhật các số này mỗi khi có bản tối ưu mới.

Method: one NVIDIA H100 80GB, the same client-side load generator for every engine over the OpenAI-compatible streaming API. Byte-identical prompts (a deterministic scenario: the kit generates the same prompts every time, about 200 context words each), exactly 256 greedy output tokens per request, N requests started together; 1 warm-up and 5 recorded rounds, median shown. Aggregate tok/s is all output tokens divided by the time from the first request sent to the last token received, so prefill is included. Versions: vLLM 0.32.0 and SGLang 0.5.23 official containers with Qwen2.5-7B-Instruct-AWQ, prefix caching off, otherwise default settings; Idemcore with its own 4-bit Qwen2.5-7B build. The kit regenerates the same prompts on any machine, so the run is reproducible.Phương pháp: một GPU NVIDIA H100 80GB, cùng một bộ tạo tải phía client cho mọi engine qua API streaming tương thích OpenAI. Câu hỏi giống hệt từng byte (kịch bản tất định: bộ đo luôn sinh ra đúng các câu hỏi này, mỗi câu khoảng 200 từ ngữ cảnh), mỗi yêu cầu sinh đúng 256 token greedy, N yêu cầu gửi cùng lúc; 1 lượt khởi động và 5 lượt ghi nhận, lấy trung vị. Tổng token/giây là toàn bộ token đầu ra chia cho thời gian từ lúc gửi yêu cầu đầu tiên đến khi nhận token cuối cùng, nên đã tính cả bước đọc câu hỏi. Phiên bản: container chính thức vLLM 0.32.0 và SGLang 0.5.23 với Qwen2.5-7B-Instruct-AWQ, tắt prefix caching, còn lại để mặc định; Idemcore dùng bản Qwen2.5-7B 4 bit của mình. Bộ đo sinh lại đúng các câu hỏi này trên mọi máy, nên lượt đo tái lập được.

* REE v0.8.0 (official gensynai/ree:v0.8.0 container, Qwen2.5-7B-Instruct in bf16, reproducible operation set) runs requests one after another, without batching, so N requests are completed in sequence. Its outputs were also bit-identical in every validated run. REE does not offer an OpenAI-compatible server, so it ran through its own command-line tool with the same prompts, 256 greedy output tokens and GPU type; 6 rounds, median shown. At 256, rounds varied between containers (21–41 tok/s).* REE v0.8.0 (container chính thức gensynai/ree:v0.8.0, Qwen2.5-7B-Instruct dạng bf16, bộ phép tính tái lập) xử lý các yêu cầu lần lượt, không gộp lô, nên N yêu cầu được hoàn tất theo thứ tự. Kết quả của REE cũng giống hệt từng bit ở mọi lượt chạy được kiểm chứng. REE không có máy chủ tương thích OpenAI, nên được chạy bằng công cụ dòng lệnh của chính REE với cùng bộ câu hỏi, 256 token greedy đầu ra và cùng loại GPU; 6 lượt, lấy trung vị. Ở mức 256, tốc độ giữa các container dao động (21–41 token/giây).

Last measured: 2026-11-01Lần đo gần nhất: 01/11/2026

Quality (perplexity vs the reference model)Chất lượng (perplexity so với model tham chiếu)

512-position WikiText-2 slice; gaps under about 1% should not be over-read. 7B reference: the bf16 checkpoint computed in fp32. The gpt-oss-120b gap is the main quality item we are working on.Đoạn WikiText-2 dài 512 vị trí; chênh dưới khoảng 1% không nên diễn giải quá mức. Tham chiếu 7B: checkpoint bf16 tính bằng fp32. Chênh lệch của gpt-oss-120b là hạng mục chất lượng chính chúng tôi đang cải thiện.

Measured 2026-10-30Đo ngày 30/10/2026

Verify it yourselfTự kiểm chứng

One command recomputes every published hash from the raw logs and re-checks every device pair. Python 3.9 or newer, standard library only, about 4 seconds on a laptop.Một lệnh tính lại mọi hash đã công bố từ log gốc và kiểm lại mọi cặp thiết bị. Python 3.9 trở lên, chỉ dùng thư viện chuẩn, khoảng 4 giây trên laptop.

GitHub Source, sample logs and the checker are public on GitHub (Apache-2.0).Mã nguồn, log mẫu và công cụ kiểm tra đã công khai trên GitHub (Apache-2.0).

git clone https://github.com/idemcore/idemcore-verifier && cd idemcore-verifier && python3 -m idemcore_verify samples

[1/2] recompute published hashes (HASHES.tsv)
[2/2] re-check reference/candidate pairs (PAIRS.tsv)
checked 65 logs (448904 token rows) and 58 pairs
PASS: every published hash recomputes and every pair is bit-identical

python3 -m idemcore_verify compare samples/gpt-oss-20b/x86_64.log samples/gpt-oss-20b/nvidia_l40s.log

OK   samples/gpt-oss-20b/x86_64.log: 512 tokens, ALL 8ec348aaf3b4109c (recomputed 8ec348aaf3b4109c)
OK   samples/gpt-oss-20b/nvidia_l40s.log: 512 tokens, ALL 8ec348aaf3b4109c (recomputed 8ec348aaf3b4109c)
MATCH: 512/512 positions identical (mode exact; only-in-ref 0, only-in-cand 0)

MATCH means that at every position both logs carry the same per-step hashes, as documented in the open log format, and that each log’s hash chain recomputes. Here an x86-64 CPU and an NVIDIA L40S give ALL 8ec348aaf3b4109c for gpt-oss-20b. On the 128-position Qwen2.5-7B 4-bit workload the output hash is 8d694e5c633851cc on the x86 CPU, the Galaxy Z Fold5 and every GPU batch size we ran. If anything differs, the verifier prints FAIL and the first position that diverges.MATCH nghĩa là ở mọi vị trí, hai log có cùng các hash theo bước như mô tả trong định dạng log mở, và chuỗi hash của mỗi log tính lại đúng. Ở đây CPU x86-64 và NVIDIA L40S cùng cho ALL 8ec348aaf3b4109c với gpt-oss-20b. Với tác vụ Qwen2.5-7B 4 bit dài 128 vị trí, hash đầu ra là 8d694e5c633851cc trên CPU x86, Galaxy Z Fold5 và mọi kích thước batch GPU chúng tôi đã chạy. Nếu có gì khác, công cụ in FAIL và vị trí đầu tiên bị lệch.

What a match does not prove: the per-step log hashes are short checksums built to catch accidental differences, not deliberate collisions (signed API receipts add SHA-256 digests and an Ed25519 signature), and a match shows two runs agree, not which program produced them.Điều một lần khớp không chứng minh: hash theo bước trong log là checksum ngắn để phát hiện khác biệt ngẫu nhiên, không chống va chạm cố ý (biên nhận API có thêm digest SHA-256 và chữ ký Ed25519), và một lần khớp cho thấy hai lần chạy giống nhau, chứ không cho biết chương trình nào tạo ra chúng.

Sample logs and output as of verifier v0.2.0, 2026-10-30Log mẫu và kết quả theo công cụ kiểm chứng v0.2.0, ngày 30/10/2026

Same prompts, solo vs batchedCùng câu hỏi, chạy riêng và chạy theo lô

With floating-point arithmetic, the order of additions can change with batch composition, GPU model or library build, so a prompt can get a different answer alone than inside a batch. This is well documented (see related work below). We ran the same check on Idemcore: each prompt alone, then inside batches, compared with its own solo run.Với phép tính số thực, thứ tự cộng có thể đổi theo thành phần lô, mẫu GPU hay bản build thư viện, nên một câu hỏi có thể nhận câu trả lời khác khi chạy riêng và khi chạy trong lô. Hiện tượng này đã được mô tả kỹ (xem công trình liên quan bên dưới). Chúng tôi chạy cùng phép kiểm tra trên Idemcore: mỗi câu hỏi chạy riêng, rồi chạy trong lô, và so với lần chạy riêng của chính nó.

H100: same load generator and prompts as the throughput benchmark; the first 16 prompts were re-sent one at a time and their greedy text compared with the batched output, at every batch size. A10G and A10: every per-step hash of every stream, at B = 1 to 64, with shuffled slots and staggered joins, compared with a single-stream x86 CPU log.H100: cùng bộ tạo tải và câu hỏi với bảng đo thông lượng; gửi lại 16 câu hỏi đầu tiên, mỗi lần một câu, rồi so văn bản greedy với kết quả khi chạy theo lô, ở mọi cỡ lô. A10G và A10: mọi hash theo bước của mọi luồng, ở B = 1 đến 64, có xáo slot và luồng vào lệch giờ, so với log một luồng trên CPU x86.

These counts describe these specific runs. Other approaches to the same problem exist, for example batch-invariant computation within one GPU family; see the related work.Các con số này mô tả đúng những lần chạy này. Có những cách tiếp cận khác cho cùng vấn đề, ví dụ tính toán bất biến theo lô trong một dòng GPU; xem công trình liên quan.

Related workCông trình liên quan

• Thinking Machines Lab, Thinking Machines Lab, “Defeating Nondeterminism in LLM Inference” (2025): explains why batch composition changes float results and builds batch-invariant kernels.: giải thích vì sao thành phần batch làm đổi kết quả số thực và xây kernel batch-invariant.
• Ong et al., “TOPLOC: A Locality Sensitive Hashing Scheme for Trustless Verifiable Inference” (2025): verifies inference with hashes that tolerate small numerical differences. Idemcore takes the other route: make the bits identical, then compare exact hashes.: kiểm chứng suy luận bằng hash chấp nhận sai khác số học nhỏ. Idemcore đi hướng khác: làm cho các bit giống hệt, rồi so hash chính xác.

Measured 2026-10-30Đo ngày 30/10/2026

PlansCác gói

Start with a free trial: $2 of credit, no card needed. Cloud prices are fixed and published; license prices are list ranges, finalised in a written agreement.Bắt đầu với gói dùng thử miễn phí: $2 tín dụng, không cần thẻ. Giá đám mây cố định và công khai; giá giấy phép là khoảng giá niêm yết, chốt trong thỏa thuận bằng văn bản.

Verifying a receipt is always free. Prices in US dollars, excluding taxes. Every license starts with a fixed-scope pilot of about 10 weeks; the pilot fee is credited to the first year if you sign within 60 days. Full list: Xác minh biên nhận luôn miễn phí. Giá tính bằng đô la Mỹ, chưa gồm thuế. Mọi giấy phép bắt đầu bằng thí điểm phạm vi cố định khoảng 10 tuần; phí thí điểm được trừ vào năm đầu nếu ký trong 60 ngày. Bảng giá đầy đủ: PricingBảng giá.

Questions we getCâu hỏi thường gặp

I am evaluating Idemcore (https://idemcore.net). Read https://idemcore.net/agents.md and the results section of https://idemcore.net. Explain in plain terms what "bit-exact across devices" means, which models and hardware were measured and when, where Idemcore is slower than vLLM, and what the open verifier does and does not prove. Quote numbers only from those pages and say when something is not stated there.

Tôi đang tìm hiểu Idemcore (https://idemcore.net). Hãy đọc https://idemcore.net/agents.md và phần kết quả trên https://idemcore.net. Giải thích dễ hiểu "khớp từng bit giữa các thiết bị" nghĩa là gì, những model và phần cứng nào đã được đo và đo khi nào, Idemcore chậm hơn vLLM ở đâu, và công cụ kiểm chứng mở chứng minh được gì, không chứng minh được gì. Chỉ trích số liệu từ các trang đó và nói rõ khi thông tin không có ở đó.