Your simulation ran fine last year. Rerun it today and the AI makes different choices.Mô phỏng năm ngoái chạy ổn. Chạy lại hôm nay, AI lại đưa ra lựa chọn khác.
When a language model sits inside a simulation, a backtest or an evaluation, its outputs can change with the GPU model, the driver, the batch size or a library update. Then the run you signed off, audited or filed as evidence can no longer be reproduced. Idemcore makes those AI steps bit-identical on every supported device, logs a hash for every step, and lets anyone check a replay with an open verifier.Khi một mô hình ngôn ngữ nằm trong mô phỏng, backtest hay bài đánh giá, kết quả của nó có thể đổi theo mẫu GPU, driver, kích thước batch hay một lần cập nhật thư viện. Khi đó lần chạy bạn đã duyệt, đã kiểm toán hay đã nộp làm bằng chứng không còn tái lập được. Idemcore làm các bước AI đó giống hệt từng bit trên mọi thiết bị được hỗ trợ, ghi hash cho từng bước, và cho phép bất kỳ ai kiểm tra một lần chạy lại bằng công cụ kiểm chứng mở.
Same model, same inputs, different answerCùng model, cùng đầu vào, khác câu trả lời
Most AI inference uses floating-point math. Floating-point addition is not exactly associative: adding the same numbers in a different order can give a slightly different result. A different GPU model, driver, batch size or library version can change that order. Usually the difference is tiny, but a language model picks its next step from those numbers, so one tiny difference can flip one choice, and every later step in the simulation follows the new path.Phần lớn suy luận AI dùng phép tính số thực. Phép cộng số thực không hoàn toàn có tính kết hợp: cộng cùng các số theo thứ tự khác có thể cho kết quả hơi khác. Đổi mẫu GPU, driver, kích thước batch hay phiên bản thư viện đều có thể đổi thứ tự đó. Thường sai khác rất nhỏ, nhưng mô hình ngôn ngữ chọn bước tiếp theo dựa trên chính những con số này, nên một sai khác nhỏ có thể làm đổi một lựa chọn, và mọi bước sau đó trong mô phỏng đi theo hướng mới.
Illustration. It is not a recording of a specific run.Hình minh họa, không phải bản ghi của một lần chạy cụ thể.
It is not hypothetical: what we measured in control runsKhông phải giả định: những gì chúng tôi đo được trong thí nghiệm đối chứng
These counts describe specific runs, not general divergence rates. Full method: Các con số mô tả những lần chạy cụ thể, không phải tỉ lệ lệch chung. Phương pháp đầy đủ: control experimentthí nghiệm đối chứng.
Six signs your team already has this problemSáu dấu hiệu đội của bạn đang gặp vấn đề này
The pain, by teamNỗi đau, theo từng đội
“The planner did something odd at minute 47. We cannot make it happen again.”“Bộ lập kế hoạch làm điều lạ ở phút 47. Chúng tôi không thể làm nó xảy ra lần nữa.”
Scenario libraries, closed-loop tests and safety cases rely on replaying a run exactly. When a language-model step changes between the sim farm and a workstation, the edge case disappears.Thư viện kịch bản, kiểm thử vòng kín và hồ sơ an toàn dựa vào việc phát lại chính xác một lần chạy. Khi bước dùng mô hình ngôn ngữ thay đổi giữa cụm máy mô phỏng và máy trạm, tình huống biên biến mất.
With Idemcore:Với Idemcore: the language-model step replays bit-for-bit on the farm and on the workstation, and the log shows the first step that differs.bước dùng mô hình ngôn ngữ phát lại khớp từng bit trên cụm máy và máy trạm, và log chỉ ra bước đầu tiên khác nhau.
“Two runs of the same exercise disagree. Which one goes in the after-action report?”“Hai lần chạy cùng một bài diễn tập cho kết quả khác nhau. Bản nào đưa vào báo cáo sau diễn tập?”
AI-driven adversaries and advisors must behave the same in planning, in review and when an outside party re-runs the exercise, often on different machines and years apart.Đối thủ và trợ lý do AI điều khiển phải hành xử giống nhau khi lập kế hoạch, khi rà soát và khi bên ngoài chạy lại bài diễn tập, thường trên máy khác và cách nhau nhiều năm.
With Idemcore:Với Idemcore: each exercise leaves a hash log that a reviewer can replay on their own hardware, including offline.mỗi bài diễn tập để lại log hash mà người rà soát có thể chạy lại trên phần cứng của họ, kể cả khi không có mạng.
“The backtest we approved last quarter gives a different P&L today.”“Backtest đã duyệt quý trước hôm nay cho lãi lỗ khác.”
When a language model reads filings or news inside a backtest or a risk model, model-risk teams and auditors expect the same inputs to give the same outputs when they re-run it.Khi mô hình ngôn ngữ đọc báo cáo hay tin tức trong backtest hoặc mô hình rủi ro, đội quản trị rủi ro mô hình và kiểm toán kỳ vọng cùng đầu vào cho ra cùng kết quả khi họ chạy lại.
With Idemcore:Với Idemcore: the language-model part of the backtest is reproducible bit-for-bit, so a re-run is evidence, not an approximation.phần mô hình ngôn ngữ trong backtest tái lập được từng bit, nên lần chạy lại là bằng chứng chứ không phải ước lượng.
“Reviewers could not reproduce our agent-based results.”“Người phản biện không tái lập được kết quả mô phỏng tác tử của chúng tôi.”
Agent-based models and digital twins that use language-model agents inherit their run-to-run drift, and that weakens publication and validation.Mô hình tác tử và bản sao số dùng tác tử mô hình ngôn ngữ thừa hưởng độ trôi giữa các lần chạy của chúng, và điều đó làm yếu việc công bố và xác nhận.
With Idemcore:Với Idemcore: publish the logs with the paper; anyone can recompute them with the open verifier.công bố log kèm bài báo; ai cũng có thể tính lại bằng công cụ kiểm chứng mở.
“Is the score different because the model changed, or because the GPU did?”“Điểm khác đi là do model đổi, hay do GPU đổi?”
Benchmark and red-team results move between runs and machines, so small real changes are lost in the noise and findings are hard to confirm independently.Kết quả benchmark và red team thay đổi giữa các lần chạy và các máy, nên thay đổi thật nhỏ bị lẫn trong nhiễu và rất khó xác nhận độc lập.
With Idemcore:Với Idemcore: an evaluation run is exact, so any difference you see is a real difference, and a third party can confirm it.một lần đánh giá là chính xác, nên mọi khác biệt bạn thấy là khác biệt thật, và bên thứ ba có thể xác nhận.
“Show us exactly what the system decided, and prove it.”“Hãy cho chúng tôi thấy chính xác hệ thống đã quyết định gì, và chứng minh điều đó.”
Insurance, healthcare, public-sector and critical-infrastructure teams increasingly need to show what an AI system did and re-run it on request, long after the original hardware is gone.Các đội trong bảo hiểm, y tế, khu vực công và hạ tầng trọng yếu ngày càng phải chứng minh hệ thống AI đã làm gì và chạy lại khi được yêu cầu, rất lâu sau khi phần cứng gốc không còn.
With Idemcore:Với Idemcore: keep the log as a record; a replay on any supported device either matches it or points to the first difference.giữ log làm hồ sơ; lần chạy lại trên bất kỳ thiết bị hỗ trợ nào hoặc khớp, hoặc chỉ ra chỗ khác đầu tiên.
What changes for your teamĐiều gì thay đổi với đội của bạn
| Today, with float inferenceHiện nay, với suy luận số thực | With IdemcoreVới Idemcore | |
|---|---|---|
| Replaying a runPhát lại một lần chạy | Close to the original, if you are luckyGần giống bản gốc, nếu may mắn | Identical to the original, bit for bitGiống hệt bản gốc, từng bit |
| Changing hardwareĐổi phần cứng | Re-baseline and re-approveLập lại mốc và duyệt lại | Same bits on every supported deviceCùng từng bit trên mọi thiết bị được hỗ trợ |
| Batch size and loadKích thước batch và tải | Output can depend on what else is in the batchKết quả có thể phụ thuộc vào những gì khác trong batch | Every stream matched a single-stream run at B = 1–64Mọi luồng khớp lần chạy một luồng ở B = 1–64 |
| Regression testsKiểm thử hồi quy | Tolerances and flaky failuresPhải nới sai số, lỗi chập chờn | Exact hash comparisonSo hash chính xác |
| Finding a differenceTìm chỗ khác biệt | Diff whole outputs by handSo thủ công toàn bộ kết quả | The verifier names the first divergent stepCông cụ kiểm chứng chỉ ra bước lệch đầu tiên |
| Proving it to othersChứng minh với bên khác | “Trust our logs”“Hãy tin log của chúng tôi” | They re-run it with the open verifierHọ tự chạy lại bằng công cụ kiểm chứng mở |
Run, log, replay, verifyChạy, ghi log, chạy lại, kiểm chứng
Run the AI steps on IdemcoreChạy các bước AI trên Idemcore
Your simulator stays as it is. The language-model calls inside it run on the Idemcore kernel, on your own CPUs or NVIDIA GPUs.Trình mô phỏng của bạn giữ nguyên. Các lời gọi mô hình ngôn ngữ bên trong chạy trên kernel Idemcore, trên CPU hoặc GPU NVIDIA của chính bạn.
Every step writes a hashMỗi bước ghi một hash
Each step logs a 64-bit hash of the model output and of the sampling distribution. The log carries a chained digest, so editing any line breaks it.Mỗi bước ghi hash 64 bit của kết quả model và của phân phối lấy mẫu. Log có digest nối chuỗi, sửa bất kỳ dòng nào là digest đổi.
Replay anywhere, any timeChạy lại ở đâu, lúc nào cũng được
Archive the model, the inputs, the seed and the log. Months or years later, re-run on any supported device.Lưu trữ model, đầu vào, seed và log. Nhiều tháng hay nhiều năm sau, chạy lại trên bất kỳ thiết bị được hỗ trợ nào.
Anyone can verifyAi cũng kiểm chứng được
The open verifier (Apache-2.0) recomputes both logs and prints MATCH, or the first position where they diverge.Công cụ kiểm chứng mở (Apache-2.0) tính lại cả hai log và in MATCH, hoặc vị trí đầu tiên chúng lệch nhau.
What a match tells youMột lần khớp cho bạn biết gì
- The two runs produced the same model outputs and the same sampling distribution at every logged step, not just the same final text.Hai lần chạy cho cùng kết quả model và cùng phân phối lấy mẫu ở mọi bước được ghi, không chỉ cùng văn bản cuối.
- Seeded random choices are the same, because the integer sampling distribution is identical on every device.Các lựa chọn ngẫu nhiên có seed là như nhau, vì phân phối lấy mẫu số nguyên giống hệt trên mọi thiết bị.
- The log has not been edited since it was written, because its chained digest recomputes.Log chưa bị sửa kể từ khi ghi, vì digest nối chuỗi của nó tính lại đúng.
What it does not tell youĐiều nó không cho bạn biết
- It does not make the rest of your simulator deterministic. Physics, scheduling and other code must be deterministic or recorded on your side; we scope this in the pilot.Nó không làm phần còn lại của trình mô phỏng trở nên tất định. Vật lý, lập lịch và mã khác phải tất định hoặc được ghi lại ở phía bạn; điều này được xác định trong thí điểm.
- The 64-bit hash (FNV-1a) detects accidental differences but is not collision-resistant, and a match shows two runs agree, not which program produced them.Hash 64 bit (FNV-1a) phát hiện khác biệt ngẫu nhiên nhưng không chống va chạm, và một lần khớp cho thấy hai lần chạy khớp nhau, không chứng minh chương trình nào tạo ra chúng.
- It does not judge whether the AI decision was a good one, only that it is the same one.Nó không đánh giá quyết định của AI là tốt hay xấu, chỉ xác nhận đó là cùng một quyết định.
Where replays are bit-identical todayHiện nay phát lại khớp từng bit ở đâu
Models measured: Qwen2.5-0.5B, Qwen2.5-7B (8-bit and 4-bit), gpt-oss-20b and gpt-oss-120b. Full tables and method: Các model đã đo: Qwen2.5-0.5B, Qwen2.5-7B (8 bit và 4 bit), gpt-oss-20b và gpt-oss-120b. Bảng đầy đủ và phương pháp: resultskết quả · verify it yourselftự kiểm chứng.
Prove it on one of your own scenariosChứng minh trên chính kịch bản của bạn
A fixed-scope pilot on your hardware, with pass criteria agreed before we start. The timeline below is typical and is set in the written agreement.Một đợt thí điểm phạm vi cố định trên phần cứng của bạn, với tiêu chí đạt thống nhất trước khi bắt đầu. Lịch dưới đây là điển hình và được chốt trong thỏa thuận bằng văn bản.
ScopeXác định phạm vi
Pick one scenario, one model and two or more of your devices. Agree what “pass” means.Chọn một kịch bản, một model và từ hai thiết bị của bạn trở lên. Thống nhất thế nào là “đạt”.
IntegrateTích hợp
Route the scenario’s language-model calls through Idemcore and turn on step logging.Chuyển các lời gọi mô hình ngôn ngữ của kịch bản qua Idemcore và bật ghi log từng bước.
MeasureĐo
Run on your devices, replay across them, compare logs with the open verifier, and measure speed on your workload.Chạy trên các thiết bị của bạn, phát lại chéo, so log bằng công cụ kiểm chứng mở, và đo tốc độ trên tác vụ của bạn.
DecideQuyết định
Review the results against the pass criteria and decide whether to license.Xem kết quả theo tiêu chí đạt và quyết định có cấp phép hay không.
What you getBạn nhận được gì
- A licensed pilot build of the Idemcore kernel for your devices and chosen modelBản thí điểm có cấp phép của kernel Idemcore cho thiết bị và model bạn chọn
- Per-step hash logs from your own scenario, on each deviceLog hash theo từng bước từ kịch bản của chính bạn, trên từng thiết bị
- Cross-device replay results checked with the open verifierKết quả phát lại chéo thiết bị, kiểm bằng công cụ kiểm chứng mở
- A written report: pass criteria, results, speed on your workload, known limitsBáo cáo bằng văn bản: tiêu chí đạt, kết quả, tốc độ trên tác vụ của bạn, các giới hạn đã biết
What we need from youChúng tôi cần gì từ bạn
- One scenario where reproducibility matters, and the model it uses (or a supported one)Một kịch bản mà tính tái lập là quan trọng, và model nó dùng (hoặc một model đã hỗ trợ)
- Access to two or more devices: x86 or ARM CPUs, or supported NVIDIA GPUsQuyền dùng từ hai thiết bị trở lên: CPU x86 hoặc ARM, hoặc GPU NVIDIA được hỗ trợ
- An engineer who knows where the model is called in your simulatorMột kỹ sư biết model được gọi ở đâu trong trình mô phỏng của bạn
- Your data stays on your hardware throughoutDữ liệu của bạn luôn nằm trên phần cứng của bạn
Plans for simulation and audit teamsCác gói cho đội mô phỏng và kiểm toán
Every license starts with a pilot and a written agreement; these are our list ranges and the final price is set there. Prices in US dollars, excluding taxes.Mọi giấy phép đều bắt đầu bằng thí điểm và thỏa thuận bằng văn bản; đây là khoảng giá niêm yết, giá cuối được chốt trong thỏa thuận. Giá tính bằng đô la Mỹ, chưa gồm thuế.
PilotThí điểm
- $20K–60K, fixed scope$20K–60K, phạm vi cố định
- One scenario, one model, two or more of your devicesMột kịch bản, một model, từ hai thiết bị của bạn trở lên
- Pass criteria agreed up frontTiêu chí đạt thống nhất từ đầu
Annual licenseGiấy phép năm
- $100K–400K per year$100K–400K mỗi năm
- Replay AI steps bit-exact, years later, on any supported machinePhát lại các bước AI khớp từng bit, nhiều năm sau, trên mọi máy được hỗ trợ
- For simulation farms, backtest platforms and audit pipelinesCho cụm mô phỏng, nền tảng backtest và quy trình kiểm toán
Per seatTheo seat
- $5K–15K per seat per year$5K–15K mỗi seat mỗi năm
- For smaller research, evaluation and audit teamsCho đội nghiên cứu, đánh giá và kiểm toán nhỏ hơn
- The open verifier stays free for your auditors and partnersCông cụ kiểm chứng mở vẫn miễn phí cho kiểm toán viên và đối tác của bạn
A seat is one named user of a licensed build. Pilots: scope (week 1), integrate (weeks 2–6), measure (weeks 6–10), then decide. Terms are explained in the Một seat là một người dùng có tên của bản được cấp phép. Thí điểm: xác định phạm vi (tuần 1), tích hợp (tuần 2–6), đo (tuần 6–10), rồi quyết định. Các thuật ngữ được giải thích trong glossarybảng thuật ngữ.
Questions simulation teams askCâu hỏi các đội mô phỏng thường hỏi
Do I need special hardware?Tôi có cần phần cứng đặc biệt không?
No. It runs on x86-64 CPUs, ARM CPUs (measured on a Galaxy Z Fold5 phone and a Snapdragon X Plus Windows 11 ARM64 laptop) and five NVIDIA GPU models: T4, A10, A10G, L40S and H100. AMD and Apple GPUs are not supported yet.Không. Nó chạy trên CPU x86-64, CPU ARM (đã đo trên điện thoại Galaxy Z Fold5 và laptop Windows 11 ARM64 Snapdragon X Plus) và năm mẫu GPU NVIDIA: T4, A10, A10G, L40S và H100. GPU AMD và Apple chưa được hỗ trợ.
Is it slower?Có chậm hơn không?
Honestly, it depends on batch size. At one stream it is on par with common 4-bit engines in our runs, and on an H100 it was about 20% faster than vLLM AWQ. At 8 streams the two are on par. At large batch sizes the fastest non-deterministic servers are faster: on an H100 at 32 streams, vLLM was about 1.5–1.9× faster. For replay and audit work, an exact result is usually worth that trade. See the full tables in Nói thẳng là tùy kích thước batch. Ở một luồng, nó ngang các engine 4 bit phổ biến trong các lần chạy của chúng tôi, và trên H100 nhanh hơn vLLM AWQ khoảng 20%. Ở 8 luồng hai bên ngang nhau. Ở batch lớn, các server nhanh nhất không tất định nhanh hơn: trên H100 ở 32 luồng, vLLM nhanh hơn khoảng 1,5–1,9×. Với công việc phát lại và kiểm toán, một kết quả chính xác thường đáng với sự đánh đổi đó. Xem bảng đầy đủ ở resultskết quả.
Which models are supported?Hỗ trợ những model nào?
Qwen2.5-0.5B, Qwen2.5-7B (8-bit and 4-bit), gpt-oss-20b and gpt-oss-120b today. Other models are scoped as part of a pilot.Hiện nay: Qwen2.5-0.5B, Qwen2.5-7B (8 bit và 4 bit), gpt-oss-20b và gpt-oss-120b. Model khác được xác định trong thí điểm.
Is the quality the same as the original model?Chất lượng có như model gốc không?
Close. On our 512-position WikiText-2 slice, Qwen2.5-7B 8-bit is within −0.11% perplexity of the reference and 4-bit (g) within +0.60%. gpt-oss-120b is at +6.23%, which we are working on.Rất gần. Trên đoạn WikiText-2 dài 512 vị trí, Qwen2.5-7B 8 bit chênh −0,11% perplexity so với tham chiếu và 4 bit (g) chênh +0,60%. gpt-oss-120b chênh +6,23%, đang được cải thiện.
Can it run on-premises or air-gapped?Có chạy tại chỗ hoặc trong mạng cách ly được không?
Inference runs on your own hardware; prompts and outputs stay on your machines and are not sent to us. The verifier is a small Python tool using only the standard library, so it also runs offline. Air-gapped deployment details are agreed in the pilot.Suy luận chạy trên phần cứng của bạn; prompt và kết quả nằm trên máy của bạn và không gửi về chúng tôi. Công cụ kiểm chứng là một công cụ Python nhỏ chỉ dùng thư viện chuẩn, nên cũng chạy được không cần mạng. Chi tiết triển khai trong mạng cách ly được thống nhất trong thí điểm.
Can we replay a run years from now?Nhiều năm sau có phát lại được không?
That is the point. Keep the model weights, the licensed build, the inputs, the seed and the log. A later replay on any supported device either matches the log hash for hash or shows the first step that differs. The log format and the verifier are open (Apache-2.0), so checking an archived log never depends on us.Đó chính là mục đích. Hãy lưu trọng số model, bản build được cấp phép, đầu vào, seed và log. Lần phát lại sau này trên bất kỳ thiết bị được hỗ trợ nào hoặc khớp log từng hash, hoặc chỉ ra bước đầu tiên khác nhau. Định dạng log và công cụ kiểm chứng là mã mở (Apache-2.0), nên việc kiểm một log lưu trữ không bao giờ phụ thuộc vào chúng tôi.
Does it make my whole simulator deterministic?Nó có làm toàn bộ trình mô phỏng của tôi trở nên tất định không?
No. It covers the language-model steps. The rest of your simulator must be deterministic or recorded, which many simulation stacks already are. In the pilot we map which parts are covered.Không. Nó bao phủ các bước dùng mô hình ngôn ngữ. Phần còn lại của trình mô phỏng phải tất định hoặc được ghi lại, điều mà nhiều hệ mô phỏng đã làm. Trong thí điểm, chúng tôi xác định rõ phần nào được bao phủ.
Do I have to trust Idemcore?Tôi có phải tin Idemcore không?
No. The kernel is licensed and closed, but the verifier is open source. Your auditors or partners can recompute every log on their own hardware without us.Không. Kernel được cấp phép và là mã đóng, nhưng công cụ kiểm chứng là mã nguồn mở. Kiểm toán viên hay đối tác của bạn có thể tự tính lại mọi log trên phần cứng của họ mà không cần chúng tôi.
Can I buy online?Có mua trực tuyến được không?
No. Every license starts with a pilot and a written agreement.Không. Mọi giấy phép đều bắt đầu bằng thí điểm và thỏa thuận bằng văn bản.
Bring the run you could never reproduceHãy mang tới lần chạy bạn chưa bao giờ tái lập được
Tell us about one scenario where a replay, an audit or a regression test broke because the AI changed its answer. We will reply personally about a pilot.Hãy kể cho chúng tôi về một kịch bản mà phát lại, kiểm toán hay kiểm thử hồi quy bị hỏng vì AI đổi câu trả lời. Chúng tôi sẽ trả lời trực tiếp về chương trình thí điểm.