Set up Idemcore for banks and financial institutionsCài đặt Idemcore cho ngân hàng và tổ chức tài chính
Idemcore gives each model answer a signed receipt, so an answer used in a decision or a customer conversation can be checked and replayed later for audit, model risk review or a complaint. On-premises, the engine runs inside your infrastructure and prompts never leave it.Idemcore cấp cho mỗi câu trả lời của model một receipt có chữ ký, để câu trả lời dùng trong quyết định hay hội thoại với khách hàng có thể được kiểm và phát lại về sau, cho kiểm toán, rà soát rủi ro model hoặc xử lý khiếu nại. Khi triển khai tại chỗ, engine chạy trong hạ tầng của bạn và prompt không rời khỏi đó.
- OverviewTổng quan
- Choose a deploymentChọn cách triển khai
- RequirementsYêu cầu
- Determinism rulesQuy tắc tất định
- IntegrateTích hợp
- Receipts and verificationReceipt và kiểm chứng
- Security and dataBảo mật và dữ liệu
- Pilot stepsCác bước thí điểm
- Pricing and next stepsGiá và bước tiếp theo
1. OverviewTổng quan
Idemcore gives each model answer a signed receipt, so an answer used in a decision or a customer conversation can be checked and replayed later for audit, model risk review or a complaint. On-premises, the engine runs inside your infrastructure and prompts never leave it.Idemcore cấp cho mỗi câu trả lời của model một receipt có chữ ký, để câu trả lời dùng trong quyết định hay hội thoại với khách hàng có thể được kiểm và phát lại về sau, cho kiểm toán, rà soát rủi ro model hoặc xử lý khiếu nại. Khi triển khai tại chỗ, engine chạy trong hạ tầng của bạn và prompt không rời khỏi đó.
What ships today: the cloud API, the Python and JavaScript SDKs and the open verifier. On-premises deployments run through a pilot and a license; anything else on this page is marked early access or coming soon.Những gì có ngay hôm nay: API cloud, SDK Python và JavaScript, và công cụ kiểm chứng mở. Triển khai tại chỗ đi qua thí điểm và giấy phép; mọi thứ khác trên trang này đều ghi rõ truy cập sớm hoặc sắp ra mắt.
2. Choose a deploymentChọn cách triển khai
| OptionLựa chọn | StatusTrạng thái | NotesGhi chú |
|---|---|---|
| Cloud APIAPI cloud | Available nowCó ngay | Self-serve today, hash-only by default. Good for evaluation with test data.Tự đăng ký ngay hôm nay, mặc định chỉ lưu hash. Phù hợp để đánh giá với dữ liệu thử. |
| On-premises or air-gappedTại chỗ hoặc tách mạng | Through a pilotQua thí điểm | The engine runs in your data centre or private cloud, including production, DR and UAT, and you hold the signing key. Starts with a pilot.Engine chạy trong trung tâm dữ liệu hoặc cloud riêng của bạn, gồm production, DR và UAT, và bạn giữ khóa ký. Bắt đầu bằng thí điểm. |
3. RequirementsYêu cầu
- Hardware measured so far: x86-64 CPUs; ARM CPUs on an Android phone (Galaxy Z Fold5) and a Windows 11 ARM64 laptop; NVIDIA T4, A10, A10G, L40S and H100 GPUs. AMD and Apple GPUs are not supported yet.Phần cứng đã đo: CPU x86-64; CPU ARM trên điện thoại Android (Galaxy Z Fold5) và laptop Windows 11 ARM64; GPU NVIDIA T4, A10, A10G, L40S và H100. GPU AMD và Apple chưa được hỗ trợ.
- Models today: Qwen2.5-0.5B and Qwen2.5-7B (8-bit and 4-bit), gpt-oss-20b and gpt-oss-120b.
GET /v1/modelslists what the cloud API serves. Other models are scoped in a pilot.Model hiện có: Qwen2.5-0.5B và Qwen2.5-7B (8 bit và 4 bit), gpt-oss-20b và gpt-oss-120b.GET /v1/modelsliệt kê model mà API cloud đang phục vụ. Model khác được xác định trong thí điểm. - Cloud API: HTTPS access to
api.idemcore.net, Python 3.9+ or Node 18+ for the SDKs, called from your server.API cloud: truy cập HTTPS tớiapi.idemcore.net, Python 3.9+ hoặc Node 18+ cho SDK, gọi từ server của bạn. - On-premises: operating system, memory and GPU sizing are agreed for your model during the pilot. It can run without internet access.Tại chỗ: hệ điều hành, bộ nhớ và cấu hình GPU được thống nhất theo model của bạn trong thí điểm. Có thể chạy không cần internet.
4. Determinism rulesQuy tắc tất định
- Greedy decoding: omit
temperatureor send 0, and keepnat 1.Giải mã greedy: bỏtemperaturehoặc gửi 0, và giữnbằng 1. - Pin the model id and the engine build. Every receipt records both, so you can see what produced an answer.Ghim mã model và bản engine. Mọi receipt đều ghi cả hai, nên bạn biết câu trả lời được tạo ra từ đâu.
- Send byte-identical input: the same messages, in the same order, with the same text encoding.Gửi đầu vào giống từng byte: cùng các message, cùng thứ tự, cùng cách mã hoá văn bản.
- Idemcore makes the model answer reproducible and signed; it does not make the rest of your workflow deterministic.Idemcore làm cho câu trả lời của model tái lập được và có chữ ký; nó không làm phần còn lại của quy trình trở nên tất định.
5. IntegrateTích hợp
pip install idemcore export IDEMCORE_API_KEY="ick_…" # create it in the console
- Point your OpenAI-compatible client at the Idemcore endpoint and key. The request and response format stay the same.Trỏ client tương thích OpenAI sang endpoint và key của Idemcore. Định dạng request và response giữ nguyên.
- Store the receipt with the conversation or case record.Lưu receipt cùng hội thoại hoặc hồ sơ vụ việc.
- Keep the default hash-only mode: the receipt holds no text, and only you keep the disclosure salt that proves what was said.Giữ chế độ mặc định chỉ lưu hash: receipt không chứa nội dung, và chỉ bạn giữ salt dùng để chứng minh nội dung đã trao đổi.
- Hand your audit and compliance teams the checklist: verify the signature, check the hash chain, replay a sample, export the audit log.Bàn giao checklist cho đội kiểm toán và tuân thủ: kiểm chữ ký, kiểm chuỗi hash, phát lại một phần mẫu, xuất log kiểm toán.
from openai import OpenAI # your existing OpenAI-compatible client
client = OpenAI(base_url="https://api.idemcore.net/v1",
api_key=os.environ["IDEMCORE_API_KEY"])
resp = client.chat.completions.create(
model="MODEL_ID", messages=conversation, temperature=0,
)
receipt = resp.model_extra["idemcore"]["receipt"]
case_record.attach(receipt) # store it with the conversation or caseA receipt proves what was answered, from what input and by which model, and that the record was not changed. Whether the answer was appropriate is still your judgement. We do not claim banking certifications or regulatory approvals.Receipt chứng minh câu trả lời là gì, từ đầu vào nào, bởi model nào, và hồ sơ chưa bị sửa. Câu trả lời có phù hợp hay không vẫn do bạn đánh giá. Chúng tôi không tuyên bố có chứng nhận ngành ngân hàng hay phê duyệt của cơ quan quản lý.
6. Receipts and verificationReceipt và kiểm chứng
A receipt is a small signed JSON object. It records the model, the engine build, salted hashes of the input and output and a digest of the run’s hash log. It contains no prompt or answer text, so it is safe to store or forward.Receipt là một đối tượng JSON nhỏ có chữ ký. Nó ghi model, bản engine, hash có salt của đầu vào và đầu ra, cùng digest của log hash của lần chạy. Nó không chứa prompt hay nội dung câu trả lời, nên có thể lưu hoặc chuyển tiếp an toàn.
- Check it with the SDK (
verify_local), the open verifier, orPOST /v1/receipts/verify. Public signing keys:GET /v1/keys.Kiểm bằng SDK (verify_local), công cụ kiểm chứng mở, hoặcPOST /v1/receipts/verify. Khóa công khai:GET /v1/keys. - On-premises deployments sign receipts with a key you generate and hold.Triển khai tại chỗ ký receipt bằng khóa do bạn tạo và giữ.
pip install idemcore-verify idemcore-verify check answer.log idemcore-verify compare answer.log your_rerun.log
Receipt format and verification levels →Định dạng receipt và các mức kiểm chứng →
7. Security and dataBảo mật và dữ liệu
- Cloud API: hash-only by default. We store the receipt, the hash log and audit events, never the prompt or answer text; storing full text is an opt-in setting.API cloud: mặc định chỉ lưu hash. Chúng tôi lưu receipt, log hash và sự kiện kiểm toán, không bao giờ lưu prompt hay nội dung câu trả lời; lưu toàn văn là tùy chọn bạn phải bật.
- On-premises: prompts, answers and logs stay in your infrastructure.Tại chỗ: prompt, câu trả lời và log ở lại trong hạ tầng của bạn.
- API keys are shown once and stored only as a hash. If a key leaks, create a new one and write to [email protected] to revoke the old one.API key chỉ hiện một lần và chỉ được lưu dưới dạng hash. Nếu key bị lộ, hãy tạo key mới và viết cho [email protected] để thu hồi key cũ.
- Report vulnerabilities to [email protected]. An SBOM and a data processing agreement come with the contract.Báo lỗ hổng tới [email protected]. SBOM và thỏa thuận xử lý dữ liệu được cung cấp kèm hợp đồng.
8. Pilot stepsCác bước thí điểm
How pilots work.Thí điểm diễn ra thế nào. Every license starts with a fixed-scope pilot of about 10 weeks: scope (week 1), integrate (weeks 2–6), measure against pass criteria agreed up front (weeks 6–10, including review with your auditors), then decide. Pilots run on your hardware or our shared cloud; a dedicated cloud GPU is quoted separately.Mọi giấy phép đều bắt đầu bằng thí điểm phạm vi cố định khoảng 10 tuần: xác định phạm vi (tuần 1), tích hợp (tuần 2–6), đo theo tiêu chí đạt thống nhất từ đầu (tuần 6–10, gồm rà soát với kiểm toán viên của bạn), rồi quyết định. Thí điểm chạy trên phần cứng của bạn hoặc cloud dùng chung của chúng tôi; GPU cloud riêng được báo giá riêng.
If you sign a license within 60 days of the pilot, the pilot fee is credited to the first year. Licenses run on your infrastructure; any use of the Idemcore cloud API follows the published cloud prices.Nếu ký giấy phép trong vòng 60 ngày sau thí điểm, phí thí điểm được trừ vào năm đầu tiên. Giấy phép chạy trên hạ tầng của bạn; mọi lần dùng API cloud của Idemcore tính theo giá cloud đã công bố.
Bring to the first call:Chuẩn bị cho buổi đầu tiên:
- One assistant use case and the model you want to runMột tình huống dùng trợ lý và model bạn muốn chạy
- Two or more environments, for example UAT and a second serverTừ hai môi trường trở lên, ví dụ UAT và một máy chủ thứ hai
- Pass criteria agreed with your audit or compliance teamTiêu chí đạt thống nhất với đội kiểm toán hoặc tuân thủ
- One technical contact and one audit or compliance contactMột đầu mối kỹ thuật và một đầu mối kiểm toán hoặc tuân thủ
9. Pricing and next stepsGiá và bước tiếp theo
Pilot $25K–60K: banking pilots include review sessions with your audit and compliance teams and the evidence pack they need. Annual license from $75K per institution.Thí điểm $25K–60K: thí điểm ngân hàng gồm các buổi rà soát với đội kiểm toán và tuân thủ của bạn, cùng bộ hồ sơ bằng chứng họ cần. Giấy phép năm từ $75K mỗi tổ chức. Plans →Các gói → · All prices →Toàn bộ bảng giá →
Questions: Câu hỏi: [email protected] for pilots and licensescho thí điểm và giấy phép, [email protected] for API helpcho hỗ trợ API.