offline-inference
离线可用的本地类型化决策:4 核 CPU 单题 15.6ms。Local & offline Jev / System One inference on CPU — ONNX + INT8, no torch at runtime. 支持 laya / kev / PlayJev
把本地 System-1 决策模型(Laya)包成 HTTP 服务:意图分类 / 工单分派 / LLM 路由 / 内容审核,离线零 token、不生成文字;Apple Silicon(MLX) 与 Linux(torch) 双后端;可导出 OpenAPI 3.0/3.1;Java/TS/Python 零依赖 SDK。