ParlzMAI/config.yaml 位于 3bca068261d6eb1e5b285a2931b74299af02ec4c - ParlzMAI - Parlz Git

JGZ_YES/ParlzMAI

文件

T

JGZYES 28535b1c74 ParlzMAI: pure-C MoE inference + ParlzAIPlatformPAP framework

- pmai unified CLI (generate/chat/interactive/http/inspect/output/config)
- GPT+MoE transformer, .pap (f32/fp16/q8) + GGUF loader (order+version adaptive)
- llama/Mixtral arch: RoPE+GQA+SwiGLU+MoE (C==torch verified)
- C llama BPE tokenizer (validated vs llama-cpp-python)
- training framework + 0.1B/0.22B MoE models; quantization fp16/q8
- build artifacts to output/; HTTP API; config.yaml; scripts; openapi

2026-09-07 07:16:58 +08:00

12 行

227 B

YAML

原始文件 Blame 文件历史

此文件含有可能会与其他字符混淆的 Unicode 字符。如果您是想特意这样的，可以安全地忽略该警告。使用 Escape 按钮显示他们。

 # pmai 示例配置 config.yaml（--config 加载，命令行参数优先）
 server:
   host: 0.0.0.0
   port: 11434
 model: models/moe-0.1b-fp16.pap   # 也支持 .gguf
 inference:
   n_tokens: 100
   temperature: 0.8
   top_k: 40