from opencompass.models import OpenAI

models = [
    dict(
        # —— OpenAI API 基本参数 ——
        type=OpenAI,
        path="mymodel",                                   # 你的模型名称
        openai_api_base="http://ai.szaiai.com:30000/v1/chat/completions",
        key="token-abc123",                               # 若服务端跳过鉴权，可随意填

        # —— 通用推理参数（按需调整） ——
        abbr="mymodel",                                   # 缩写，用于日志/文件名
        max_seq_len=8192,                                 # 上下文窗口
        max_out_len=1024,                                 # 最长输出
        batch_size=1,                                     # API 一次推理 1 条
        run_cfg=dict(num_gpus=0),                         # 评测 API 模型不占 GPU

        # 如需精确 token 统计，指定自定义 tokenizer：
        # tokenizer_path="your/hf/tokenizer/dir",
    )
]
