大模型推理平台ModeIRT

ModeIRT是一款功能强大的大模型推理平台，可将大模型训练平台上训练好的模型以及纳管的第三方模型发布服务，用户通过调用API接口，实现模型的落地应用。