本文探讨了在Triton Inference Server中实现模型的加解密。作者提出了一种简单的加解密方案,通过在ONNX模型文件开头添加字节进行加密,解密时去除该字节。尽管没有找到完整示例,作者自行编译了相关工具,并成功实现了模型的加解密流程。但在加载完成后无法删除解密模型,需等待更新解决。
完成下面两步后,将自动完成登录并继续当前操作。