自己起的推理服务默认没有鉴权,绑 0.0.0.0 就等于公开。

检查清单:

  1. 绑定地址:只绑 127.0.0.1,外部访问走反代
  2. 反代加 basic auth 或 token
  3. 防火墙限制来源 IP
  4. 限流,防止被打

我见过最危险的做法:为了图方便直接绑 0.0.0.0 加端口映射,结果被人扫到,跑了一堆挖矿请求。

补充:日志里记请求来源,异常流量能早发现。

如果你的模型有敏感数据,这条尤其重要。推理请求里可能带完整业务数据。

主楼