对象存储接入(MinIO/COS)
日志(Loki)和链路(Tempo)默认存储在本地卷中。数据量较大或需要跨节点共享时,可配置对象存储。
适用范围:
- 单机部署:只有日志(Loki)需要考虑对象存储。单机不具备链路追踪能力、不产生链路数据,
ops-tempo无需也不建议配置对象存储。 - 集群部署:日志和链路都可以用对象存储,且必须用两个不同的桶。
一、准备 MinIO
已有 MinIO 或云对象存储时,可跳至创建桶。以下命令用于部署 MinIO 示例:
docker run -d --name minio \
-p 9000:9000 -p 9001:9001 \
-e MINIO_ROOT_USER=minioadmin \
-e MINIO_ROOT_PASSWORD='<强随机密码>' \
-v /data/minio:/data \
--restart always \
minio/minio server /data --console-address ":9001"
9000是 S3 API 端口(运维平台连接),9001是 Web 控制台。- 生产环境请将
MINIO_ROOT_PASSWORD替换为强随机密码,并仅在内网暴露 9000 端口。
浏览器打开 http://MinIO主机IP:9001,用上面的账号密码登录。
二、创建桶
Loki 和 Tempo 必须用不同的桶,共用会互相覆盖元数据。
在控制台选择「Buckets → Create Bucket」,或通过以下命令创建:
docker run --rm --network host --entrypoint sh minio/mc -c "
mc alias set local http://<MinIO主机IP>:9000 minioadmin '<密码>' &&
mc mb local/mdis-loki &&
mc mb local/mdis-tempo &&
mc ls local"
桶名可自定义,本文使用 mdis-loki 和 mdis-tempo。
三、创建访问密钥(AK/SK)
建议使用专用账号。在控制台选择「Access Keys → Create access key」,保存生成的 Access Key 和 Secret Key。Secret Key 只显示一次。
也可使用命令行创建专用用户并授予 readwrite 策略。该策略的权限范围需按对象存储服务的配置确认:
docker run --rm --network host --entrypoint sh minio/mc -c "
mc alias set local http://<MinIO主机IP>:9000 minioadmin '<密码>' &&
mc admin user add local mdis '<SK,8位以上>' &&
mc admin policy attach local readwrite --user mdis"
四、填写配置
单机(ops.yaml)
为 ops-loki 服务添加以下环境变量:
ops-loki:
environment:
ENV_S3_ENDPOINT: 192.168.1.10:9000 # MinIO 的 S3 API 地址,建议填写 host:port
ENV_S3_BUCKET_LOKI: mdis-loki # 需提前在 MinIO 中创建该桶
ENV_S3_ACCESS_KEY: mdis
ENV_S3_SECRET_KEY: '<SK>'
ENV_S3_FORCE_PATH_STYLE: 'true'
修改后执行 docker compose -f ops.yaml up -d ops-loki,重建容器。
Kubernetes:hostPath 方案
在部署配置文件 ops.yaml 的 ops-config ConfigMap 中添加对象存储连接信息和两个桶名:
data:
ENV_S3_ENDPOINT: "minio.default.svc.cluster.local:9000"
ENV_S3_ACCESS_KEY: "mdis"
ENV_S3_SECRET_KEY: "<SK>"
ENV_S3_FORCE_PATH_STYLE: "true"
ENV_S3_BUCKET_LOKI: "mdis-loki"
ENV_S3_BUCKET_TEMPO: "mdis-tempo"
两个桶需提前创建,且名称不能相同。配置后应用部署配置文件;如果服务已经运行,还需重启 ops-loki 和 ops-tempo,使环境变量生效。请限制 ConfigMap 的读取权限。
Kubernetes:PVC 方案(10-secret.yaml)
stringData:
ENV_S3_ENDPOINT: "minio.default.svc.cluster.local:9000"
ENV_S3_ACCESS_KEY: "mdis"
ENV_S3_SECRET_KEY: "<SK>"
ENV_S3_FORCE_PATH_STYLE: "true"
30-stateful.yaml 里给 ops-loki 配 ENV_S3_BUCKET_LOKI、给 ops-tempo 配
ENV_S3_BUCKET_TEMPO,两个桶必须不同。
不要把桶名写进共用的 Secret,也不要用旧的通用变量 ENV_S3_BUCKET——它会同时传给两个
组件,Loki 先写入占了目录结构后,Tempo 初始化就会失败、进入 CrashLoopBackOff。
(ENV_S3_BUCKET 仅为兼容存量部署保留。)
两个桶都要在部署前先建好。桶不存在时 Loki 报 NoSuchBucket 会反复重启。
五、连接地址填写方式(重点检查项)
ENV_S3_ENDPOINT 填的是 MinIO 的 S3 API 地址,不是控制台地址,形如 192.168.1.10:9000
或 http://192.168.1.10:9000——带不带 http:// 都可以:Tempo 用的 minio-go 只接受
host:port,运维平台会在启动 Tempo 时自动剥掉 scheme;Loki 侧固定按 HTTP 连接(配置里写死
insecure: true)。也正因如此,暂不支持只提供 HTTPS 的对象存储。
| 部署关系 | endpoint |
|---|---|
| MinIO 与运维平台在同一个 compose 网络 | 容器名,如 minio:9000 |
| MinIO 在另一套 compose 或部署在宿主机上 | 宿主机 IP + 宿主机映射端口,如 192.168.1.10:9011 |
| MinIO 在同一个 Kubernetes 集群 | Service DNS,如 minio.default.svc.cluster.local:9000 |
| 云对象存储 | 厂商给的 endpoint 域名 |
不在同一个 compose 网络里,容器名是无法解析的,ops-loki 会无法启动并报:
dial tcp: lookup minio: no such host
此时必须用宿主机 IP。宿主机映射端口不一定是 9000——以 docker ps 实际显示的为准
(例如映射成了 9011:9000,那就填 9011)。
路径风格
| 对象存储 | ENV_S3_FORCE_PATH_STYLE |
|---|---|
| MinIO | true |
| 腾讯云 COS | false(只支持 virtual-hosted 风格,设置为 true 会导致连接失败) |
| UCloud US3 | true |
六、验证
配置生效后检查 Loki 日志。Docker Compose 部署可执行:
docker logs <loki 容器> 2>&1 | grep -iE "error|fail" | head
Kubernetes 部署可执行:
kubectl -n hap-ops logs -l app=ops-loki --tail=100
触发日志写入后,检查存储桶中是否出现对象:
docker run --rm --network host --entrypoint sh minio/mc -c "
mc alias set local http://<MinIO主机IP>:9000 mdis '<SK>' &&
mc ls -r local/mdis-loki | head"
桶里出现 fake/ 或 index/ 开头的对象即为成功。配置后可能需要等待数分钟——Loki 批量写入后才上传。
七、常见报错
| 日志里的报错 | 原因 |
|---|---|
dial tcp: lookup xxx: no such host | endpoint 用了容器网络里无法解析的名字,见第五步 |
connection refused | 端口配置错误,请以 docker ps 显示的映射为准 |
SignatureDoesNotMatch | AK/SK 错误 |
AccessDenied | AK/SK 正确但没有该存储桶的权限,检查用户策略 |
NoSuchBucket | 存储桶未创建或名称错误 |
Loki 切换后端不会迁移既有数据,旧日志仍在原来的本地卷里。切换后需要重新产生日志才能在新后端看到内容, 这不表示配置失败。