codezeze
本站致力于IT相关技术的分享
  文章分类
云原生与运维 2 DevOps 2 全栈开发 1 分布式架构 5 数据工程 2 构建与工具 1 DevSecOps 2 可观测性 1 后端架构 5 MLOps 2 平台工程 1 云原生 3 架构设计 1 可观测性工程 1 分布式系统 1
为Kubeflow特征管道构建一个集成Seaborn、Lit与API网关的实时可观测性组件 为Kubeflow特征管道构建一个集成Seaborn、Lit与API网关的实时可观测性组件
我们的线上信贷风控模型最近几个月的表现出现了无法解释的波动。模型离线评估的AUC一直很稳定，但一推到生产环境，性能就时好时坏。团队内部的初步判断是特征漂移（Feature Drift），尤其是几个关键的用户行为特征。问题在于，我们现有的监控
2023-11-20 MLOps
API Gateway MLOps Seaborn Kubeflow Lit Observability
使用 Pulumi 构建基于 gRPC 和 AWS Lambda 的 MLOps Serverless 推理架构 使用 Pulumi 构建基于 gRPC 和 AWS Lambda 的 MLOps Serverless 推理架构
在 MLOps 体系中，模型推理服务的性能是衡量整个系统价值的关键瓶颈。低延迟和高吞吐是硬性指标。常规的方案，即通过 AWS API Gateway 触发 Lambda，使用 RESTful API 和 JSON 进行数据交换，虽然简单快捷
2023-10-27 MLOps
gRPC Pulumi AWS Lambda MLOps Serverless