实时竞价广告系统工程挑战及架构演进

课程 ID: 16068

描述:
案例背景: 实时竞价广告系统是非常典型的高并发,低时延,高可用的后台系统,涉及到的技术面非常广,包括系统,数据,算法三个方面,每一方面都很有挑战,在系统侧怎样做到高并发低时延,在数据侧需要面对大量的广告效果数据的实时数据计算,分析,在算法侧面有大量的算法工程的挑战,如大规模的特征工程写入,特征一致性的保障,向量检索性能和召回率的权衡,在线推断性能的优化等等;每一块都涉及大量的方案选型和工程实践,可以说广告/推荐系统是学习后台技术,大数据技术,算法技术非常全面和深入的案例;可以获得这三个方面技术系统性的提升; 解决思路: 经济适用的架构选型,如: 系统工程侧:基于OpenResty的流量网关+Go微服务RPC架构,快速搭建后台系统; 数据工程侧:基于Flink+Presto+ClickHouse进行流式计算,离线计算以及实时分析; 算法工程侧:基于本地KNN向量检索,在线推理模型剪枝,模型结构优化,有损推理服务等性能优化; 成果: 保障了竞价广告对于竞价请求100毫秒的时延要求,满足了对于快速数据计算和分析的要求,解决了算法工程性能,成本等各方面的技术挑战;