云原生技术架构,为AIGC业务保驾护航

课程 ID: 17463

描述:
案例背景: AIGC类业务通常对硬件资源有性能要求高、需求量大、弹性诉求强等特点,其依赖的高性能GPU等算力资源更是稀缺且昂贵; 如何在性能、质量、效能、成本等多重压力下,高效高质地做好GPU算力等资源的供给和保障,将是企业在落地和发展AIGC类业务时所必须面临和解决的问题。 解决思路: 1,借助多云架构,融合公有云的资源储备优势,利用云原生技术实现资源的快速交付、弹性供给和灵活调度是一种可行的解法; 2,建设一套完善的元数据(含业务、资源、运行时等)管理体系,并以此推进精细化地运营管控,将可以更好地为AIGC类业务提质、降本、增效。 成果: 1,纳管了多云异构资源,实现了AIGC业务的多云调度,很好地支撑了公司的“All in AIGC”的战略; 2,总结归纳了一套可迁移的技术方案和流程体系,并实现了配套的工具集,可以实现快速的资源接入和业务调度,以应对中长期的业务发展。