CloudWeGo 开源两年多以来,社区发展迅速,生态日益丰富,落地企业用户已超过 40 家,涵盖 AI、电商、金融、游戏等多个行业。同时,随着云原生技术和 AI 技术的持续蓬勃发展,我们发现企业用户也面临着越来越多性能、成本和稳定性方面的挑战,系统需要支持弹性伸缩和潮汐流量下的稳定性,因而也越发需要一套高性能、易扩展、功能丰富的微服务架构。诚挚邀请社区用户和开发者共同参与 CloudWeGo 技术沙龙。活动将于 2024 年 3 月 30 日(周六)在北京举办,邀请广大技术同仁共同探讨在云原生xAI 浪潮之下,企业如何构建云原生微服务架构,来支持产品的快速迭代与发展。
本次活动分享议题将聚焦 CloudWeGo 相关技术功能实现,以及如何借力 CloudWeGo 开源项目帮助企业构建微服务等议题,将携手 CSDN 、稀土掘金、火山引擎开发者社区、字节跳动技术团队作为合作伙伴同步进行宣传和直播。活动邀请了 CloudWeGo 社区的多位 Maintainer 和 Committer 分享 Kitex 和 Hertz 在 AI 场景的设计和实现方案,并邀请了方正证券和来自字节跳动 Flow 的工程师分享 CloudWeGo 的落地实践,诚邀更多有微服务落地的企业用户和广大开发者参与交流。
随着 AIGC/LLM 的快速发展,字节跳动内部对 Streaming 的需求更紧迫,CloudWeGo 基于 Kitex 的 gRPC/HTTP2 传输协议,扩展支持了 Thrift Streaming,并完善了原来 Kitex/gRPC 的服务治理能力、改进了可观测性和易用性,未来还计划使用 TTHeader 传输协议进一步改进性能。
SSE(Server-Sent Events)是一种服务器主动发送数据到客户端的机制,基于 HTTP 提供单向流能力。随着 AIGC/LLM 的流行,字节跳动内部和社区都对 SSE 有强烈诉求。两位同学将会分享 SSE 的原理,Hertz SSE 的设计与实现,以及演示如何利用 SSE 能力构建 AI 聊天机器人。
主题演讲:金融科技 Go 微服务建设实践
讲师:刘义,方正证券金融科技工程院高级研发工程师
大纲:
本演讲是方正证券近 1 年从 0 开始实践 Go 微服务的历程以及经验总结,包括:微服务框架选型之路,与 CloudWeGo 的第一次亲密接触;金融行业关注的可观测性建设实践;以及基于 Kitex 的服务接口管理建设实践等内容。
本次分享将会分享字节 Prompt 平台在借助 Kitex Thrift streaming 落地了流式接口的实践中的经验与遇到的问题。字节 Prompt 平台需要为上层业务提供便捷的 Prompt 开发、调优、评测及应用等全生命周期能力,其中打字机效果的流式吐出大模型结果是必须支持的。如果基于 SSE 实现还需要编写 http 服务,基于轮训方式过于丑陋,基于 gRPC 可能带来兼容问题。Kitex 应内需开发了 Thrift streaming 能力,因此我们成为第一个吃螃蟹的人,在 Prompt 平台中借助 Kitex Thrift streaming 落地了流式接口。
点击「阅读原文」访问活动页面即可报名注册,参与现场互动还有机会获得社区精美周边礼品。
了解更多 CloudWeGo 项目相关信息请访问 www.cloudwego.cn 或 github.com/cloudwego 期待您的参与!
重磅,由字节跳动服务框架团队联合 CloudWeGo 开源社区出品的 《CloudWeGo 技术白皮书: 字节跳动云原生微服务架构原理与开源实践》 现已正式对外发布!本书总结了字节跳动自 2018 年以来的微服务架构演进之路,讲述了字节微服务架构的难点、编程语言的选择和开发框架的演进,以及流量激增后的流量治理模式和服务网格全面落地。白皮书中还详细介绍了电商、AI、金融、游戏相关行业的落地案例,同时探讨了在降本增效压力下微服务的性能提升和成本优化解决方案。下载地址:CloudWeGo
https://www.cloudwego.cn/zh/
https://www.cloudwego.io/zh/
火山引擎开发者社区
https://developer.volcengine.com/resource/7308629242970832934