Vibe新开源项目 - Vaala AI Gateway

Vaala AI Gateway 是一个开源的分布式AI网关项目，旨在解决现有方案在跨国、跨地域部署时面临的性能与架构问题。作者指出，当前主流网关（如One-API、New-API）在集群模式下依赖底层数据库（Redis/MySQL）进行数据同步，导致跨区域调用延迟高、优化困难，且难以灵活应对不同地域供应商的地理封锁。 该项目采用主从架构，分为 Master（控制面，管理数据与同步）和 Agent（数据面，处理用户请求）两种角色。设计核心是基于PACELC理论，在网络分区容忍性（P）前提下优先保证高可用性（A）与低延迟（L），接受一定程度的数据最终一致性。数据同步采用异步复制方式，通过WebSocket长连接实现Agent从Master获取所需数据，从而支持纯本地化的请求处理，大幅降低跨域调用延迟。 在协议支持方面，网关内置中间协议层，以统一处理OpenAI Chat、Response及Claude Messages等多种API格式，便于扩展与转换。作者强调该项目完全由AI生成代码，并分享了AI辅助开发的实践经验：AI擅长快速生成样板代码和原型，但架构决策、并发状态管理等核心设计仍需人工主导。项目部署简单，提供单二进制文件，无外部依赖。