跳到内容

混合专家(MoE)

一种架构,将每个词元路由到少数专家子网络,在不成比例增加成本的情况下提升容量。

相关资源