AngelSlim

腾讯混元开源的模型压缩工具包，集成量化、投机解码、稀疏注意力与蒸馏等方法，用于降低大模型部署成本。