GitHub Community
DeepGEMM — это высокопроизводительная библиотека, ускоряющая матричные вычисления для больших языковых моделей с использованием GPU NVIDIA.
Она объединяет ключевые вычислительные инструменты — включая операции с матрицами FP8 и FP4, системы экспертов (MoE) и оценку внимания — в одну эффективную кодовую базу CUDA.
Github Community Если у вас установлено приложение,
вы можете сразу перейти в канал