Qwen 3.6 выдала 109 токенов в секунду на двух видеокартах

Разработчик aigen31 опубликовал на Хабре тест 35B-модели Qwen 3.6 на материнке B450-Plus с двумя видеокартами — RTX 5080 и RTX 3060, подключёнными через PCIe Gen2 x4. Система выдала 109 токенов в секунду несмотря на узкий канал связи между слотами.

По словам автора, результат показывает, что архитектура MoE (Mixture of Experts) позволяет эффективнее использовать несколько видеокарт, чем предполагалось ранее. Это опровергает тезис о преимуществе одной мощной видеокарты перед двумя слабее соединёнными.