Мой маленький LLM заводик (правда уже рабочий, а не домашний) обзавелся на тесты A100 SXM4 80 GB.
Теперь в память влезают почти все модели, которые мне нужны. GPU много не бывает!
(далее…)
Мой маленький LLM заводик (правда уже рабочий, а не домашний) обзавелся на тесты A100 SXM4 80 GB.
Теперь в память влезают почти все модели, которые мне нужны. GPU много не бывает!
(далее…)