Архив категории ‘LLM’

Обзавелся на тесты A100 SXM4 80 GB

Мой маленький LLM заводик (правда уже рабочий, а не домашний) обзавелся на тесты A100 SXM4 80 GB.

Теперь в память влезают почти все модели, которые мне нужны. GPU много не бывает!
(далее…)