Обзавелся на тесты A100 SXM4 80 GB

Мой маленький LLM заводик (правда уже рабочий, а не домашний) обзавелся на тесты A100 SXM4 80 GB.

Теперь в память влезают почти все модели, которые мне нужны. GPU много не бывает!

В общем решил прогнать промт через все доступные мне модельки:

Напиши программу на golang которая будет складывать 2 числа введенные с клавиатуры пользователем.
Код нужно обложить тестированием и проверить корректное выполнение.
Нужно сделать dockerfile для сборки проекта.
Также .gitlab-ci.yml для сборки в облаке gitlab, тег воркера для сборки megatron.
Добавь makefile для стадии теста и следом сборки в докере

Результаты тестов (в порядке интереса).

Есть «положительный» результат:
— RooCode-qwen3-coder-128k-30b
— RooCode-deepseek-v3.2 (free cloud, китай, дают на тест 100USD!)
— RooCode-qwen3-coder-30b

Результат возможен после доработок:
— RooCode-gemma312b
— RooCode-qwen2.514b
— RooCode-qwen2.5-coder-14b

Модель не заработала в RooCode:
— RooCode-deepseek-coder-v2-16b
— RooCode-glm4
— RooCode-gpt-oss-20b

Мне сложно судить о качестве кода, на языке, которым я не владею, особенно с учетом того, что некоторые «релизы» в итоге даже запускались, но в целом отдать на ассистента рутину в виде написания тестов, описания к коммитам, написание документации, особенно если грамотно атомарно делить задачи и не выходить за длинну контекста — вполне себе решение, которое может сэкономить вам время.

Вы можете оставить комментарий ниже.

Оставить комментарий

Вы должны Войти, чтобы оставить комментарий.