Мой маленький LLM заводик (правда уже рабочий, а не домашний) обзавелся на тесты A100 SXM4 80 GB.
Теперь в память влезают почти все модели, которые мне нужны. GPU много не бывает!
В общем решил прогнать промт через все доступные мне модельки:
Напиши программу на golang которая будет складывать 2 числа введенные с клавиатуры пользователем.
Код нужно обложить тестированием и проверить корректное выполнение.
Нужно сделать dockerfile для сборки проекта.
Также .gitlab-ci.yml для сборки в облаке gitlab, тег воркера для сборки megatron.
Добавь makefile для стадии теста и следом сборки в докере
Результаты тестов (в порядке интереса).
Есть «положительный» результат:
— RooCode-qwen3-coder-128k-30b
— RooCode-deepseek-v3.2 (free cloud, китай, дают на тест 100USD!)
— RooCode-qwen3-coder-30b
Результат возможен после доработок:
— RooCode-gemma312b
— RooCode-qwen2.514b
— RooCode-qwen2.5-coder-14b
Модель не заработала в RooCode:
— RooCode-deepseek-coder-v2-16b
— RooCode-glm4
— RooCode-gpt-oss-20b
Мне сложно судить о качестве кода, на языке, которым я не владею, особенно с учетом того, что некоторые «релизы» в итоге даже запускались, но в целом отдать на ассистента рутину в виде написания тестов, описания к коммитам, написание документации, особенно если грамотно атомарно делить задачи и не выходить за длинну контекста — вполне себе решение, которое может сэкономить вам время.
RSS
Твиттер
G+
Категория: 
