Сага о Orange pi 5 plus

Примерно в 20 числах февраля за 22500р (сейчас этот набор стоит 19100) я взял себе «полный фарш» на основе Orange Pi 5 Plus 16Gb.

Астрологи объявили неделю нейросетей (которая длится уже 2 год) и желание взять Orange Pi 5 Plus с NPU c 6 TOPS (INT4/INT8/INT16/FP16) стало сильно больше чем желание взять Coral USB Accelerator c 4 TOPS (int8), за примерно то же деньги (по сравнению со стоимостью самой платы Orange) с непонятным статусом доставки в Россию (если не ошибаюсь ввод запрещен).

В начале апреля я засел за данную игрушку, в расчете что поставлю все что нужно за день и успокоюсь, но я сильно ошибался 🙂

Так как нужно мне было много и сразу, пошли по разочарованиям:

1. Установка ОС: интуитивно не понятная. Я многое делал по данному видео, которое существенно ускоряет процесс понимания.
Единственное понадобился ноут на Windows 🙂 И на NVME OS у меня так и не поставилась.

Тут скачиваем iso

2. Исходники ядра: Их или нет или они не компилятся, или мне просто не везет последнее 10 лет с темой сборки ядер.

5.10: https://drive.google.com/drive/folders/1SiUkTWQ5X7U07e5GJvLirqtrVRCIxfr5 — из исходников не завелось
6.1: После недельного общения на 4pda получилось собрать и даже сделать минимануал:

git clone https://github.com/orangepi-xunlong/linux-orangepi.git -b orange-pi-6.1-rk35xx
make rockchip_linux_defconfig
make menuconfig
sed -i "s|CONFIG_LOCALVERSION_AUTO=.*|CONFIG_LOCALVERSION_AUTO=n|" .config
make -j8 LOCALVERSION= CROSS_COMPILE=aarch64-linux-gnu- ARCH=arm64
make dtbs_install
make headers_install
make modules_install

3. Proxmox:
focal и jammy:
Будет ошибка из за отсуствия нужной версии пакета, lunar сборки в iso у нас нет:

ceph-fuse : Depends: libfmt7 (>= 7.1.3+ds1) but it is not installable
libpve-rs-perl : Depends: perlapi-5.32.1 but it is not installable

т.е. придется ставить debian: нам нужна или 7 или 9 версия библиотеки:
https://packages.debian.org/search?suite=all&searchon=names&keywords=libfmt

Сам proxmox ставится: по инструкции Павла, единственное в зависимости от дистрибутива нужно поменять url repo:

echo "deb https://global.mirrors.apqa.cn/proxmox/debian/pve bullseye port" > /etc/apt/sources.list.d/pveport.list
curl https://global.mirrors.apqa.cn/proxmox/debian/pveport.gpg -o /etc/apt/trusted.gpg.d/pveport.gpg

echo "deb [arch=arm64] https://mirrors.apqa.cn/proxmox/debian/pve bookworm port" > /etc/apt/sources.list.d/pveport.list
curl https://mirrors.apqa.cn/proxmox/debian/pveport.gpg -o /etc/apt/trusted.gpg.d/pveport.gpg


и перед выполнением: «apt install ifupdown2» не забыть прописать интерфесы — иначе потеряете управление.

К сожалению пробрасывание PCI устройств закончится такой ошибкой:

WARN: no efidisk configured! Using temporary efivars disk.
TASK ERROR: Cannot open iommu_group: No such file or directory


И только UEFI.
pfsense под UEFI и тем более под arm64 — нет.

4. frigate + NPU: Запустить в docker с NPU сходу не удалось, хотя сборка без NPU прекрасно работает и отлично грузит ядра.
При этом сам NPU прекрасно мониторится.

cat /sys/kernel/debug/rknpu/load
> NPU load: Core0: 0%, Core1: 0%, Core2: 0%,


5. benchmark: Сделал несколько замеров на тех системах, на которые у меня был доступ. Решил сравнивать отстающих: по одной системе orange резвее xeon, по второй нет 🙂 По факту пробовал запускать свое ПО в 8 потоков — скорость чуть меньше, чем на xeon.


В тоже время 15Вт против 145.

Пост будет дополнятся, ввиду того, что далеко не все желаемое протестировано и опробовано….