Frigate на Orange pi 5 с поддержкой NPU (kernel 6.10)

Как я писал ранее в Сага о Orange pi 5 plus мне сходу не удалось запустить образ Frigate на Orange pi 5 с поддержкой NPU (kernel 6.10).

А тут У Павла вышла статья по настройке Frigate на Orange pi в которой вроде все просто… но опять — не работает (у меня) 🙂

Если приглядеться на картинке, то видно время (примерно 3 часа ночи), когда перерыв все что только можно, я запустил образ с поддержкой NPU.

Возможно решение актуально только для kernel 6.10 и возможно в очередном релизе Frigate ошибка будет исправлена… а возможно это и не ошибка, но тикет на исправление я так или иначе открою.

Текущее решение чуть ниже…

Успешное решение осуждается в discussions на blakeblackshear а в частности, на нужен другой образ: вместо «image: ghcr.io/blakeblackshear/frigate:stable-rk» ставим: image: marca711/frigate:latest-rk. Остальное как по инструкции:

cat /mnt/nvme0n1/docker/frigate_/docker-compose.yml

services:

    frigate:

      container_name: frigate

#      image: ghcr.io/blakeblackshear/frigate:dev-8e41913-rk

      image: marca711/frigate:latest-rk

      privileged: true # this may not be necessary for all setups

      restart: unless-stopped

      group_add:

        - "106" # render

        - "44"  # video

        - "46"  # plugdev

      shm_size: "512mb" # update for your cameras based on calculation above

      devices:

        - /dev/dri/renderD128:/dev/dri/renderD128

        - /dev/dri/card0:/dev/dri/card0

        - /dev/rga

        - /dev/video-dec0:/dev/video-dec0

        - /dev/video-enc0:/dev/video-enc0

      volumes:

        - /dev/bus/usb:/dev/bus/usb

        - /etc/localtime:/etc/localtime:ro

        - ./config/config.yml:/config/config.yml:rw

        - ./storage:/media/frigate:rw

        - type: tmpfs # Optional: 1GB of memory, reduces SSD/SD Card wear

          target: /tmp/cache

          tmpfs:

            size: 2000000000

      ports:

        - "5000:5000"

        - "1935:1935"

        - "8554:8554" # RTSP feeds

        - "8555:8555/tcp" # WebRTC over tcp

        - "8555:8555/udp" # WebRTC over udp

      device_cgroup_rules:

        - "c 189:* rmw"

cat /mnt/nvme0n1/docker/frigate_/config/config.yml                                                                                                                                      mqtt:

  enabled: false

logger:

  # Optional: default log level (default: shown below)

  default: debug
detectors:

  rknn:

    type: rknn

    core_mask: 0b000

model:

  path: default-yolov8x

  width: 320

  height: 320

  input_tensor: nhwc

  input_pixel_format: bgr
rtmp:

  enabled: false
cameras:

  Fasad3: # <--- this will be changed to your actual camera later
    enabled: true
    birdseye:
      order: 2
    ffmpeg:
      hwaccel_args: preset-rk-h264
      inputs:
      - path: rtsp://admin:123@192.168.1.1:554/mode=real&idc=1&ids=1
        roles:
        - detect
    detect:
        enabled: True
        width: 1280
        height: 720
        fps: 2
    objects:
      track:
      - person
      - car

Часть опций для меня носит спорный характер, но до тонкой настройки я пока не добрался. Время отклика системы (по статистике NPU) у меня получилось порядка 103ms - возможно это не верно, но в любом случае процессор (CPU) загружен порядка 5-10%, что в 5 раз меньше чем без NPU.