Qualcomm Aimet efektivitātes rīkkopas dokumentācijas instrukcijas

KBA-231226181840

1. Iestatīt vidi

1.1. Instalējiet Nvidia draiveri un CUDA

1.2. Instalējiet saistīto Python bibliotēku

python3 -m pip instalēšana - jauninājums - ignorēt instalēto pip
python3 -m pip install – ignorēt instalēto gdown
python3 -m pip install – ignorēt instalēto opencv-python
python3 -m pip instalēšana – ignorēt instalēto torch==1.9.1+cu111 torchvision==0.10.1+cu111 torchaudio==0.9.1 -f https://download.pytorch.org/whl/torch_stable.html
python3 -m pip install – ignorēt instalēto jax
python3 -m pip install – ignorēt instalēto ftfy
python3 -m pip install – ignorēt instalēto torchinfo
python3 -m pip install – ignorēt instalēta https://github.com/quic/aimet/releases/download/1.25.0/AimetCommon-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m pip install – ignore-installed https://github.com/quic/aimet/releases/download/1.25.0/AimetTorch-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m pip install – ignorēt-instalēts numpy==1.21.6
python3 -m pip install – ignorēt instalēto psutil

1.3. Klonēt aimet-model-zoo

git klons https://github.com/quic/aimet-model-zoo.git
cd aimet-model-zoo
git checkout d09d2b0404d10f71a7640a87e9d5e5257b028802
eksportēt PYTHONPATH=${PYTHONPATH}:${PWD}

1.4. Lejupielādēt komplektu 14

wget https://uofi.box.com/shared/static/igsnfieh4lz68l926l8xbklwsnnk8we9.zip
unzip igsnfieh4lz68l926l8xbklwsnnk8we9.zip

1.5. Modificēt 39. rindu aimet-model-zoo/aimet_zoo_torch/quicksrnet/dataloader/utils.py

mainīt
img_path failā glob.glob(os.path.join(test_images_dir, “*”)):
uz
img_path failā glob.glob(os.path.join(test_images_dir, “*_HR.*”)):

1.6. Skrējiena novērtējums.

# palaist zem YOURPATH/aimet-model-run
# Paredzēts quicksrnet_small_2x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_small_2x_w8a8 \
–datu kopas ceļš ../Set14/image_SRF_4

# Paredzēts quicksrnet_small_4x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_small_4x_w8a8 \
–datu kopas ceļš ../Set14/image_SRF_4

# Paredzēts quicksrnet_medium_2x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_medium_2x_w8a8 \
–datu kopas ceļš ../Set14/image_SRF_4

# Paredzēts quicksrnet_medium_4x_w8a8
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_medium_4x_w8a8 \
–datu kopas ceļš ../Set14/image_SRF_4

pieņemsim, ka jūs iegūsit PSNR vērtību simulētam modelim. Varat mainīt modeļa konfigurāciju dažādam QuickSRNet izmēram, opcija ir underaimet-modelzoo/aimet_zoo_torch/quicksrnet/model/model_cards/.

2 Pievienojiet ielāpu

2.1. Atveriet “Eksportēt uz ONNX Steps REVISED.docx”

2.2. Izlaist git commit id

2.3. 1. sadaļa Kods

Pievienojiet visu 1. kodu zem pēdējās rindas (pēc 366. rindiņas) aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/models.py

2.4. 2. un 3. sadaļas kods

Pievienojiet visu kodu 2, 3 zem 93. rindiņas aimet-model-zoo/aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py

2.5. Galvenie parametri funkcijā load_model

modelis = load_model(MODEL_PATH_INT8,

MODEL_NAME,
MODEL_ARGS.get(MODEL_NAME).get(MODEL_CONFIG),
use_quant_sim_model=Tiesa,
encoding_path=ENCODING_PATH,
quansim_config_path=CONFIG_PATH,
calibration_data=IMAGES_LR,
use_cuda=Tiesa,
before_quantization=Tiesa,
convert_to_dcr=True)

MODEL_PATH_INT8 = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/pre_opt_weights
MODEL_NAME = QuickSRnetSmall
MODEL_ARGS.get(MODEL_NAME).get(MODEL_CONFIG) = {'mērogošanas_faktors': 2}
ENCODING_PATH = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/adaround_encodings
CONFIG_PATH = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/aimet_config

Lūdzu, nomainiet mainīgos lielumus dažāda izmēra QuickSRNet

2.6 Modeļa izmēra izmaiņas

1. “input_shape” failā aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/model_cards/*.json
2. Funkcijā load_model(…) iekšā aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/inference.py
3. Parametrs funkcijā export_to_onnx(…, input_height, input_width) no “Eksportēt uz ONNX Steps REVISED.docx”

2.7. Atkārtoti palaidiet versiju 1.6, lai eksportētu ONNX modeli

3. Konvertējiet SNPE

3.1. Konvertēt

${SNPE_ROOT}/bin/x86_64-linux-clang/snpe-onnx-to-dlc \
–ievades_tīkla modelis.onnx \
–quantization_overrides ./model.encodings

3.2. (Neobligāti) Izņemiet tikai kvantizēto DLC

(neobligāti) snpe-dlc-quant –input_dlc model.dlc –float_fallback –override_params

3.3. (SVARĪGI) ONNX I/O ir NCHW kārtībā; Pārveidotais DLC ir kārtībā NHWC

Dokumenti / Resursi

Qualcomm Aimet efektivitātes rīkkopas dokumentācija [pdfNorādījumi quicksrnet_small_2x_w8a8, quicksrnet_small_4x_w8a8, quicksrnet_medium_2x_w8a8, quicksrnet_medium_4x_w8a8, Aimet efektivitātes rīkkopas dokumentācija, efektivitātes rīkkopas dokumentācija, rīkkopas dokumentācija, dokumentācija

Atsauces

• Lietotāja rokasgrāmata