7.4. Mallin lataaminen#

ml.Model lukee mallitiedoston flash-muistista, jäsentää sen, varaa keskusmuistin, jonka neuroverkko tarvitsee päättelyn aikana, ja palauttaa olion, joka sisältää kaiken, mitä skriptin loppuosan tarvitsee tietää ladatusta verkosta.

7.4.1. Konstruktori#

Konstruktori ottaa polun ja valinnaisen jälkikäsittelijän:

model = ml.Model("/rom/blazeface_front_128.tflite",
                 postprocess=BlazeFace())

Mallit, jotka sijaitsevat polussa /rom/ (flash-muistissa pysyvä tiedostojärjestelmä), luetaan paikallaan: verkon painot pysyvät flash-muistissa, ja ladattu malli vie keskusmuistia vain tensorialueen verran. Mallit polussa /sdcard/ kopioidaan keskusmuistiin latausvaiheessa, joten kokonaiskustannus on mallitiedoston koko plus tensorialue. Kumpikin polku toimii; kompromissi koskee keskusmuistia.

Jos samalla perusnimellä oleva sisarustiedosto .txt on olemassa, sen sisältö ladataan automaattisesti ominaisuuteen labels. Avainsana postprocess= rekisteröi kutsuttavan olion, jonka predict() suorittaa jokaisen päättelyn jälkeen.

7.4.2. Vain luettavat ominaisuudet#

Ladattu malli tarjoaa pienen joukon vain luettavia ominaisuuksia, jotka kuvaavat verkkoa ilman, että sitä tarvitsee suorittaa.

Tiedosto ja muisti.

len – mallitiedoston koko levyllä tavuina.
ram – tensorialueen koko, jonka verkko tarvitsee välivaiheen aktivaatioilleen päättelyn aikana, tavuina.

Syötetensorit.

input_shape – lista monikoita, yksi kutakin syötetensoria kohden, joka kertoo verkon odottaman muodon. Konenäköverkoilla on yksi syöte muodossa (1, H, W, C).
input_dtype – lista yksimerkkisiä dtype-koodeja ('b' int8, 'B' uint8, 'h' int16, 'H' uint16, 'f' float32), yksi kutakin syötettä kohden.
input_scale ja input_zero_point – kvantisointiparametrit, jotka muuntavat verkon koulutuksessa käytetyn reaaliarvoisen syötteen ja kameran käyttämän kokonaislukuesityksen välillä.

Tulostensorit. Syötejoukon peilikuva: output_shape, output_dtype, output_scale, output_zero_point. Tunnistusverkot tuottavat kaksi tai kolme tulostensoria (rajauslaatikot, luottamuspisteet, joskus luokkien todennäköisyydet); luokitteluverkot tuottavat yhden.

Lisätietoja. labels on luokkanimien lista, joka ladataan sisarustiedostosta .txt, tai None. postprocess on rekisteröity jälkikäsittelijä tai None.

7.4.3. BlazeFacen tarkastelu#

Mukana toimitettavan BlazeFace-mallin lataaminen ja kunkin ominaisuuden tulostaminen antaa todelliset luvut:

import ml
from ml.postprocessing.mediapipe import BlazeFace

model = ml.Model("/rom/blazeface_front_128.tflite",
                 postprocess=BlazeFace())

print("file size:    ", model.len, "bytes")
print("tensor arena: ", model.ram, "bytes")
print("input shape:  ", model.input_shape)
print("input dtype:  ", model.input_dtype)
print("input scale:  ", model.input_scale)
print("input zp:     ", model.input_zero_point)
print("output shape: ", model.output_shape)
print("output dtype: ", model.output_dtype)
print("output scale: ", model.output_scale)
print("output zp:    ", model.output_zero_point)

Luvut yksilöivät verkon rajapinnan konkreettisesti: yksittäinen (1, 128, 128, 3) int8 -syötetensori ja kaksi int8 -tulostetta – yksi laatikkoregression kertoimille, yksi ankkurikohtaisille luottamuspisteille. Kvantisointiparametrit kuvaavat, kuinka nämä int8-arvot vastaavat verkon koulutuksessa käytettyjä reaaliarvoisia liukulukuja; jälkikäsittelijä käyttää niitä kvantisoinnin peruuttamiseen ennen laatikoiden purkamista.

Jokainen ominaisuus on ainoa totuuden lähde sille, mitä se kuvaa. Skriptit lukevat input_shape tietääkseen, missä muodossa kuva kaapataan, lukevat output_scale ja output_zero_point purkaakseen tensorit käsin, ja lukevat labels ihmisluettavia luokkanimiä varten – ei koskaan kovakoodattuna, ei koskaan oletettuna.