Entre o conjunto de exemplos para Azure no GitHub , um muito interessante foi encontrado: reconhecimento de imagem no Raspberry Pi, offline. Os autores propõem preparar um modelo de aprendizado de máquina em um dos serviços de nuvem do Azure e, em seguida, transferi-lo para um computador que não possui conexão com a Internet na maioria das vezes, após o que o reconhecimento de padrão funcionará offline. Os desenvolvedores prepararam um projeto para duas plataformas: ARM32 (o próprio Raspberry Pi) e AMD64 (mas sem suporte para webcam).
Na esteira do hype do coronavírus, decidimos adaptar o exemplo para reconhecer se uma pessoa está usando uma máscara ou não. Imediatamente ficou claro que as etapas para adaptar o exemplo não eram inteiramente óbvias. Neste material, consideraremos sequencialmente como este exemplo, em primeiro lugar, pode ser modificado para funcionar com nosso modelo de aprendizado de máquina e, em segundo lugar, pode ser transferido para a plataforma AMD64. Vamos supor que o nosso computador, no qual está rodando o modelo, controle a catraca: se vem uma pessoa com máscara, a catraca abre, senão fica fechada.
É complicado...
Quase todo provedor de nuvem tem um conjunto de ferramentas de aprendizado de máquina, e as barreiras de entrada costumam ser baixas.
Azure Computer Vision, , : API, . Azure Custom Vision, , . , . - , , .
, . , "" , :
- , - , ;
- ;
- .
, :
- ;
- , . , "" 100 ?
?
, " ", " ". — . , " ". , Azure Custom Vision, , , .
: Azure IoT Edge . , :
- ;
- — ;
- , .. , ;
Azure IoT Edge
IoT Edge . , IoT Edge — Linux, "" , , , Docker- . IoT Edge Azure IoT Hub. IoT Edge , , Azure, IoT Edge , .
"" IoT Edge Linux, 2019 IoT Edge Windows 10 Enterprise LTSC — .
IoT Edge , "" Azure:
- Azure Functions ( )
- Azure Stream Analytics ( )
- Azure Machine Learning ( "")
- Azure Custom Vision ( )
- Azure SQL Server ( "")
Custom Vision. "" .
IoT Edge . , (), Microsoft HTTP, .. web-, .
Microsoft

-, USB , IoT Edge.
IoT Edge? , , IoT Hub, ( ) IoT Hub. "" .
IoT Hub. IoT Edge "" , . , Container Registry ( ).
, , :

- Camera: . "" ( ! ) HTTP ;
- AI: , . , , "" . Custom Vision;
- Display: , . , , , ( ).
, IoT Hub.
, . AMD64 , - - , , . , "" -, ARM32.
. AMD64 "" SenseHat, Raspberry Pi, , SenseHat, , - .
(Custom Vision)
Custom Vision ( Azure) New Project.
- Name — ;
- Description — ;
- Resource — Create new Cognitive Services;
- Classification Types — Multilabel, / , — ( " ")
- Domains — General (compact).
:
- , MaskOnFace;
- (" "), MaskNotOnFace — - , (, -, );
- , , (Negative).
.
Train, Advanced training , . Performace .
, , .
Probability Threshold — , . Probability Threshold = 90% , , 90%. , . , (/), "" " " "" "". , - " 89%". , "" "". Probability Threshold 90%, " 89%" "", " 91%" "".
- Recall () ;
- Precision () — .
— .
, .
(Publish), (Export — Dockerfile — Linux). IoT Edge.
- ( — ) AVX (, AVX , , grep avx /proc/cpuinfo) — tensorflow. AVX, , . . Intel NUC Core i5.
Ubuntu 20.04 LTS. , IoT Edge ( Microsoft?), .
, Edge. (~).
:
sudo apt-get update sudo apt-get install wget nano
:
wget https://packages.microsoft.com/config/ubuntu/20.04/prod.list mv prod.list microsoft-prod.list
sources.list.d, "" Microsoft:
sudo cp ./microsoft-prod.list /etc/apt/sources.list.d/
Microsoft GPG:
wget https://packages.microsoft.com/keys/microsoft.asc cat microsoft.asc | gpg --dearmor > microsoft.gpg sudo cp ./microsoft.gpg /etc/apt/trusted.gpg.d/
( — , apt " "):
sudo apt-get update sudo apt-get install moby-engine
IoT Edge:
sudo apt-get install iotedge
, ( Ubuntu 20.04 — ), . Ubuntu (18.04 — , , ) (, , ). GitHub. Latest release dpkg. libssl :
wget http://archive.ubuntu.com/ubuntu/pool/main/o/openssl1.0/libssl1.0.0_1.0.2n-1ubuntu5_amd64.deb sudo dpkg -i libssl1.0.0_1.0.2n-1ubuntu5_amd64.deb wget https://github.com/Azure/azure-iotedge/releases/download/1.0.10.4/libiothsm-std_1.0.10.4-1_ubuntu16.04_amd64.deb sudo dpkg -i libiothsm-std_1.0.10.4-1_ubuntu16.04_amd64.deb wget https://github.com/Azure/azure-iotedge/releases/download/1.0.10.4/iotedge_1.0.10.4-1_ubuntu16.04_amd64.deb sudo dpkg -i iotedge_1.0.10.4-1_ubuntu16.04_amd64.deb
IoT Edge , Azure. , :
sudo nano /etc/iotedge/config.yaml
, Azure device_connection_string provisioning. , , IoT Edge Azure.
Azure
IoT Hub IoT Edge . , , :
IoT Edge IoT Hub, .
IoT Edge :
- . -, USB. HTTP;
- , ( / / ). HTTP, ;
- (-). -, .
:

, , .
! Windows 10, IoT Edge.
- Visual Studio Code. Visual Studio;
- Azure IoT Edge Extension. Select IoT Hub, IoT Hub;
- Azure IoT Tools;
- Python 3.8.3. Add Python to PATH — Task 4;
- , , , Hyper-V . — , OK ;
- Docker for Windows — Task 5;
- Git Windows .
! Docker : bcdedit /set {current} hypervisorlaunchtype Auto .
! Hyper-V VirtualBox. , VirtualBox, : bcdedit /set {current} hypervisorlaunchtype off, "" Hyper-V Docker.
, :
git clone https://github.com/Azure-Samples/Custom-vision-service-iot-edge-raspberry-pi.git
, :
git checkout 6b3540f9b31121321f9e75d8df0ed86397c9324f
Visual Studio Code (File — Open Folder) . , . , .
, , . , , , . , , .
. — . — , , .
, .
.env
() , Azure:
- CONTAINER_REGISTRY_ADDRESS="__.azurecr.io"
- CONTAINER_REGISTRY_USERNAME="_"
- CONTAINER_REGISTRY_PASSWORD=""
deployment.template.json
- modules — camera-capture — env — RESIZE_WIDTH — 640, RESIZE_HEIGHT — 480
- modules — camera-capture — settings — image — ${MODULES.CameraCapture.amd64}
- modules — sensehat-display — env — THRESHOLD — value — 0.9
- modules — sensehat-display — settings — image — ${MODULES.SenseHatDisplay.amd64}, createOptions — HostConfig "PortBindings": { "8000/tcp": [ { "HostPort": "8000" } ] }
- modules — image — settings — image — ${MODULES.ImageClassifierService.amd64}
deployment.template_AMD64
.
ameraCapture\amd64.Dockerfile
AMD64 -, , , . .
CameraCapture.py
( Raspberry Pi), , . time.sleep(1.0) 1.0 0.1.
ImageClassifierService\amd64.Dockerfile
AMD64. .
labels.txt
, . Custom Vision, :
MaskNotOnFace MaskOnFace
model.pb
Custom Vision — .
SenseHatDisplay\amd64.Dockerfile
, .
SenseHatDisplay — . AMD64 SenseHat , , , , SenseHat, , - Python, .
.
SenseHatDisplay\module.json
platform , amd64:
"amd64": "./amd64.Dockerfile",
SenseHatDisplay\app ()
, . -, .
- custom.js
- index.htm
- jquery.js
- style.css
- DisplayManager.py
- MessageParser.py
- "". , :
- : IoT Edge, http://127.0.0.1:5012;
- — http://127.0.0.1:8000/status.
, - — , . , , . http://127.0.0.1:8000.
.
- VS Code View — Command Pallette — Azure IoT Edge: Set Default Target Platform for IoT Edge Solution amd64;
- Azure IoT Edge: Build and Push IoT Edge Solution. , IoT Edge;
- IoT Edge, config/deployment.json Create Deployment for Single device, , ;
- ( -!). IoT Edge Extension Start Monitoring D2C Message, .
IoT Edge UI - http://localhost:8000, -, . , , .

— , .
, , MaskNotOnFace, , .
- ...
, , IoT Edge . ( , , , AVX / tensorflow ). IoT Edge . . , :
- : iotedge list. ( );

- : iotedge logs _. , .
, IoT Edge, , ( Azure), IoT Edge .
?
IoT Edge , .
, , IoT Edge, , , , , " " - SQL Edge, .
IoT Edge Azure, .
— , , — .
, Azure , , , .
— , . sergant (at) quarta.ru.