28 éve a piacon
Közvetlen képviselet 7 országban
Ügyfelek több mint 100 országban
Támogatás a fejlesztéstől egészen a gyártásig
AAEON

Mesterséges intelligencia a hálózat szélén

Artificial intelligenceMachine visionIndustrial automation

Ez nem a jövő zenéje, az AAEON hardver segítségével akár már most is kezelheti a mesterséges intelligenciát. Hogy hogyan működik, és mi mindenre lesz szüksége, azt megtudhatja cikkünkből.

Miért most?

A technológia jelenlegi állása szerint képesek vagyunk olyan feladatokra kiképezni a visszacsatolt (mély) neurális hálózatot (DNN), mint az objektum- és az emberi arcfelismerés, a beszédfelismerés, a nyelvfordítás, a játékok (sakk, go, stb.), az autonóm járművezetés, az érzékelők állapotfigyelése, a prediktív gépi karbantartási döntések, az egészségügyi röntgenfelvételek értékelése, stb. Ilyen speciális feladatok esetén a DNN elérheti vagy akár meg is haladhatja az emberi képességeket.

Miért használjon mesterséges intelligenciát a hálózat szélén

Például egy modern épület számos érzékelőt, légkezelő berendezést, felvonót, biztonsági kamerát stb. tartalmaz, amelyek belső hálózatra csatlakoznak. Biztonsági, késleltetési vagy robusztussági okokból helyénvalóbb helyileg, a helyi hálózat szélén mesterséges intelligencia feladatokat futtatni, és csak anonimizált adatokat küldeni a felhőbe, amelyek a globális döntéshozatalhoz szükségesek.

Hardware on the Edge

A DNN hálózat szélére történő telepítéséhez elegendő számítástechnikai teljesítménnyel és alacsony energiafogyasztással rendelkező készülékre van szükség. A jelenlegi technológia állapota alacsony fogyasztású CPU és VPU gyorsítót (x86 CPU SBC + Intel Myriad X VPU) vagy CPU + GPU-t (ARM CPU + Nvidia GPU) kombinál.

A legegyszerűbb módja a DNN elindításának az UP Squared AI Vision X fejlesztői készlet B verziója. A készlet UP Square SBC-n alapul Intel Atom®X7-E3950 processzorral, 8GB RAM, 64GB eMMC, Myriad X MA2485 VPU és 1920x1080 felbontású USB-kamera kézi fókusszal. Előre telepített Ubuntu16.04 (kernel 4.15) és OpenVINO eszközkészlet.

A Toolkit előfordított demo alkalmazásokat tartalmaz a /home/upsquared/build/intel64/Release mappában, és „betanított” modelleket az opt/intel/computer_vision_sdk/deployment_tools/intel_models mappákban. Bármely demo alkalmazás segédeszközének megtekintéséhez futtassa azt a -h opcióval. A demo alkalmazás futtatása előtt javasolt az OpenVINO környezet inicializálása a source /opt/intel/computer_vision_sdk/bin/setupvars.sh parancs által.

Az UP Squared AI Vision X Developer Kit mellett az Aaeon kínálatában megtalálhatók még:

1. Myriad X MA2485 VPU-alapú modulok: AI Core X (mPCIe full-size, 1x Myriad X), AI Core XM 2280 (M.2 2280 B+M key, 2x Myriad X), AI Core XP4/ XP8 (PCIE [x4] karta, 4 vagy 8x Myriad X).
2. Nvidia Jetson TX2 modulon alapuló BOXER-8000-es sorozat
3. BOXER-8320AI Core i3-6100U vagy Celeron 3955U processzorral és két AI Core X modul.
4. Boxer-6841M sorozatot Intel Core-I vagy Xeon 6./7. generációs processzoron alapuló alaplappal LGA1151 aljzathoz, és 1x PCIe [x16] vagy 2x PCIe [x8] GPU slot-ok max. 250W-os teljesítménnyel.

Tanulási hardver
A DNN képzéshez nagy számítási teljesítményre van szükség. Például a 2012-es ImageNet versenyen a nyertes csapat az AlexNet konvolúciós neurális hálózatot használta. A tanuláshoz 1.4 ExaFLOP = 1,4e6 TFLOP műveletre volt szükség. A tanulás 5-6 napot vett igénybe két Nvidia GTX580 GPU mellett, amelyek mindegyike 1,5 TFLOPS számítási teljesítménnyel rendelkezett.

Az alábbi táblázat tartalmazza a hardver elméleti csúcsteljesítményét.

Összehasonlításképpen, a „high end” Intel Xeon Platinum 8180 processzor
● 28 magból áll, amelyek magonként 2 AVX-512 és FMA egységet tartalmaznak
● AVX-512 turbófrekvenciával ellátott 2,3 GHz, ha minden mag aktív
● 10 000 dollárba kerül.

A kínált elméleti csúcsteljesítmény: magok száma * frekvencia (GHz) * AVX-512 DP FLOPS/Hz * az AVX-512 egységek száma * 2 = 2060.8 GFLOPS dupla pontossággal (DP) → 4,1216 TFLOPS egyszeres pontossággal (32-bit).

Amint az a fenti táblázatból kiderül, a GPU sokkal nagyobb teljesítményt nyújt a neurális hálózatok tanulásához. Meg kell jegyezni, hogy a másodpercenkénti műveletek száma nem az egyetlen paraméter, amely befolyásolja a tanulási teljesítményt. A RAM mérete, a CPU és RAM, GPU és GPU RAM és az egyes GPU-k közötti adatátviteli sebesség szintén befolyásolják a tanulási sebességet.

Szoftver

OpenVINO
Az OpenVINO (open visual inference and neural network) ingyenes szoftver, amely lehetővé teszi az emberi látást utánzó alkalmazások és megoldások gyors telepítését.

Az OpenVINO toolkit:
● CNN-t használ (convolution neural network)
● Képes szétosztani a számításokat az Intel CPU, integrált GPU, Intel FPGA Intel Movidius Neural Compute Stick és az Intel Movidius Myriad VPUs gyorsítók között
● Optimalizált interfészt biztosít az OpenCV, OpenCL és OpenVX számára
● Támogatja a Caffe, TensorFlow, MXNet, ONNX, Kaldi keretrendszereket (framework)

TensorFlow
Az TensorFlow egy nyílt forráskódú könyvtár numerikus számításokhoz és gépi tanuláshoz. Kényelmes front-end API-t biztosít a Python programozási nyelv alkalmazásainak létrehozásához. Ugyanakkor maga a TensorFlow által generált alkalmazás is optimalizált C ++ kódokká alakul, amely számos platformon futtatható, mint például CPU-k, GPU-k, helyi számítógépek, felhőcsoportok, beágyazott rendszerek a hálózat szélén, és hasonlók.

Egyéb hasznos szoftverek
Jupyter Lab / Notebook
https://jupyter.org/index.html
https://github.com/jupyter/jupyter/wiki/Jupyter-kernels
https://jupyterlab.readthedocs.io/en/stable
Keras
Pandas 
MatplotLib 
Numpy 

Hogyan működik?

Egyszerűsített neuronmodell
Egyszerű neuronmodell – a perceptront első ízben Warren McCulloch és Walter Pitts írták le, és még mindig referenciaszintként szolgál a neurális hálózatok terén.

Az f () aktivációs függvény nem-linearitást ad a perceptonba. Nem-lineáris aktivációs függvény nélkül a perceptronokból álló neurális hálózat (NN) – függetlenül attól, hogy hány rétegből áll – egyrétegű perceptronként viselkedne, mert az egyes rétegek összegzése további lineáris függvényt eredményezne. A leggyakrabban használt aktivációs funkció a ReLU (rectified linear unit).

y = f(x) = max (0, x), ha x < = 0, y = 0, vagy x ≥ 0, y=x

Tanulás (Backward pass)
A fenti ábrán a visszacsatolt (mély) neurális hálózat (DNN) látható, amely több réteget tartalmaz a be- és kimeneti rétegek között. Ahogyan azt az ábra is mutatja, a DNN mátrix-szorzást és összeadást igényel. Az erre a feladatra optimalizált speciális hardver, mint például a GPU (graphics processing unit) és a VPU (vision processing unit) sokkal gyorsabb, mint az általános célú CPU (processing unit, processzor), és alacsonyabb energiafogyasztás jellemzi.

Tanulás (Spätný prechod)

PTegyük fel, hogy meg szeretnénk tanítani a DNN-nek, hogy felismerje egy képen egy narancsot, banánt, almát és málnát, tehát az objektumosztályokat.

Nagyszámú fényképet készítünk a fent említett gyümölcsökről, és tanuló és ellenőrző csoportra osztjuk őket. A tanuló szett fényképeket és helyes válaszokat tartalmaz. A DNN 4 kimenettel rendelkezik. Az első kimenet pontot (valószínűséget) ad, hogy a képen látható gyümölcs narancs, a második a banán, stb.

1. Beállítjuk a kezdeti értékeket valamennyi súlyhoz (weight) és torzításhoz (bias) b_i. Ezek általában véletlenszerű értékek.

2. Lefuttatjuk az első képet a DNN-en. A hálózat valamennyi kimeneten pontszámot (valószínűséget) ad.

3. Tegyük fel, hogy az első kép narancsot ábrázol. A hálózati kimenetek ezáltal a következőképpen alakulnak: y = (narancs, banán, alma, málna) = (0,5, 0,1, 0,3, 0,1). A hálózat szerint annak a valószínűsége, hogy az első képen narancs látható 0,5.

4. Meghatározzuk a veszteség (hiba) függvényt, amely számszerűsíti a becsült pontszám és a tényleges pontszám közötti egyezést. A leggyakoribb függvény: E = 0.5*sum (e_j)^2, ahol e_j = y_j-y_real_j, a j pedig a tanuló szettben található képek száma. E_1_narancs = 0.5*(0.5-1)^2=0.125, E_1_banán =.0.5*(0.1-0)^2 = 0.005 E_1_alma = 0.5*(0.3-0)^2 = 0.045, E_1_málna = 0.5*(0.1-0)^2 = 0.005 E_1 = (0,125 0,005 0,045 0,005)

5. Lefuttatjuk a tanuló készlet maradék képeit is a DNN-en, és kiszámítjuk a teljes készlet veszteségfüggvényét, az E-t (E_narancs E_ banán E_alma E_málna)

6. Ahhoz, hogy meghatározzuk a következő átáramoltatásra (epoch) vonatkozó valamennyi súlyt (w_i) és torzítást (b_i), ismernünk kell minden egyes w_i és b_i paraméter hatását az egyes osztályok veszteségfüggvényére. Ha egy paraméter értékének növelése növeli a veszteségfüggvény értékét, csökkentenünk kell ezt a paramétert és fordítva. De hogyan számoljuk ki a paraméterértékek növelését vagy csökkentését?

Lássunk egy egyszerű példát.

Adott három pont (x, y): (1, 3), (2.5, 2), (3.5, 5). Egy olyan egyenest keresünk y = w.x + b, ahol a veszteségfüggvény minimális lesz: E = 0.5*sum (e_j)^2, ahol _j = y_j – y_real_j, és j=1, 2, 3. A feladat leegyszerűsítése érdekében, tegyük fel, hogy w = 1,2, és csak a b értéket keressük. Kezdeti értékként válasszuk a b = 0 –t.

Számítsuk ki a veszteségfüggvényt: E = 0,5*sum ( e_j)^2 = 0,5*(e_1^2 + e_2^2 + e_3^2), e_1=1,2*1 + b -3, e_2 = 1,2*2,5 + b – 2, e_3 = 1,2*3,5 + b – 5.

A veszteségfüggvény egyszerű, az E minimum értékét az alábbi képlet kiszámításával kapjuk meg: ∂E/∂b = 0. Ez egy összetett függvény, a ∂E/∂b kiszámításához a kompozit függvény deriválására vonatkozó szabályt használjuk.

∂E/∂b=0.5*((∂E/∂e_1)*(∂e_1/∂b) + (∂E/∂e_2)*(∂e_2/∂b) + (∂E/∂e_3)*(∂e_3/∂b)) = 0.5*(2*e_1*1 + 2*e_2*1 + 2*e_3*1) = (1.2*1 + b – 3) + (1.2*2.5 + b – 2) + (1.2*3.5 + b – 5) = 0 => b = 0.53333.

A gyakorlatban, ahol a w_i és b_i paraméterek száma elérheti a milliót vagy többet, nem célszerű közvetlenül a ∂E/∂b_i=0 és ∂E/∂b_i= 0 egyenleteket használni, helyette iteratív algoritmus ajánlott.

Kezdetnek lássuk a b = 0 esetet. A következő érték b_1 = b_0 – η*∂E/∂b, ahol η a tanulási sebesség (hiperparaméter), a -η*∂E/∂b pedig a lépés mérete. A tanulásst megállítjuk, ha a mérete eléri a megadott határértéket, a gyakorlatban ez 0,001 vagy kevesebb. Az η = 0,3 esetében b_1 = 0,48, b_2 = 0,528, b_3 = 0,5328 b_4 = 0,53328 és b_5 = 0,5533328. 5 iteráció után a lépés mérete 4,8e-5-re csökkent, és itt megszakítjuk a tanulást. Az algoritmussal kapott b érték gyakorlatilag megegyezik az ∂E / ∂b = 0 egyenlet megoldásával kapott értékkel.

Ezt a módszert gradiens módszernek nevezik.

A tanulási arány fontos hiperparaméter. Ha túl kicsi, sok lépést kell tennie a minimális veszteségfüggvény megtalálásához; ha magas, az algoritmus sikertelen lehet. A gyakorlatban az algoritmus javított változatai, mint például az Adam, használatosak.

7.Ismételjük az 5. és 6. lépést mindaddig, amíg a veszteségfüggvény értéke a kívánt értékre nem csökken.

8. Elvégeztük az érvényesítést a képzett DNN-en keresztül, és értékeljük a pontosságot.

Napjainkban a DNN-tanulás magas kísérleti szakaszban van. Számos DNN architektúra ismert, ezek mindegyike jól illeszkedik bizonyos feladatokhoz. Minden DNN architektúrának van saját hiperparamétere, amely befolyásolja a viselkedését. Vértezze fel magát türelemmel, és az eredmény nem marad el.

További AAEON termékkel kapcsolatos kérdésével, forduljon hozzánk bizalommal az aaeon@soselectronic.hu címen.

Ne maradjon le a hasonló cikkekről!

Önnek is tetszenek cikkeink? Ne maradjon le egyről sem! Nem kerül erőfeszítésébe, mi eljuttatjuk Önhöz.


Tartozékok

kép típus / leírás Rakt. szám besorolás gyártó raktáron Beszállítói raktár ár/db. ÁFA nélkül
BOXER-6405-A1-1010 AAEON BOXER-6405-A1-1010

Ipari PC ultra-slim Intel Celeron N3350 RAM nélkül -30…60°C

Adatlap: BOXER-6405.pdf

Ipari számítógépek

302742
S

AAEON

raktáron 4 db
-

1 db-tól 98 100,00 Ft

Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
PER-TAIC-A10-001 AAEON PER-TAIC-A10-001

AI Core Movidius Myriad 2 2450 mPCIe

Adatlap: AI-core.pdf

Tartozékok beágyazott rendszerekhez

301541
S

AAEON

raktáron 5 db
-

1 db-tól 26 600,00 Ft

Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
BOXER-8150AI-A1-1010 AAEON BOXER-8150AI-A1-1010

AI at Edge Box PC NVidia Jetson TX2 8GB RAM 32GB eMMC -20…50°C

Adatlap: BOXER-8150AI.PDF

Ipari számítógépek

319384
S

AAEON

raktáron 2 db
-

1 db-tól 367 000,00 Ft

Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
UPS-EDAI-X70864-U01-DC01 AAEON UPS-EDAI-X70864-U01-DC01 new

UP Squared AI Vision X Developer Kit

Adatlap: UPS_EDGE_QSG.pdf

Ipari számítógépek

313725
O

AAEON

Megrendelésre
-
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez
AI Core X (PER-TAICX-A10-001) AAEON AI Core X (PER-TAICX-A10-001)

AI Core Movidius Myriad X VPU 2485 mPCIe module

Adatlap: AI_Core_ X_Manual.pd...

Tartozékok beágyazott rendszerekhez

319357
S

AAEON

raktáron 5 db
-

1 db-tól 33 000,00 Ft

Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
BOXER-6841M-A4-1010 AAEON BOXER-6841M-A4-1010

Entry-level Box PC Intel 6th/7th gen. Socket 1151 w/o RAM -20...55°C

Adatlap: BOXER-6841M.pdf

Ipari számítógépek

312294
O

AAEON

Megrendelésre
-
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez
AI Core XP4 AAEON AI Core XP4

2x AI Core XM 2280 on PCIe [x4] card

Adatlap: AI-Core-XP4_XP8.pdf

Tartozékok beágyazott rendszerekhez

319359
O

AAEON

Megrendelésre
-
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez
AI Core XP8 AAEON AI Core XP8

4x AI Core XM 2280 on PCIe [x4] card

Adatlap: AI-Core-XP4_XP8.pdf

Tartozékok beágyazott rendszerekhez

319360
O

AAEON

Megrendelésre
-
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez

BOXER-6405-A1-1010 AAEON  
BOXER-6405-A1-1010

Ipari PC ultra-slim Intel Celeron N3350 RAM nélkül -30…60°C

Ipari számítógépek

Cikkszám: 302742
Gyártó: AAEON
raktáron 4 db
1 db-tól
98 100,00 Ft
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad

PER-TAIC-A10-001 AAEON  
PER-TAIC-A10-001

AI Core Movidius Myriad 2 2450 mPCIe

Tartozékok beágyazott rendszerekhez

Cikkszám: 301541
Gyártó: AAEON
raktáron 5 db
1 db-tól
26 600,00 Ft
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad

BOXER-8150AI-A1-1010 AAEON  
BOXER-8150AI-A1-1010

AI at Edge Box PC NVidia Jetson TX2 8GB RAM 32GB eMMC -20…50°C

Ipari számítógépek

Cikkszám: 319384
Gyártó: AAEON
raktáron 2 db
1 db-tól
367 000,00 Ft
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad

UPS-EDAI-X70864-U01-DC01 AAEON  
UPS-EDAI-X70864-U01-DC01 new

UP Squared AI Vision X Developer Kit

Ipari számítógépek

Cikkszám: 313725
Gyártó: AAEON
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez

AI Core X (PER-TAICX-A10-001) AAEON  
AI Core X (PER-TAICX-A10-001)

AI Core Movidius Myriad X VPU 2485 mPCIe module

Tartozékok beágyazott rendszerekhez

Cikkszám: 319357
Gyártó: AAEON
raktáron 5 db
1 db-tól
33 000,00 Ft
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad

BOXER-6841M-A4-1010 AAEON  
BOXER-6841M-A4-1010

Entry-level Box PC Intel 6th/7th gen. Socket 1151 w/o RAM -20...55°C

Ipari számítógépek

Cikkszám: 312294
Gyártó: AAEON
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez

AI Core XP4 AAEON  
AI Core XP4

2x AI Core XM 2280 on PCIe [x4] card

Tartozékok beágyazott rendszerekhez

Cikkszám: 319359
Gyártó: AAEON
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez

AI Core XP8 AAEON  
AI Core XP8

4x AI Core XM 2280 on PCIe [x4] card

Tartozékok beágyazott rendszerekhez

Cikkszám: 319360
Gyártó: AAEON
Megrendelem:
  • Kosárba helyez
  • Árat lekérdez
  • A Kedvencekhez ad
  • Figyelemmel követés
  • Összehasonlításhoz hozzáad
Árat lekérdez
A cookie-k segítenek szolgáltatásaink nyújtásában, melyek igénybevételével Ön beleegyezik a cookie-k használatába.
OK Adatlap