AI-toega pildianalüüsi jaoks semantiline vahemälu

Divided island: How Haiti and the DR became two worlds (Aprill 2019).

Anonim

Kõrge eraldusvõimega, odavate andurite kättesaadavus suurendab eksponentsiaalselt toodetud andmemahtu, mis võib praegust Internetti häirida. Selle tulemusena on vajadus andmetöötlusvõimaluste asemel saata pilve andmekeskuste asemel arvutusvõimsus, et töödelda andmeid võrgustiku servade läheduses asuvate andmete läheduses. Nagu teada, ei mõjuta piirdeahendus mitte ainult ribalaiuse pinget, vaid vähendab ka toorandmete põhjal luureandmete hankimist. Siiski on ressursside kättesaadavus piiratud mastaabisäästu puudumise tõttu, mis muudavad pilveinfrastruktuuri kulutõhusaks haldamiseks ja pakkumiseks.

Serva arvutite potentsiaal pole kusagil ilmsem kui videoanalüütika puhul. Kõrglahutusega (1080p) videokaamerad muutuvad tavapäraseks sellistes valdkondades nagu jälgimine ja sõltuvalt kaadrisagedusest ja andmete pakkimisest saavad 4-12 megabiti andmeid sekundis. Uuemad 4K-eraldusvõimega kaamerad annavad toorandmeid järjestuses gigabiti sekundis. Selliste videovoogude reaalajas arusaamise nõue ajendab selliste AI-tehnikate kasutamist nagu sügavad närvivõrgud ülesannete jaoks, sealhulgas klassifitseerimine, objektide avastamine ja väljavõtmine ning anomaalia tuvastamine.

Meie IBM-i teadusuuringutega - Iirimaa meie eksperimentaalselt hinnas meie Hot Edge 2018 konverentsipaberis "Shadow Puppets: cloud-level accurate AI Inference at Speed ​​and Economy of Edge" ühe sellise AI töökoormuse, objektide klassifitseerimise ja kommertsiaalselt kättesaadava pilve teenindatud teenused. Parim tulemus, mille me võisime tagada, oli 2-kaadrisageduse sekundis klassifitseerimise väljund, mis on tunduvalt alla standardse videotootmise määra 24 kaadrit sekundis. Sarnase katse teostamine esindusliku servaseadme (NVIDIA Jetson TK1) poolt saavutas latentsusnõuded, kuid selle protsessi käigus kasutas enamik seadme kasutatavaid ressursse.

Me murrame seda duaalsust, pakkudes välja semantilise vahemälu, lähenemisviisi, mis ühendab väikese latentsusega servade kasutuselevõtmise koos peaaegu lõpmatute ressurssidega, mis on saadaval pilves. Me kasutame tuntud latentsete maskide vahemällu salvestamise tehnikat, täites konkreetse sisendiga (nt videokaamera) järelduspildi pilvega ja salvestades tulemusi serval vastu sõrmejälje vastu või hash-koodi, mis põhineb ekstraktidel sisendist.

See skeem on kavandatud selliselt, et sisendid, mis on semantiliselt sarnased (nt kuuluvad ühte klassi), omavad sõrmejälgi, mis on vastavalt mõnele kaugusele mõõta üksteise lähedal. Joonis 1 näitab vahemälu kujundust. Kodeerija loob sisendkaadri sõrmejälje ja otsib sõrmejälgede vahemällu kindla vahemaa kaugusel. Kui on olemas vastavus, siis viiakse järelduste tulemused vahemällu, vältides seega vajadust küsida pilve käitatavat AI-teenust.

Leiame sõrmejäljed, mis on analoogsed varirakkudele, kaksikmõõtmelised kujutiseprognoosid ekraanil, mille on tekitanud taustvalgus. Igaüks, kes on kasutanud oma sõrmi, et luua varinukesi, kinnitab, et detailide puudumine nendel joonistel ei piira nende võimet olla hea jutustamise aluseks. Sõrmejäljed on tegeliku sisendi projektsioonid, mida saab kasutada rikkalikult AI-rakendustes isegi esialgse detaili puudumisel.

Oleme välja töötanud täieliku tõendi semantilise vahemiku kontseptsiooni rakendamisest, järgides teenuse "kui teenuse" disaini lähenemisviisi ja pakkudes teenust servaseadme / gateway kasutajatele REST liidese kaudu. Meie hinnangud erinevatele servaseadmetele (Raspberry Pi 3 / NVIDIA Jetson TK1 / TX1 / TX2) on näidanud, et järelduse latentsus on vähenenud 3 korda ja ribalaiuse kasutamine vähemalt 50 protsenti, ainus lahendus.

Meie lähenemisviisi esimese prototüübi rakendamise varane hindamine näitab selle potentsiaali. Me jätkame esialgse lähenemisviisi väljaarendamist, eelistades eksperimenteerimist alternatiivsete kodeerimismeetoditega, et parandada täpsust, laiendades samal ajal hindamist täiendavate andmekogumite ja AI ülesannete hulka.

Me kavatseme seda tehnoloogiat kasutada jaemüügiks, tööstuslike rajatiste prognoositavaks hoolduseks ja muu hulgas videovalveks. Näiteks semantilist vahemälu saab kasutada toote piltide sõrmejälgede salvestamiseks kassades. Seda saab kasutada varguskahjude vältimiseks varguse või valesti skaneerimise tõttu. Meie lähenemisviis on näide sellest, et pilve ja turvaprobleeme pakutavad teenused sujuvalt vahelduvad, et pakkuda servale parimaid tõukefondide lahendusi.

menu
menu