Nan endistri teknoloji a, ou pa ka gen yon konvèsasyon san yon moun pa mansyone enferans, entèlijans atifisyèl (AI), ak aprantisaj machin (ML). Sepandan, li enpòtan sonje ke pandan ke tout tèm sa yo konekte, yo tou diferan anpil.
Nan atik sa a, nou pral eksplike diferans fondamantal yo epi mete aksan sou enpòtans ki genyen pou itilize teknoloji AI ki baze sou pwosesis tensor-, sitou nan sistèm kwen ak entegre. Konpare ak solisyon ki baze sou inite pwosesis grafik (GPU), inite pwosesis tensor (TPU) ofri pèfòmans ki pi efikas ak pri -efikas. Nou pral tou bay kèk egzanp ka itilize ilistre kote ou ta ka rankontre solisyon AI kwen nan tan kap vini an.
Fondamantal nan ML ak Enferans
ML refere a metodoloji modèl fòmasyon lè l sèvi avèk done reprezantan pou pèmèt machin yo aprann kijan pou fè travay yo. Pwosesis sa a ka trè entansif nan enfòmatik, jenere billions operasyon pou chak nouvo pwen done fòmasyon. Nati iteratif nan pwosesis fòmasyon an, konbine avèk seri done fòmasyon yo menmen ki nesesè pou reyalize gwo presizyon, kondwi demann pou pwosesis trè wo -pèfòmans- pwen k ap flote. Fòmasyon ML pi byen aplike kòm enfrastrikti sant done, kote gwo kapital ak depans operasyonèl yo ka jistifye lè yo amortize yo atravè anpil kliyan.
Enferans enplike nan sèvi ak modèl ki antrene pou jenere alimèt potansyèl pou nouvo done ki gen rapò ak done reprezantan sou ki modèl la te fòme. Enferans gen pou objaktif pou bay repons rapid nan kèk milisgond. Egzanp enferans yo enkli rekonesans lapawòl, tradiksyon lang reyèl-an tan reyèl, vizyon machin, ak desizyon optimize ensèsyon piblisite. Pandan ke enferans mande sèlman yon fraksyon nan pouvwa pwosesis la ki nesesè pou fòmasyon, li toujou depase sa ki tradisyonèl inite pwosesis santral (CPU)-ki baze sou sistèm ka bay, patikilyèman pou aplikasyon vizyon òdinatè. Se poutèt sa anpil konpayi yo ap tounen vin jwenn solisyon akselerasyon ki baze sou tensor-ki se kòm IP sou SoCs oswa tankou nan-akseleratè sistèm-pou reyalize dezyèm tan repons ki nesesè nan kwen an. Reyalite a se ke depans menm yon minit oswa kèk segonn trete imaj nan yon sistèm vizyon pa trè itil. Sistèm vizyon endistriyèl yo ap chèche vitès pwosesis nan nivo milisgond{13}}.
Separe Fòmasyon ak Enferans
Deplwaye menm pyès ki nan konpitè yo itilize pou fòmasyon pou jere chaj travay enferans yo ka lakòz plis -pwovizyon pou machin enferans ak akseleratè ak pyès ki nan konpitè CPU. Solisyon GPU yo devlope pou ML pandan dis dènye deseni ki sot pase yo pa nesesèman pi bon chwa pou deplwaman gwo -teknoloji enferans ML yo. Dyagram ki anba a montre parfe konparezon ant akseleratè TPU ak akseleratè GPU. Li montre klèman ke akseleratè TPU yo bay pi ba konsomasyon pouvwa, pri redwi, ak pi gwo efikasite konpare ak solisyon AGX ki baze sou GPU-, pandan y ap toujou bay nivo pèfòmans konvenkan pou aplikasyon pou enferans.
Yon lòt konsiderasyon kritik lè w ap apwoche fòmasyon ML ak solisyon enferans se anviwònman lojisyèl an. Jodi a, anpil bibliyotèk popilè yo itilize, tankou CUDA pou GPU NVIDIA, kad ML tankou TensorFlow ak PyTorch, bibliyotèk modèl optimize kwa-platfòm tankou Keras, ak plis ankò. Twous zouti sa yo esansyèl pou devlope ak fòmasyon modèl ML, men aplikasyon pou enferans mande pou yon seri zouti lojisyèl diferan, ki pi piti.
Kit zouti Enferans konsantre sou kouri modèl sou platfòm sib. Yo sipòte pòtaj modèl ki resevwa fòmasyon sou platfòm, ki ka enplike kèk transfòmasyon operatè, quantization, ak sèvis entegrasyon lame. Sepandan, sa a reprezante yon seri fonksyonalite relativman senp konpare ak sa ki nesesè pou devlopman ak fòmasyon modèl.
Zouti Enferans yo benefisye de kòmanse ak yon reprezantasyon ofisyèl nan modèl la. Open Neural Network Exchange (ONNX) se fòma estanda pou reprezante modèl ML. Kòm non an implique, li se yon estanda louvri jere kòm yon pwojè Fondasyon Linux. Teknoloji tankou ONNX pèmèt dekoupman fòmasyon ak sistèm enferans, akòde devlopè yo libète yo chwazi diferan platfòm optimize pou chak.
Egzanp aplikasyon vizyèl
Kòm ML ak teknoloji processeur enferans kontinye avanse ak evolye, aplikasyon yo ap pwopagasyon. Anba a se jis kèk kote ou ta ka rankontre teknoloji sa a nan lavni.
Sèvè Edge nan antrepriz tankou faktori, lopital, magazen an detay, ak enstitisyon finansye. Pou egzanp, nan anviwònman endistriyèl, AI ka ede ak jesyon envantè, deteksyon defo, e menm antretyen prediksyon anvan pwoblèm rive. Nan Yo Vann an Detay, li pèmèt karakteristik tankou estimasyon poze, lè l sèvi avèk vizyon òdinatè pou detekte ak analize pwèstans moun. Done ki soti nan analiz sa a ede revandè brik-ak-mòtye pi byen konprann konpòtman moun ak trafik pye nan magazen yo, sa ki pèmèt yo optimize layout magazen pou lavant maksimòm ak satisfaksyon kliyan.
Imaj -wo presizyon/wo-bon jan kalite pou aplikasyon tankou robotik, automatisation endistriyèl/enspeksyon, imaj medikal, imaj syantifik, siveyans ak kamera rekonesans objè, ak fotonik. Pa egzanp, metòd aprantisaj machin yo demontre kapasite pou detekte kansè nan trete reyon X-dijital yo. Pwosesis sa a enplike nan devlope yon modèl ML ki fèt pou trete imaj reyon X-, anjeneral lè l sèvi avèk algoritm segmantasyon semantik ki antrene pou idantifye blesi kansè yo. Pandan fòmasyon, yo itilize imaj kansè radyològ yo idantifye pou anseye rezo a sa ki pa kansè, ki sa ki kansè, ak ki jan diferan kalite kansè parèt. Plis yon modèl ML fòme, pi bon li vin nan maksimize dyagnostik kòrèk ak minimize dyagnostik move. Sa vle di aprantisaj machin yo depann non sèlman sou konsepsyon modèl entèlijan men egalman sou gwo kantite (dè dizèn de milye a dè milyon) nan egzanp done ak anpil atansyon seleksyone kote kansè yo te idantifye avèk ekspètiz.
Smart Shopping Carts-Plizyè konpayi ap devlope ak deplwaye sistèm fè makèt entèlijan ki rekonèt pwodwi pa kòd bar UPC yo, men pa aparans vizyèl anbalaj li menm. Karakteristik sa a pèmèt achtè yo tou senpleman mete atik nan kabwa a oswa sou sistèm kesye a san yo pa bezwen lokalize kòd UPC a epi eskane li ak yon eskanè lazè UPC. Teknoloji sa a fè pwosesis makèt la pi egzak, pi vit, ak pi pratik.
Pran bon desizyon
Konpayi yo dwe evalye tout solisyon ki disponib jodi a epi chwazi youn nan pi bon ki baze sou ka itilizasyon espesifik yo. Yo pa ka tou senpleman sipoze tout solisyon AI yo pi byen aplike sou aparèy GPU, paske solisyon ki baze sou TPU-ofri pi gwo efikasite pwosesis ak pi ba itilizasyon Silisyòm, kidonk diminye konsomasyon pouvwa ak pri.