Machine Learning моделдери азыр бардык жерде. Күндүз, сиз бул моделдерди сиз ойлогондон да көп колдоносуз. Машина үйрөнүү моделдери социалдык тармактарды карап чыгуу, сүрөткө тартуу жана аба ырайын текшерүү сыяктуу жалпы милдеттерде колдонулат.
Машинаны үйрөнүү алгоритми бул блогду сизге сунуш кылган болушу мүмкүн. Бул моделдерди үйрөтүү канчалык көп убакытты талап кыларын баарыбыз укканбыз. Бул моделдерди даярдоо көп убакытты талап кыларын баарыбыз укканбыз.
Бирок, бул моделдер боюнча тыянак чыгаруу көп учурда эсептөө үчүн кымбатка турат.
Бизге машина үйрөнүү кызматтарын колдонуп жаткан ылдамдыкты башкаруу үчүн жетиштүү ылдам болгон компьютер системалары керек. Натыйжада, бул моделдердин көпчүлүгү CPU жана GPU кластерлери бар массалык маалымат борборлорунда иштетилет (айрым учурларда ал тургай TPU).
Сиз сүрөткө тартып жатканда, каалаган машина үйрөнүү аны дароо жакшыртуу үчүн. Сүрөттүн маалымат борборуна өткөрүлүп, иштетилип, сизге кайтарылышын күтүүнүн кереги жок. Бул учурда, машина үйрөнүү модели жергиликтүү түрдө аткарылышы керек.
"Эй Сири" же "Макул, Google" деп айтканыңызда, гаджеттериңиз дароо жооп беришин каалайсыз. Үнүңүздүн компьютерлерге берилишин күтүп, ал жерде бааланып, маалыматтар алынат.
Бул убакытты талап кылат жана колдонуучунун тажрыйбасына терс таасирин тийгизет. Бул учурда, сиз машинаны үйрөнүү моделинин жергиликтүү деңгээлде иштешин каалайсыз. Бул жерде TinyML кирет.
Бул постто биз TinyMLди, анын кантип иштээрин, анын колдонулушун, аны кантип баштоону жана башка көптөгөн нерселерди карап чыгабыз.
Эмне TinyML?
TinyML - бул машина үйрөнүүнүн революциялык потенциалын кичинекей түзүлүштөрдүн жана камтылган системалардын иштөөсүнө жана кубаттуулугунун чегине колдонгон эң алдыңкы дисциплина.
Бул тармакта ийгиликтүү жайылтуу тиркемелерди, алгоритмдерди, жабдыктарды жана программалык камсыздоону кылдат түшүнүүнү талап кылат. Бул микроконтроллерлерди, санарип сигнал процессорлорун же башка ультра аз кубаттуулуктагы адистештирилген процессорлорду колдонгон кыналган системаларда терең үйрөнүүнү жана машина үйрөнүүнүн моделдерин колдонгон машина үйрөнүү субжанры.
TinyML иштетилген кыналган түзмөктөр, адатта, түзмөктүн бир бөлүгү катары, белгилүү бир жумуш үчүн машинаны үйрөнүү алгоритмин иштетүү үчүн арналган. Гаджет эсептөө.
Апталар, айлар, атүгүл жылдар бою кайра заряддалбастан же батарейканы алмаштырбастан иштөө үчүн, бул орнотулган системалар 1 мВттан азыраак электр керектөөсүнө ээ болушу керек.
Бул кантип иштейт?
Микроконтроллерлер жана компьютерлер менен колдонула турган жалгыз машина үйрөнүү негизи TensorFlow Lite. Бул иштеп чыгуучуларга моделдерин мобилдик, кыстарылган жана четки түзмөктөрдө иштетүүгө мүмкүндүк берген куралдардын жыйындысы.
Микроконтроллердин интерфейси сенсорлордон (микрофондор, камералар же камтылган сенсорлор сыяктуу) маалыматтарды чогултуу үчүн колдонулат.
Микроконтроллерге жөнөтүлгөнгө чейин маалыматтар булуттагы машинаны үйрөнүү моделине киргизилет. Оффлайн режиминде пакеттик окутуу көбүнчө бул моделдерди окутуу үчүн колдонулат. үчүн колдонула турган сенсор маалыматтары үйрөнүү жана жыйынтык чыгаруу конкреттүү колдонуу үчүн мурунтан эле аныкталган.
Эгер модель ойгонгон сөздү аныктоого үйрөтүлүп жатса, мисалы, ал микрофондон үзгүлтүксүз аудио агымын башкарууга мурунтан эле орнотулган.
TensorFlow Lite учурунда баары Google Colab сыяктуу булут платформасынын жардамы менен жасалган, анын ичинде берилиштер топтомун тандоо, нормалдаштыруу, моделди туура эмес же ашыкча тууралоо, регуляризациялоо, маалыматтарды көбөйтүү, окутуу, текшерүү жана тестирлөө.
Толук даярдалган модель акыры трансформацияланат жана оффлайн пакеттик тренингден кийин микроконтроллерге, микрокомпьютерге же санариптик сигнал процессоруна өткөрүлүп берилет. Модель орнотулган түзмөккө көчүрүлгөндөн кийин эч кандай кошумча машыгууга ээ эмес. Анын ордуна, ал моделди колдонуу үчүн сенсорлордон же киргизүү түзмөктөрүнөн реалдуу убакыттагы маалыматтарды гана колдонот.
Натыйжада, TinyML машина үйрөнүү модели өзгөчө бышык болушу керек жана көп жылдардан кийин кайра окутулушу керек же эч качан кайра окутулбайт. Модель узак убакытка, идеалдуу чексиз убакытка чейин актуалдуу бойдон калуусу үчүн бардык потенциалдуу моделдин туура эмес жана ашыкча ылайыктуулугу изилдениши керек.
Бирок эмне үчүн TinyML колдонуш керек?
TinyML негизги чакан масштабдагы булут кызматтарына IoT көз карандылыгын жоюу же азайтуу аракети катары башталган машина үйрөнүү операциялар. Бул четтеги түзмөктөрдө машина үйрөнүү моделдерин колдонууну талап кылды. Ал төмөнкү негизги артыкчылыктарды камсыз кылат:
- Аз кубаттуулук керектөө: TinyML тиркемеси 1 милливатттан азыраак кубаттуулукту колдонушу керек. Мындай аз энергия керектөө менен, аппарат монета батареясы менен иштесе дагы, айлар же жылдар бою сенсордун маалыматтарынан жыйынтык чыгара бериши мүмкүн.
- Төмөнкү баасы: Бул арзан баадагы 32 биттик микроконтроллерлерде же DSPтерде иштөө үчүн иштелип чыккан. Бул микроконтроллерлер, адатта, ар бири бир нече центтен турат жана алар менен иштелип чыккан жалпы киргизилген система 50 доллардан аз. Бул кичинекей машинаны үйрөнүү программаларын чоң масштабда иштетүү үчүн абдан үнөмдүү вариант жана бул машина үйрөнүүсү колдонулушу керек болгон IoT тиркемелеринде өзгөчө пайдалуу.
- Төмөнкү кечигүү: Анын тиркемелери аз күтүү убактысына ээ, анткени алар тармак аркылуу маалыматтарды ташуунун же алмашуунун кереги жок. Бардык сенсор маалыматтары жергиликтүү түрдө жазылат жана буга чейин үйрөтүлгөн моделдин жардамы менен жыйынтыктар чыгарылат. Корутундулардын натыйжалары серверге же булутка журналга жазуу же кошумча иштетүү үчүн жөнөтүлүшү мүмкүн, бирок бул аппараттын иштеши үчүн маанилүү эмес. Бул тармактын кечигүү убактысын азайтат жана булутта же серверде машина үйрөнүү операцияларынын зарылдыгын жок кылат.
- Privacy: Бул интернетте жана нерселердин интернетинде негизги көйгөй. TinyML колдонмолорундагы машинаны үйрөнүү иши сенсор/колдонуучунун дайындарын серверге/булутка сактабастан же жөнөтпөстөн, жергиликтүү түрдө аткарылат. Натыйжада, тармакка туташкан болсо да, бул тиркемелерди колдонуу коопсуз жана купуялыкка эч кандай коркунуч туудурбайт.
Тиркемелер
- Айыл чарбасы - качан фермерлер өсүмдүктүн сүрөтүн тартып, TensorFlow Lite тиркемеси андагы ооруларды аныктайт. Ал каалаган түзмөктө иштейт жана интернет байланышын талап кылбайт. Бул жол-жобо айыл чарба кызыкчылыктарын коргойт жана айылдык фермерлер үчүн өтө зарыл зарылчылык болуп саналат.
- Механикалык тейлөө – TinyML аз кубаты бар түзмөктөрдө колдонулганда, дайыма машинадагы кемчиликтерди аныктай алат. Бул алдын ала негизделген тейлөөнү талап кылат. Ping Services австралиялык стартап фирмасы IoT гаджетин ишке киргизди, ал турбинанын сыртына жабышып шамал турбиналарын көзөмөлдөйт. Ал кандайдыр бир мүмкүн болгон көйгөй же бузулууларды аныктаганда бийликке кабарлайт.
- Ооруканалар - The Solar Scare бул долбоор. Чиркей денге жана безгек сыяктуу оорулардын жайылышын токтотуу үчүн TinyML колдонот. Ал күн энергиясы менен иштейт жана чиркейлердин көбөйүшүнө бөгөт коюу үчүн сууга белги бергенге чейин чиркейлердин көбөйүү шарттарын аныктайт.
- Жол кыймылын көзөмөлдөө - By реалдуу убакытта трафик маалыматтарын чогултуучу сенсорлорго TinyML колдонуу менен, биз аларды трафикти жакшыраак багыттоо жана шашылыш унаалардын жооп берүү убактысын кыскартуу үчүн колдоно алабыз. Мисалы, Swim.AI бул технологияны жүргүнчүлөрдүн коопсуздугун жогорулатуу үчүн маалыматтарды агымда колдонот, ошол эле учурда акылдуу маршруттук каттам аркылуу тыгындарды жана эмиссияларды азайтат.
- мыйзам: TinyML укук коргоо органдарында машина үйрөнүү жана жаңсоолорду таануу аркылуу массалык баш аламандык жана уурулук сыяктуу мыйзамсыз аракеттерди аныктоо үчүн колдонулушу мүмкүн. Ушундай эле программа банкоматтарды коргоо үчүн да колдонулушу мүмкүн. Колдонуучунун жүрүм-турумун көрүү менен, TinyML модели колдонуучу транзакцияны бүтүргөн чыныгы керектөөчүбү же банкоматты бузуп же жок кылууга аракет кылган бузукубу деп айта алат.
TinyML менен кантип баштоо керек?
TensorFlow Lite ичинде TinyML менен баштоо үчүн сизге туура келген микроконтроллер тактасы керек болот. Микроконтроллерлор үчүн TensorFlow Lite төмөндө келтирилген микроконтроллерлерди колдойт.
- Wio терминалы: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI өнүктүрүү кеңеши
- STM32F746 Discovery топтому
- Adafruit EdgeBadge
- Synopsys DesignWare ARC EM программалык камсыздоону иштеп чыгуу платформасы
- Sony Express
- Ардуино Nano 33 BLE Sense
- SparkFun Edge
- Микроконтроллерлер топтому үчүн Adafruit TensorFlow Lite
- Adafruit Circuit Playground Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Бул 32 биттик микроконтроллерлор, флеш-эстутум, оперативдүү эс тутум жана машинаны үйрөнүү моделин ишке ашыруу үчүн саат жыштыгы. Тактайларда ошондой эле каалаган орнотулган программаны иштетүүгө жана машина үйрөнүү моделдерин максаттуу колдонмого колдонууга жөндөмдүү бир катар борттук сенсорлор бар. үчүн машина үйрөнүү моделин түзүү, сизге аппараттык платформадан тышкары ноутбук же компьютер керек болот.
Ар бир аппараттык платформа микроконтроллерлор үчүн TensorFlow Lite пакетин колдонгон машина үйрөнүү моделдерин куруу, окутуу жана көчүрүү үчүн өзүнүн программалоо куралдарына ээ. TensorFlow Lite колдонууга жана өзгөртүүгө акысыз, анткени ал ачык булак.
TinyML жана TensorFlow Lite менен баштоо үчүн сизге жогоруда айтылган кыналган аппараттык платформалардын бири, компьютер/ноутбук, USB кабели, USB-серияга конвертер керек - жана орнотулган системалар менен машина үйрөнүүнү практикалоо каалоосу. .
көйгөйлөр
TinyMLдин прогресси көптөгөн оң натыйжаларды бергени менен, машина үйрөнүү тармагы дагы эле олуттуу тоскоолдуктарга дуушар болууда.
- Программалык камсыздоонун ар түрдүүлүгү – Кол менен коддоо, кодду түзүү жана ML котормочулары TinyML түзмөктөрүндө моделдерди жайылтуунун бардык варианттары жана ар бири ар кандай убакытты жана күчтү талап кылат. Мунун натыйжасында ар кандай спектаклдер пайда болушу мүмкүн.
- Аппараттык ар түрдүүлүк - бар бир нече аппараттык параметрлери бар. TinyML платформалары жалпы максаттагы микроконтроллерлерден эң алдыңкы нейрон процессорлоруна чейин бардык нерсе болушу мүмкүн. Бул ар түрдүү архитектураларда моделди жайылтууда көйгөйлөрдү жаратат.
- Мүчүлүштүктөрдү аныктоо / мүчүлүштүктөрдү оңдоо - Качан ML модели булутта начар иштейт, маалыматтарды карап, эмне болуп жатканын түшүнүү оңой. Модель миңдеген TinyML түзмөктөрүнө тараганда, маалымат агымы булутка кайтып келбесе, мүчүлүштүктөрдү оңдоо кыйын болуп, башка ыкманы колдонууну талап кылышы мүмкүн.
- Эстутум чектөөлөрү – Салттуу смартфондор жана ноутбуктар сыяктуу платформалар гигабайт оперативдик эстутумду талап кылат, ал эми TinyML түзмөктөрү килобайттарды же мегабайттарды колдонушат. Натыйжада, колдонулушу мүмкүн болгон моделдин көлөмү чектелген.
- Моделдик окутуу - Бирок TinyML түзмөктөрүндө ML моделдерин жайылтуунун бир нече артыкчылыктары бар, ML моделдеринин негизги бөлүгү дагы эле моделдин тактыгын итерациялоо жана тынымсыз жакшыртуу үчүн булутта үйрөтүлгөн.
болочок
TinyML өзүнүн кичинекей изи, аз батарейканы керектөө жана интернет байланышынын жоктугу же чектелген көз карандылыгы менен келечекте чоң потенциалга ээ, анткени тар Жасалма интеллект четки түзмөктөрдө же көз карандысыз камтылган гаджеттерде ишке ашырылат.
Бул IoT тиркемелерин колдонуу менен жеке жана коопсуз кылат. Бирок TensorFlow Учурда Lite микроконтроллерлор жана микрокомпьютерлер үчүн жалгыз машинаны үйрөнүү негизи болуп саналат, сенсор жана ARMдин CMSIS-NN сыяктуу башка салыштырылуучу алкактар иштеүүдө.
TensorFlow Lite бул ачык булактуу долбоор болуп саналат, ал Google'дун командасы менен укмуштуудай башталган, бирок негизги агымга кирүү үчүн коомчулуктун колдоосуна муктаж.
жыйынтыктоо
TinyML - бул орнотулган системаларды машина үйрөнүү менен айкалыштырган жаңы ыкма. Тар AI көптөгөн вертикалдарда жана домендерде чокусуна жеткендиктен, технология машинаны үйрөнүүдө жана жасалма интеллектте көрүнүктүү тармак катары чыга алат.
Бул IoT сектору жана көптөгөн домендик дисциплиналарга машиналык үйрөнүүнү колдонгон адистер туш болгон көптөгөн көйгөйлөрдүн чечилишин камсыз кылат.
Машина үйрөнүүнү колдонуу концепциясы кичинекей эсептөөчү аппараттар изи жана энергия керектөө орнотулган системалардын жана робототехниканын түзүлүшүн олуттуу түрдө өзгөртүү мүмкүнчүлүгүнө ээ.
Таштап Жооп