Машин сургалтын загварууд яг одоо хаа сайгүй байна. Өдрийн турш та эдгээр загваруудыг төсөөлж байснаас хамаагүй илүү ашигладаг байх. Машин сургалтын загваруудыг олон нийтийн мэдээллийн хэрэгслээр үзэх, зураг авах, цаг агаарыг шалгах зэрэг нийтлэг ажлуудад ашигладаг.
Машин сургалтын алгоритм энэ блогийг танд санал болгосон байж магадгүй. Эдгээр загваруудыг сургахад хичнээн их цаг зарцуулдгийг бид бүгд сонссон. Эдгээр загваруудыг сургах нь цаг хугацаа их шаарддаг гэдгийг бид бүгд сонссон.
Гэсэн хэдий ч эдгээр загварууд дээр дүгнэлт хийх нь ихэвчлэн тооцооллын зардал ихтэй байдаг.
Бидэнд машин сургалтын үйлчилгээг ашиглаж буй хурдыг зохицуулах хангалттай хурдан компьютерийн системүүд хэрэгтэй. Үүний үр дүнд эдгээр загваруудын дийлэнх нь CPU болон GPU кластер (зарим тохиолдолд TPU ч) бүхий асар том мэдээллийн төвүүд дээр ажилладаг.
Та зураг авахдаа хүсч байна машин суралцах нэн даруй сайжруулах. Зургийг дата төв рүү шилжүүлж, боловсруулж, танд буцааж өгөхийг хүлээх шаардлагагүй. Энэ тохиолдолд машин сургалтын загварыг орон нутагт гүйцэтгэх ёстой.
Та "Hey Siri" эсвэл "OK, Google" гэж хэлэхэд таны гаджетууд даруй хариу өгөхийг хүсч байна. Таны дуу хоолойг компьютерт дамжуулж, үнэлж, мэдээлэл авахыг хүлээж байна.
Энэ нь цаг хугацаа шаарддаг бөгөөд хэрэглэгчийн туршлагад сөргөөр нөлөөлдөг. Энэ тохиолдолд та машин сургалтын загвар орон нутагт ажиллахыг хүсч байна. Энд TinyML орж ирдэг.
Энэ нийтлэлд бид TinyML-ийн талаар, энэ нь хэрхэн ажилладаг, түүний хэрэглээ, үүнийг хэрхэн эхлүүлэх, бусад олон зүйлийг авч үзэх болно.
Гэж юу вэ TinyML?
TinyML бол жижиг төхөөрөмжүүд болон суулгагдсан системийн гүйцэтгэл, чадлын хязгаарт машин сургалтын хувьсгалт боломжуудыг ашигладаг хамгийн сүүлийн үеийн шинжлэх ухаан юм.
Энэ салбарт амжилттай байршуулах нь програмууд, алгоритмууд, техник хангамж, програм хангамжийн талаар сайтар ойлголттой байх шаардлагатай. Энэ нь микроконтроллер, дижитал дохио процессор эсвэл бусад хэт бага чадлын тусгай процессоруудыг ашигладаг суулгагдсан системд гүнзгий суралцах болон машин сургалтын загваруудыг ашигладаг машин сургалтын дэд төрөл юм.
TinyML-ийг идэвхжүүлсэн суулгагдсан төхөөрөмжүүд нь ихэвчлэн төхөөрөмжийн нэг хэсэг болох тодорхой ажилд зориулсан машин сургалтын алгоритмыг ажиллуулах зорилготой юм. захын тооцоолол.
Цэнэглэх, батерейг солихгүйгээр долоо хоног, сар, бүр хэдэн жил ажиллахын тулд эдгээр суулгагдсан системүүд нь 1 мВт-аас бага эрчим хүчний хэрэглээтэй байх ёстой.
Энэ яаж ажилдаг вэ?
Микроконтроллер болон компьютерт ашиглаж болох цорын ганц машин сургалтын тогтолцоо юм TensorFlow Lite. Энэ нь хөгжүүлэгчдэд загвараа гар утас, суулгагдсан болон захын төхөөрөмж дээр ажиллуулах боломжийг олгодог багц хэрэгслүүд бөгөөд машиныг шууд сурах боломжийг олгодог.
Микроконтроллерийн интерфейсийг мэдрэгчээс (микрофон, камер, суулгагдсан мэдрэгч гэх мэт) өгөгдөл цуглуулахад ашигладаг.
Микроконтроллер руу илгээхээсээ өмнө өгөгдлийг үүлд суурилсан машин сургалтын загварт нэгтгэдэг. Эдгээр загваруудыг сургахын тулд офлайн горимд багц сургалтыг ихэвчлэн ашигладаг. Мэдрэгчийн өгөгдөлд ашиглагдах болно суралцах, дүгнэлт хийх тодорхой хэрэглээний хувьд аль хэдийн тодорхойлогдсон байна.
Хэрэв загвар нь сэрүүн үгийг илрүүлэхээр бэлтгэгдэж байгаа бол жишээлбэл, микрофоноос тасралтгүй аудио дамжуулалтыг зохицуулахаар аль хэдийн тохируулагдсан байна.
TensorFlow Lite-ийн хувьд Google Colab гэх мэт үүлэн платформын тусламжтайгаар өгөгдлийн багц сонгох, хэвийн болгох, загварыг дутуу эсвэл хэт тохируулах, тогтмолжуулах, өгөгдлийг нэмэгдүүлэх, сургалт, баталгаажуулалт, туршилт зэрэг бүх зүйлийг аль хэдийн хийсэн.
Бүрэн бэлтгэгдсэн загвар нь офлайн багц сургалтын дараа микроконтроллер, микрокомпьютер эсвэл дижитал дохионы процессор руу шилждэг. Уг загварт суулгагдсан төхөөрөмж рүү шилжсэний дараа нэмэлт сургалт байхгүй. Үүний оронд энэ нь зөвхөн мэдрэгч эсвэл оролтын төхөөрөмжүүдийн бодит цагийн өгөгдлийг загварыг ашиглахад ашигладаг.
Үүний үр дүнд TinyML машин сургалтын загвар нь онцгой бат бөх байх ёстой бөгөөд олон жилийн дараа давтан сургах эсвэл хэзээ ч дахин сургагдах боломжгүй байх ёстой. Загвар нь удаан хугацааны туршид, хамгийн тохиромжтой нь тодорхойгүй хугацаанд хамааралтай хэвээр байхын тулд бүх боломжит загвар дутуу болон хэт тохируулгыг судлах ёстой.
Гэхдээ яагаад TinyML ашигладаг вэ?
TinyML нь IoT-ийн үндсэн жижиг хэмжээний үүлэн үйлчилгээнд хамаарах хамаарлыг арилгах эсвэл багасгах зорилготойгоор эхэлсэн. машин суралцах үйл ажиллагаа. Энэ нь захын төхөөрөмжүүд дээр машин сургалтын загваруудыг ашиглах шаардлагатай болсон. Энэ нь дараахь үндсэн давуу талыг өгдөг.
- Бага чадалтай хэрэглээ: TinyML програм нь 1 милливаттаас бага эрчим хүч ашиглах нь дээр. Ийм бага эрчим хүч зарцуулдаг төхөөрөмж нь зоосны батерейгаар ажилладаг байсан ч мэдрэгчийн мэдээллээс хэдэн сар, жилээр дүгнэлт гаргасаар байх болно.
- Зардал бага: Энэ нь хямд өртөгтэй 32 битийн микроконтроллер эсвэл DSP дээр ажиллах зориулалттай. Эдгээр микроконтроллерууд нь тус бүрдээ хэдхэн цент байдаг бөгөөд тэдгээрт суулгасан систем нь 50 доллараас бага байдаг. Энэ нь жижиг машин сургалтын программуудыг өргөн цар хүрээтэй ажиллуулахад маш хэмнэлттэй сонголт бөгөөд ялангуяа машин сургалтыг ашиглах ёстой IoT програмуудад ашигтай байдаг.
- Хоцролтыг багасгах: Сүлжээгээр өгөгдөл зөөвөрлөх, солилцох шаардлагагүй тул програмууд нь хоцролт багатай байдаг. Мэдрэгчийн бүх өгөгдлийг орон нутгийн хэмжээнд бүртгэж, аль хэдийн бэлтгэгдсэн загварыг ашиглан дүгнэлт гаргадаг. Дүгнэлтийн үр дүнг сервер эсвэл клоуд руу бүртгэх эсвэл нэмэлт боловсруулалт хийх зорилгоор илгээж болно, гэхдээ энэ нь төхөөрөмж ажиллахад чухал биш юм. Энэ нь сүлжээний хоцролтыг багасгаж, үүлэн эсвэл сервер дээр хийх машин сургалтын үйлдлүүдийг хийх шаардлагагүй болно.
- Нууцлалын: Энэ нь интернет болон юмсын интернетэд ихээхэн анхаарал хандуулдаг. TinyML программ дахь машин сургалтын ажлыг мэдрэгч/хэрэглэгчийн өгөгдлийг сервер/үүлэнд хадгалах, илгээхгүйгээр дотоодод гүйцэтгэдэг. Үүний үр дүнд, сүлжээнд холбогдсон байсан ч эдгээр програмуудыг ашиглахад аюулгүй бөгөөд хувийн нууцад ямар ч эрсдэл учруулахгүй.
Програм
- Хөдөө аж ахуй - Хэзээ Тариаланчид ургамлын зургийг авч, TensorFlow Lite-ийн аппликейшн нь түүний доторх өвчнийг илрүүлдэг. Энэ нь ямар ч төхөөрөмж дээр ажилладаг бөгөөд интернет холболт шаарддаггүй. Уг журам нь хөдөө аж ахуйн ашиг сонирхлыг хамгаалж, хөдөөгийн тариаланчдын хувьд нэн чухал хэрэгцээ юм.
- Механик засвар үйлчилгээ – TinyML-ийг бага чадалтай төхөөрөмж дээр ашиглах үед машин дахь алдаа дутагдлыг байнга илрүүлж чаддаг. Энэ нь урьдчилан таамаглахад суурилсан засвар үйлчилгээ шаарддаг. Австралийн гарааны компани Ping Services нь турбины гадна талд бэхлэгдсэн салхин турбиныг хянадаг IoT төхөөрөмжөө танилцууллаа. Энэ нь аливаа асуудал, доголдол илэрсэн тохиолдолд эрх баригчдад мэдэгддэг.
- Эмнэлгүүд - The Solar Scare бол төсөл юм. Шумуул нь Денге, хумхаа зэрэг өвчний тархалтыг зогсоохын тулд TinyML ашигладаг. Энэ нь нарны эрчим хүчээр ажилладаг бөгөөд шумуул үржихийг саатуулахын тулд усанд дохио өгөхөөс өмнө шумуул үржих нөхцөлийг илрүүлдэг.
- Замын хөдөлгөөний хяналт – By TinyML-ийг бодит цагийн хөдөлгөөний мэдээллийг цуглуулдаг мэдрэгчүүдэд ашигласнаар бид замын хөдөлгөөнийг илүү сайн чиглүүлэх, яаралтай тусламжийн машинд хариу өгөх хугацааг багасгахад ашиглах боломжтой. Жишээлбэл, Swim.AI нь ухаалаг чиглүүлэлтийн тусламжтайгаар зорчигчдын аюулгүй байдлыг нэмэгдүүлэхийн зэрэгцээ түгжрэл, утааг багасгах зорилгоор өгөгдөл дамжуулахад энэхүү технологийг ашигладаг.
- Хууль: TinyML-ийг хууль сахиулах байгууллагад машин сургалт, дохио зангаа таних аргыг ашиглан танхайрах, хулгай хийх зэрэг хууль бус үйлдлүүдийг илрүүлэхэд ашиглаж болно. Үүнтэй төстэй програмыг банкны АТМ-ыг хамгаалахад ашиглаж болно. Хэрэглэгчийн зан төлөвийг ажигласнаар TinyML загвар нь тухайн хэрэглэгч гүйлгээ хийж буй жинхэнэ хэрэглэгч мөн үү, эсвэл АТМ-ийг хакердах, устгах гэж оролдож буй халдагч мөн эсэхийг урьдчилан таамаглаж чадна.
TinyML-г хэрхэн эхлүүлэх вэ?
TensorFlow Lite дээр TinyML-г ашиглаж эхлэхийн тулд танд тохирох микроконтроллерийн самбар хэрэгтэй болно. Микроконтроллеруудад зориулсан TensorFlow Lite нь доор жагсаасан микроконтроллеруудыг дэмждэг.
- Wio терминал: ATSAMD51
- Himax WE-I Plus EVB Endpoint AI хөгжүүлэх зөвлөл
- STM32F746 Discovery иж бүрдэл
- Adafruit EdgeBadge
- Synopsys DesignWare ARC EM програм хангамж хөгжүүлэх платформ
- Sony Express
- Arduino Nano 33 BLE мэдрэмж
- SparkFun Edge
- Микроконтроллерийн хэрэгсэлд зориулсан Adafruit TensorFlow Lite
- Adafruit Circuit тоглоомын талбай Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-EYE
Эдгээр нь машин сургалтын загварыг хэрэгжүүлэхэд хангалттай флаш санах ой, RAM, цагийн давтамжтай 32 битийн микроконтроллерууд юм. Самбарууд нь ямар ч суулгагдсан програмыг ажиллуулж, зорилтот програмд машины сургалтын загварыг ашиглах чадвартай олон тооны мэдрэгчтэй. руу машин сургалтын загварыг бий болгох, танд техник хангамжийн платформоос гадна зөөврийн компьютер эсвэл компьютер хэрэгтэй болно.
Техник хангамжийн платформ бүр микроконтроллеруудад зориулсан TensorFlow Lite багцыг ашигладаг машин сургалтын загваруудыг бүтээх, сургах, зөөвөрлөх өөрийн програмчлалын хэрэгслүүдтэй байдаг. TensorFlow Lite нь үнэ төлбөргүй байдаг тул ашиглах, өөрчлөх боломжтой нээлттэй эх.
TinyML болон TensorFlow Lite-ийг ашиглаж эхлэхийн тулд дээр дурдсан суулгагдсан техник хангамжийн платформуудын нэг, компьютер/зөөврийн компьютер, USB кабель, USB-с сериал хөрвүүлэгч, мөн суулгагдсан системээр машин сурах дадлага хийх хүсэл байхад л хангалттай. .
Тулгамдаж буй асуудал
TinyML-ийн ахиц дэвшил олон эерэг үр дүнд хүрсэн ч машин сургалтын салбар ихээхэн саад бэрхшээлтэй тулгарсаар байна.
- Програм хангамжийн олон талт байдал - Гар кодчилол, код үүсгэх, ML орчуулагч зэрэг нь TinyML төхөөрөмж дээр загвар байршуулах сонголтууд бөгөөд тус бүр нь өөр өөр цаг хугацаа, хүчин чармайлт шаарддаг. Үүний үр дүнд янз бүрийн үзүүлбэрүүд үүсч болно.
- Техник хангамжийн олон янз байдал - Тэнд хэд хэдэн техник хангамжийн сонголтууд байдаг. TinyML платформууд нь ерөнхий зориулалтын микроконтроллероос эхлээд хамгийн сүүлийн үеийн мэдрэлийн процессор хүртэл юу ч байж болно. Энэ нь янз бүрийн архитектурт загвар байршуулахад асуудал үүсгэдэг.
- Алдааг олж засварлах/дибаг хийх - Хэзээ ML загвар нь үүлэн дээр муу ажилладаг тул өгөгдлийг харж, юу болж байгааг ойлгоход хялбар байдаг. Загвар нь олон мянган TinyML төхөөрөмж дээр тархаж, үүлэн рүү буцах өгөгдлийн урсгал байхгүй үед дибаг хийх нь хэцүү болж, өөр арга хэрэглэх шаардлагатай болдог.
- Санах ойн хязгаарлалт - Уламжлалт ухаалаг гар утас, зөөврийн компьютер зэрэг платформуудад гигабайт RAM шаардлагатай байдаг бол TinyML төхөөрөмжүүд килобайт эсвэл мегабайт ашигладаг. Үүний үр дүнд байрлуулж болох загварын хэмжээ хязгаарлагдмал байна.
- Загварын сургалт - Хэдийгээр TinyML төхөөрөмж дээр ML загваруудыг ашиглах нь хэд хэдэн давуу талтай бөгөөд ML загваруудын дийлэнх хэсгийг давтаж, загварын нарийвчлалыг тасралтгүй сайжруулах зорилгоор үүлэн дээр сургасан хэвээр байна.
ирээдүйн
TinyML нь жижиг зайтай, батерейны зарцуулалт багатай, интернетийн холболтгүй эсвэл хязгаарлагдмал байдлаараа ирээдүйд асар их боломж бий. хиймэл оюун захын төхөөрөмжүүд эсвэл бие даасан суулгагдсан хэрэгслүүд дээр хэрэгжих болно.
Энэ нь IoT програмуудыг ашиглах замаар илүү хувийн, аюулгүй болгоно. Гэсэн хэдий ч TensorFlow Lite нь одоогоор микроконтроллер болон микрокомпьютеруудад зориулсан цорын ганц машин сургалтын систем бөгөөд мэдрэгч болон ARM-ийн CMSIS-NN зэрэг бусад харьцуулж болохуйц хүрээнүүд ажиллаж байна.
TensorFlow Lite нь Google-ийн Багийн хамтаар гайхалтай эхлэлийг тавьсан нээлттэй эхийн төсөл боловч үндсэн урсгалд орохын тулд олон нийтийн дэмжлэг хэрэгтэй хэвээр байна.
Дүгнэлт
TinyML бол суулгагдсан системийг машин сургалттай хослуулсан шинэ арга юм. Нарийн хиймэл оюун ухаан нь олон босоо чиглэл, домэйнд оргилдоо хүрэхийн хэрээр энэ технологи нь машин сургалт, хиймэл оюун ухааны томоохон салбар болж гарч ирж магадгүй юм.
Энэ нь IoT салбар болон машин сургалтыг олон домэйны тусгай салбарт ашиглаж буй мэргэжилтнүүдэд тулгарч буй олон бэрхшээлийг шийдвэрлэх боломжийг олгодог.
Машин сургалтыг ашиглах тухай ойлголт жижиг тооцоолол бүхий захын төхөөрөмжүүд ул мөр, эрчим хүчний хэрэглээ нь суулгагдсан систем, робот техникийг хэрхэн бүтээхийг ихээхэн өөрчлөх боломжтой.
хариу үлдээх