Lisi o Mataupu[Natia][Fa'aali]
Atonu e te iloa e mafai e se komepiuta ona fa'amatala se ata.
Mo se faʻataʻitaʻiga, o se ata o se taifau o loʻo taʻalo ma lau fanau e mafai ona faʻaliliuina o 'maile ma tamaiti i le togalaau.' Ae pe na e iloa o le auala faʻafeagai ua mafai nei foi? E te taina ni upu, ona fau ai lea e le masini se ata fou.
E le pei ole su'esu'ega a Google, e su'e ata o iai, e fou uma. I tausaga talu ai nei, o OpenAI o se tasi lea o faʻalapotopotoga taʻutaʻua, lipotia iʻuga mataʻina.
Latou te aʻoaʻoina a latou algorithms i luga o faʻamaumauga tetele ma ata. Na latou lolomiina se pepa i luga o la latou ata GLIDE ata, lea na aʻoaʻoina i le faitau selau miliona o ata. I tulaga o le photorealism, e sili atu i lo latou ata muamua 'DALL-E'.
I lenei pou, o le a tatou vaʻavaʻai i le OpenAI's GLIDE, o se tasi o le tele o fuafuaga mataʻina e faʻatatau i le gaosia ma le suia o ata faʻataʻitaʻiga faʻatasi ai ma faʻataʻitaʻiga faʻasalalau faʻataʻitaʻiga. Tatou amata.
O le a Tatala AI Glide?
E ui o le tele o ata e mafai ona faʻamatalaina i upu, o le fatuina o ata mai tusitusiga e manaʻomia ai le poto faʻapitoa ma se taimi tele.
O le faʻatagaina o se sui AI e gaosia ata faʻapitoa mai gagana faʻanatura e le gata ina mafai ai e tagata ona fatuina mea faʻapitoa ma le tele o mea vaaia ma le faigofie e leʻi tupu muamua ae faʻatagaina foi mo le faʻaleleia atili faigofie ma le faʻaogaina lelei o ata na faia.
GLIDE e mafai ona faʻaoga e faʻasaʻo ai ata o loʻo iai e ala i le faʻaaogaina o faʻamatalaga masani gagana e faʻaofi ai mea fou, fatuina ata ma ata, faʻatino vali ata, ma faapena atu ai lava.
E mafai fo'i ona fa'aliliuina ata o laina fa'avae i ata fa'ata'oto, ma e iai fa'ata'ita'iga leai se fa'ata'ita'iga gaosiga ma fa'aleleia gafatia mo tulaga lavelave.
O su'esu'ega talu ai nei ua fa'aalia ai e mafai fo'i e fa'ata'ita'iga fa'asalalau fa'ata'ita'i ona maua ni ata fa'akomepiuta maualuga, ae maise lava pe a tu'ufa'atasia ma se ta'iala e faapaleni ai le eseese ma le fa'amaoni.
OpenAI lomia faasalalau a fa'ata'ita'iga fa'asalalau ta'iala i le masina o Me, lea e mafai ai ona fa'ataga fa'ata'ita'iga fa'asalalauga i luga o fa'ailoga o se fa'avasegaga. GLIDE fa'alelei i lenei manuia e ala i le aumaia o fa'asalalauga fa'ata'ita'i ile fa'afitauli ole fa'atupuina o ata fa'atonu.
Ina ua mae'a a'oa'oga se fa'ata'ita'iga fa'asalalauina GLIDE e 3.5 piliona e fa'aaoga ai se fa'ailoga tusitusi e tu'u i fa'amatalaga gagana fa'alenatura, na fa'ata'ita'i e le au su'esu'e ni ta'iala ta'iala se lua: ta'iala CLIP ma ta'iala e leai se fa'avasegaina.
O le CLIP ose auala e mafai ona fuaina mo le a'oa'oina o fa'atusa fa'atasi o tusitusiga ma ata e maua ai se togi e fa'atatau i le latalata o se ata i se fa'amatalaga.
Na fa'aogaina e le 'au lenei ta'iala i a latou fa'ata'ita'iga fa'asalalau e ala i le suia o le fa'avasegaina i se fa'ata'ita'iga CLIP e "ta'ita'ia" fa'ata'ita'iga. I le taimi nei, o le taʻiala e leai se faʻavasegaina o se taʻiala mo le faʻatonuina o faʻataʻitaʻiga faʻasalalau e le aofia ai le aʻoaʻoina o se faʻavasegaina ese.
GLIDE Architecture
O le fausaga o le GLIDE e aofia ai vaega e tolu: o se Ablated Diffusion Model (ADM) ua aʻoaʻoina e gaosia se ata 64 × 64, se faʻataʻitaʻiga (transformer) e aʻafia ai le faʻatupuina o ata e ala i se faʻamatalaga tusitusia, ma se faʻataʻitaʻiga faʻataʻitaʻiga e liua ai la tatou tamaʻi 64 × 64. ata i nisi fa'amatalaga 256 x 256 pika.
O vaega muamua e lua e galulue fa'atasi e fa'atonutonu le fa'atupuina o ata ina ia fa'aalia lelei le fa'atonuga o tusitusiga, a'o le vaega mulimuli e mana'omia e fa'afaigofie ai ona malamalama i ata tatou te fatuina. O le poloketi GLIDE na musuia e se lipoti na lomia i le 2021 lea na fa'aalia ai le fa'atupuina o fa'ata'ita'iga fa'ata'ita'i a le ADM i le taimi nei i le tulaga o fa'ata'ita'iga ata.
Mo le ADM, na faʻaaogaina e le au tusitala GLIDE le ata tutusa ImageNet 64 x 64 e pei o Dhariwal ma Nichol, ae faʻatasi ai ma laina 512 nai lo le 64. O le ata o le ImageNet e tusa ma le 2.3 piliona taʻaloga ona o lenei mea.
O le au GLIDE, e le pei o Dhariwal ma Nichol, na manaʻo e sili atu le faʻatonuina o le faʻagasologa o ata, o lea na latou tuʻufaʻatasia ai le faʻataʻitaʻiga faʻataʻitaʻiga ma se transformer e mafai ona gauai atu. O le GLIDE e tu'uina atu ia te oe le fa'atonuga o le fa'atupuina o ata e ala i le fa'agaioiina o fa'atonuga o tusitusiga.
E ausia lenei mea e ala i le aʻoaʻoina o le faʻataʻitaʻiga o le transformer i luga o se seti tele talafeagai o ata ma faʻamatalaga (e tutusa ma le faʻaaogaina i le DALL-E project).
O le tusitusiga na muamua fa'ailoga i se faasologa o K fa'ailoga ina ia fa'atutuina. A maeʻa lena, o faʻailoga e utaina i totonu o se faʻataʻitaʻiga transformer. O le gaosiga o le transformer e mafai ona faʻaaogaina i ni auala se lua. Mo le fa'ata'ita'iga ADM, o le fa'amaufa'ailoga mulimuli e fa'aaogaina nai lo le fa'apipi'iina o le vasega.
Lona lua, o le vaega mulimuli o fa'ailoga fa'apipi'i - o se fa'asologa o fa'ailoga fa'ailoga - o lo'o fa'atulagaina tuto'atasi i fua mo vaega ta'itasi i le fa'ata'ita'iga ADM ma fa'apipi'iina i fa'amatalaga mata'i ta'itasi.
O le mea moni, o lenei mea e mafai ai e le faʻataʻitaʻiga ADM ona maua se ata mai tuʻufaʻatasiga fou o faʻailoga tusitusiga tutusa i se tulaga faʻapitoa ma ata, faʻavae i luga o lona malamalama aʻoaʻoina o upu faʻaoga ma a latou ata faʻatatau. O lenei suiga o tusitusiga e aofia ai le 1.2 piliona taʻaloga ma faʻaaogaina poloka 24 totoe ma le lautele o le 2048.
Ma le mea mulimuli, o le upsampler diffusion model e aofia ai le tusa ma le 1.5 piliona taʻaloga ma e ese mai le faʻataʻitaʻiga faʻataʻitaʻiga ona o lona faʻasologa o tusitusiga e laʻititi, ma le lautele o 1024 ma 384 alalaupapa, faʻatusatusa i le faʻataʻitaʻiga faavae. O lenei faʻataʻitaʻiga, e pei ona taʻu mai e le igoa, fesoasoani i le faʻaleleia o le faʻataʻitaʻiga ina ia faʻaleleia atili le faʻamatalaina mo masini ma tagata.
Fa'ata'ita'iga fa'asalalau
GLIDE fa'atupuina ata e fa'aaoga ai lana lava fa'amatalaga o le ADM (ADM-G mo le "ta'ita'ia"). O le faʻataʻitaʻiga ADM-G o se suiga o le faʻasalalauga U-net faʻataʻitaʻiga. O se fa'ata'ita'iga U-net fa'asalalau e matua'i 'ese'ese mai faiga masani fa'atusa fa'atusa e pei ole VAE, GAN, ma transformers.
Latou te fausia se filifili Markov o laasaga faʻasalalau e faʻasolo malie le faʻaogaina o le pisa i totonu o faʻamaumauga, ona aʻoaʻo lea e toe faʻafoʻi le faʻasalalauga ma toe fausia faʻataʻitaʻiga manaʻomia mai le pisa naʻo. E fa'agaioi i vaega e lua: fa'asalalauina i luma ma tua.
O le auala fa'asalalau i luma, tu'uina atu se fa'amatalaga mai le fa'asoa moni o le fa'ata'ita'iga, fa'aopoopoina sina pisa itiiti i le fa'ata'ita'iga i luga o se fa'asologa o laasaga. A'o fa'atupula'ia la'asaga ma fa'alatalata atu i le le i'u, o le fa'ata'ita'iga e leiloa uma uiga iloagofie ma o le fa'asologa e amata ona pei o le gaussian curve isotropic.
I le taimi o le faʻasalalauga i tua vaega, le fa'ata'ita'iga fa'asalalau a'oa'o e toe fa'afo'i le aafiaga o le pisapisao fa'aopoopo i luga o ata ma toe fa'afo'i le ata na gaosia i lona foliga muamua e ala i le taumafai e fa'atusa le fa'asoaina o fa'ata'ita'iga muamua.
O se fa'ata'ita'iga fa'auma e mafai ona fa'apena i se fa'aoga leo Gaussian moni ma se vave. O le auala ADM-G e ese mai i le mea muamua ona o se faʻataʻitaʻiga, pe CLIP poʻo se suiga faʻapitoa, e aʻafia ai le faʻasalalauga i tua e ala i le faʻaaogaina o faʻailoga faʻamatalaga o loʻo faʻapipiʻiina.
Fa'ase'e gafatia
1. Tupulaga o Ata
Ole fa'aoga sili ona ta'uta'ua ma fa'aoga lautele ole GLIDE atonu ole fa'asologa o ata. E ui lava o ata e tauagafau ma GLIDE e faigata i foliga o manu / tagata, o le gafatia mo le gaosiga o ata e tasi e toetoe lava a le gata.
E mafai ona fatuina ata o manu, tagata lauiloa, laufanua, fale, ma le tele o isi mea, ma e mafai ona faia i le tele o sitaili faatufugaga faʻapea foʻi ma ata-moni. Fai mai le au tusitala o le au suʻesuʻe e mafai e le GLIDE ona faʻamatalaina ma fetuutuunai le tele o ituaiga o tusitusiga i totonu o se ata vaaia, e pei ona vaʻaia i faʻataʻitaʻiga o loʻo i lalo.
2. Fa'ase'e valivali
O le fa'aogaina o ata otometi a GLIDE e le taumate o le fa'aoga sili lea ona mata'ina. E mafai e GLIDE ona pu'eina se ata o lo'o iai e fai ma fa'aoga, fa'agasolo ma le fa'atonuga o tusitusiga i lou mafaufau mo nofoaga e mana'omia ona suia, ona fai lea o suiga fa'agaoioi i na vaega ma le faigofie.
E tatau ona faʻaoga faʻatasi ma se faʻataʻitaʻiga faʻataʻitaʻiga, pei ole SDEdit, e maua ai ni faʻaiʻuga sili atu. I le lumanaʻi, o faʻaoga e faʻaogaina ai gafatia e pei o nei atonu e taua tele i le atinaʻeina o auala e suia ai ata e leai se tulafono.
iʻuga
I le taimi nei ua uma ona tatou faia le faagasologa, e tatau ona e malamalama i faʻavae o le auala e galue ai GLIDE, faʻapea foʻi ma le lautele o ona gafatia i le fatuina o ata ma le faʻaogaina o ata.
Tuua se tali