Table of Contents[Hūnā][Hōʻike]
ʻO nā hiʻohiʻona ʻōlelo nui kekahi o nā mea hoʻomohala hou loa i ke kahua o ka papahana ʻōlelo kūlohelohe a me nā ʻupena neural.
Kū ka OpenAI's GPT-3 ma ke ʻano he hoʻohālike maikaʻi loa ma waho. ʻAʻole hiki ke ʻike ʻia ka hoʻopuka ʻana o ke kŘkohu mai nā kikokikona mai ke kanaka mai.
Eia naʻe, ʻo GPT-3 kahi kumu hoʻohālike pani. ʻOiai ikaika loa, aia kekahi mau palena i hiki ʻole ke kūpono no kekahi mau hihia hoʻohana.
Ma kēiaʻatikala, e hele mākou i kekahi mau mea nui nā hoʻohālike ʻōlelo hiki ke hoʻokūkū me ka hana maka o GPT-3.
No ke aha e ʻimi ai i kahi koho OpenAI GPT-3?
Hoʻohana ka hoʻohālike GPT-3 o OpenAI i ka holomua haʻawina hohonu nā hiʻohiʻona e hana i ka kikokikona e like me ke kanaka. ʻO ia ke kolu o ka hanauna wanana ʻōlelo mai ka hale hana noiʻi o OpenAI.
Ua hoʻokuʻu mua ʻia ke kumu hoʻohālike ma ke ʻano he beta pani ʻia ma mua o ka wehe ʻana o OpenAI i ka API i ka lehulehu i ka hopena o 2021.
I kēia manawa, loaʻa iā GPT-3 nā kumu hoʻohālike ʻehā āu e koho ai. ʻO Ada, ʻo ke kumu hoʻohālike haʻahaʻa loa a wikiwiki hoʻi he $0.0004 wale nō no 1000 mau hōʻailona. ʻO ke kumu hoʻohālike ikaika loa o OpenAI, ʻo Davinci, he $0.02 no nā hōʻailona 1000, a i ʻole he 50 mau manawa ʻoi aku ke kumukūʻai.
Pono pū ʻo OpenAI i ka mea hoʻomohala e hahai i kā lākou iho kulekele hoʻohana. Hāʻawi ka mea hoʻomohala i kahi ʻāpana hoʻohana i hiki ke hoʻonui ʻia ke ʻae ʻia ka noi a ka mea hoʻomohala ma o ke kaʻina loiloi manual.
ʻOiai ʻike nui ʻia ka hoʻopuka GPT-3 no kāna hoʻopuka kiʻekiʻe, ʻaʻole ʻo ia wale nō ke kumu wānana ʻōlelo i hiki iā ʻoe ke hoʻohana.
E hele kāua i kekahi mau hiʻohiʻona hoʻokūkū hiki iā ʻoe ke hoʻohana ma ke ʻano he ʻokoʻa i ka GPT-3.
1. GPT-J
ʻO GPT-J kahi kumu hoʻohālike ʻōlelo open-source e ka hui Eleuther AI.
ʻO ka hana zero-pana ʻoi aku ka like me ka GPT-3 a ua kokoke loa i ka hana ma mua o nā hana GPT ʻē aʻe.
Ua hoʻomaʻamaʻa ʻia ka 6-billion parameter autoregressive text generation model ma kahi ʻikepili i kapa ʻia ʻo "The Pile".
Ka Pile ʻo ia ka hui pū ʻana o 22 mau ʻikepili liʻiliʻi i hui pū ʻia. He 825 GiB ka nui o ka waihona a ua ʻike ʻia ka manaʻo nui o nā kumu kula a me nā kumu ʻoihana.
Hiki iā ʻoe ke hoʻāʻo i ke kumu hoʻohālike iā ʻoe iho ma o kēia polokalamu kele pūnaewele manuahi.
Ua hiki iaʻu ke hoʻāʻo i ke kŘkohu me ka wikiwiki maʻalahi. Ua lanakila ʻo GPT-J i ka helu ʻana i nā "ala maikaʻi loa e aʻo ai i kahi ʻōlelo hou i kēia lā".
Eia nō naʻe, ʻano kikoʻī ka hana i ka wā aʻu i hoʻāʻo ai e nīnau iā ia e wehewehe i ke ʻano o ke kumu hoʻohālike autoregressive text generation.
ʻOiai ua kūpono ka hoʻopuka ʻana, ʻaʻole ia i pane maoli i ka wikiwiki ma ke ʻano koʻikoʻi.
kumu kūʻai
No ka mea he kumu hoʻohālike wehe ʻia ʻo GPT-J, hiki iā ʻoe ke holo i kāu iho ponoʻī iā ʻoe iho. Wahi a ka waihona kūhelu, ua hoʻolālā ʻia ke kŘkohu e holo ma luna o kahi tensor processing unit (TPU). ʻOiai ʻoi aku ka maikaʻi, ʻaʻole paha kēia ʻo ke koho kumu kūʻai maikaʻi loa mai ka mea haʻahaʻa loa a Google ke kumu kūʻai o nā TPU kapua ma kahi o $4.50 / hola.
E emi paha ke kumukūʻai ma ka holo lōʻihi e hoʻohana i kāu GPU ponoʻī a hoʻolimalima paha i kahi kikowaena GPU hoʻolaʻa ma o nā lawelawe like Vast.ai or FluidStack.
2. Jurassic-1
ʻO Jurassic-1 kahi kumu hoʻohālike ʻōlelo i hoʻokuʻu ʻia e AI21 Labs, kahi hui AI ʻIseraʻela i loea i ka NLP. E like me OpenAI, hāʻawi pū lākou i kahi API e hiki ai iā ʻoe ke komo i kā lākou ʻōlelo hoʻohālike.
Hiki iā ʻoe ke hana i kahi moʻokāki ma kā lākou paena e kiʻi i kahi polokalamu pūnaewele kahua pāʻani e hoʻāʻo i ke kumu hoʻohālike nou iho.
Aia pū ka AI21 Studio i kahi hiʻohiʻona kahi e hiki ai iā ʻoe ke hoʻomaʻamaʻa a nīnau i kāu mau mana maʻamau o kā lākou mau hiʻohiʻona Jurassic-1. Wahi a kahi ka leka uila maʻamau, Hiki i nā hi'ohi'ona ma'amau me ka li'ili'i o nā hi'ohi'ona he kanalima ke ho'okō i ka hana 'enekinia me ka ho'ohana 'ana i ke kumu ho'ohālike.
kumu kūʻai
Hāʻawi lākou i nā kumukūʻai hoʻohana maʻalahi no kēlā me kēia o kā lākou kumu hoʻohālike ʻekolu. No ka laʻana, uku lākou i $0.25 no kēlā me kēia 1000 hōʻailona i hana ʻia e ke kumu hoʻohālike. Ma ka awelika, ʻo kēlā me kēia hōʻailona ma kahi o 1 huaʻōlelo a i ʻole ʻeono mau huaʻōlelo.
ʻO ia ke ʻano hiki iā ʻoe ke hoʻohana i ke kumu hoʻohālike maikaʻi loa o AI21 e hana i kahi palapala 4000-huaʻōlelo no $1 wale nō. Hoʻokahi mea āu e hoʻomanaʻo ai, pono ʻoe e uku i ka liʻiliʻi o $29 i kēlā me kēia mahina e hoʻohana ai i ke kumu hoʻohālike.
3. TextSynth
ʻO TextSynth kekahi lawelawe pūnaewele NLP hiki iā ʻoe ke hoʻohana e hana i ka kikokikona. ʻAʻole like me nā hiʻohiʻona ʻelua ma mua, ʻaʻole ʻo TextSynth kahi hiʻohiʻona kūʻokoʻa. Hana ka lawelawe ma ka hāʻawi ʻana i ka mea hoʻohana i nā kumu hoʻohālike ʻōlelo nui ʻē aʻe e like me GPT-NeoX, M2M100 a me GPT-J.
Hiki i nā mea hoʻomohala ke hoʻohana i kā lākou i koe API e hoʻohui i nā kumu hoʻohālike ʻōlelo i kā lākou mau noi ponoʻī. Hiki iā ʻoe ke hoʻāʻo e nānā i kā lākou manuahi ʻaoʻao kahua pāʻani e ʻike i ka hana ʻana o kēlā me kēia kumu hoʻohālike i loaʻa.
kumu kūʻai
Hāʻawi kā lākou hoʻolālā manuahi iā ʻoe i ke komo ʻana i kā lākou mau hiʻohiʻona ʻōlelo āpau me kekahi mau palena uku. Hoʻopili ka lawelawe i kēlā me kēia noi i ka lōʻihi o 200 mau hōʻailona.
Hoʻopau ka papahana maʻamau i ka palena o ka helu o nā hōʻailona i hana ʻia. Hoʻokumu ʻia ke kumu hoʻohālike kumu kūʻai i mea e pale ai i nā lilo i manaʻo ʻole ʻia. ʻO ka helu haʻahaʻa o nā hōʻaiʻē e kūʻai ai he $20. ʻAʻole kūpono nā hōʻaiʻē i hoʻohana ʻole ʻia ma hope o hoʻokahi makahiki.
ʻO ke kumukūʻai o kēlā me kēia noi e pili ana i ka helu o ka hoʻokomo a me nā hōʻailona i hana ʻia. Ma muli o ka papaʻaina ma kā lākou pūnaewele mana, hiki iā ʻoe ke manaʻo e uku ma kahi o $0.75 a i $1.25 no ka hoʻohana ʻana i kā lākou mau hiʻohiʻona haʻahaʻa.
Panina
Manaʻolana, hiki i kēia ʻatikala ke kōkua iā ʻoe e ʻimi i kahi kumu hoʻohālike ʻōlelo kūpono a maikaʻi hoʻi āu e hoʻohana ai OpenAI GPT-3 koho.
He mana loa nā ʻōlelo hoʻohālike nui a hiki ke hoʻohana ʻia no nā hana like ʻole. Hiki ke hoʻohana ʻia lākou no ka hana ʻana i ka kikokikona, ka unuhi ʻana ma waena o nā ʻōlelo, a hoʻomaopopo a pane i ka ʻōlelo kūlohelohe.
Ma muli o kaʻu noiʻi ʻana ma ke ākea a me nā hoʻokolohua aʻu i alakaʻi ai, ʻoi aku ka maikaʻi o GPT-3 i kēlā me kēia kumu hoʻohālike ʻōlelo nui Ua ho'āʻo wau. Eia nō naʻe, hiki ke loli kēia i ka wā e hiki mai ana ke kūkulu a hoʻokuʻu ʻia nā mea noiʻi i nā hiʻohiʻona hou.
E hoʻomau ka poʻe noiʻi ma Google, Facebook, a me nā hale hana AI ʻē aʻe e hana i ka holomua ʻana i kā lākou LMM ponoʻī. ʻOiaʻiʻo paha e puka mai kekahi o kēia mau hui AI me kahi kumu hoʻohālike i ʻoi aku ma mua o GPT-3.
Waiho i ka Reply