Google te toujou rete nan tèt rechèch AI, swe gwo resous li yo ak anplwaye yon kantite sibstansyèl enjenyè ki gen talan. Sepandan, an tèm de modèl lang, efò Google yo te an reta nan jwèt la.
Ak jeyan teknoloji Microsoft deja benefisye de yon patenarya anpil pitit pitit ak OpenAI, Google pa te gen okenn chwa ke ratrape.
Nan konferans Google I/O ane sa a, konpayi an te anonse repons li nan kous zam jeneratif AI: PaLM 2. Èske nouvo modèl sa a pral mezire pèfòmans ansanm ak GPT-4 OpenAI a?
Ki sa ki PaLM 2?
Google dekri PALM 2 kòm yon modèl lang dènye modèl ki amelyore modèl PaLM ki egziste deja yo te anonse premye nan 2022. Menm jan ak lòt modèl lang, PaLM 2 kapab fè plizyè travay jenerasyon tèks tankou PaLM kapab fè yon pakèt travay. , ki gen ladan reponn kesyon, tradui tèks, jenere kòd, Ak plis ankò.
Tès yo te montre ke PaLM 2 a deja montre amelyorasyon enpòtan, depase modèl PaLM la pandan w ap itilize yon kantite paramèt ki pi ba anpil.
PaLM 2 se yon Fanmi Modèl
Menm jan ak lòt modèl lang, pwojè PaLM 2 a se aktyèlman yon fanmi modèl ki varye nan gwosè. Google pral bay modèl PaLM 2 a nan kat gwosè: Gecko, Otter, Bison, ak Likorn.
Varyete nan gwosè fè li fasil pou deplwaye PaLM 2 nan plizyè ka itilize. Pou egzanp, modèl la Gecko se lejè ase ke tout modèl la ka anfòm nan yon aparèy mobil e menm kouri offline.
PaLM 2's Training Dataset
Youn nan aspè ki pi enpòtan nan yon modèl lang siksè se la seri done fòmasyon. Dataset fòmasyon an dwe divès ase pou pèmèt modèl la gen yon konpreyansyon pwofon sou sijè li fèt pou li a.
Pou modèl lang gwo (LLMs), pa gen okenn sijè espesifik modèl la dwe fòme sou. LLM yo olye yo bati yo dwe modèl jeneral ki dwe anfòm pou fè yon pakèt travay. Modèl sa yo sèvi ak gwo seri done tèks ki pran yon gwo pati nan entènèt la ansanm ak materyèl referans pibliye, literati, e menm kòd sous.
Diferans prensipal ant seri done fòmasyon PaLM 2 a ak lòt modèl se enklizyon de yon pousantaj ki pi wo nan done ki pa angle. Dapre yo rapò teknik, elaji seri done a pou enkli tèks ki pa angle yo ekspoze modèl la nan yon pi gran varyete lang ak kilti.
Modèl PaLM 2 a te resevwa fòmasyon tou sou done paralèl plizyè lang pou ede modèl la jwenn kapasite nan tradwi soti nan yon lang nan yon lòt. Done yo gen ladan pè tèks kote yon antre se an Angle ak lòt la se yon tèks ekivalan nan yon lòt lang.
Tablo ki anwo a montre distribisyon lang nan dokiman entènèt ki pale plizyè lang yo itilize pou fòme PaLM 2.
PaLM 2 Karakteristik kle
Men kèk nan domèn prensipal ke PaLM 2 ekselan nan konpare ak lòt modèl lang.
Rezònman
Ansanm done PaLM 2 a gen ladan sous tankou papye syantifik ak kontni entènèt ak ekspresyon matematik. Sa a bay modèl la amelyore kapasite nan matematik, rezònman bon sans, ak lojik.
Chèchè yo teste kapasite rezònman matematik modèl la sou kesyon matematik lekòl klas ak segondè kote li montre rezilta konparab ak kapasite matematik GPT-4.
kodaj
Done fòmasyon PaLM 2 a tou ba li kapasite pou jenere kòd nan yon varyete lang pwogramasyon. Ekip PALM 2 la te kreye yon modèl PaLM 2 espesifik pou kodaj ki rele PaLM 2-S* ki te fòme sou yon seri done ki gen anpil lang ki gen anpil kòd.
Non sèlman modèl la kapab jenerasyon kòd, men li kapab tou okipe travay ki enplike plizyè lang. Pou egzanp, ou ka mande PaLM 2 pou kreye yon fonksyon klasman Python ki ajoute kòmantè liy pa liy nan lang Panyòl.
Multilingualite
Depi yo te fòme modèl la sou yon seri done ki gen plis pase 100 lang, PaLM 2 montre konpetans nan konpreyansyon, jenere, ak tradui tèks nan plizyè lang.
Pou teste miltilingualite, chèchè yo teste modèl la sou plizyè tès konpetans lang nan diferan lang. Rezilta yo montre ke nonsèlman PaLM 2 pi wo pase PaLM, men tou li reyalize yon nòt pase pou chak lang evalye.
PaLM 2 montre tou kapasite miltiling li yo grasa kapasite li genyen pou l konprann idiom nan diferan lang, eksplike blag, repare fot, e li ka menm aprann kijan pou konvèti tèks fòmèl nan chat pale.
PaLM 2 Pouvwa pwodwi Google yo
Google deja pran avantaj de avansman PaLM 2 a nan entegre modèl la ak lòt pwodwi yo.
Bard
Kapasite modèl la pou okipe travay plizyè lang se kounye a alimante Google la Bard eksperyans kòm li elaji nan plis pase 180 peyi ak teritwa.
Kounye a, Bard ap itilize kapasite kodaj PaLM 2 a tou pou ede nan pwogramasyon ak travay devlopman lojisyèl tankou jenerasyon kòd ak debogaj kòd.
Duet AI pou Google Workspace
Google ap planifye tou pou ajoute karakteristik AI jeneratif nan gwoup aplikasyon Google Workspace li yo. Gmail ak Docs pral byento genyen yon karakteristik ki rele Duet AI ki pral ede itilizatè a ekri repons yo ak ekri lè l sèvi avèk envit.
Duet AI pral pèmèt itilizatè yo tou kreye plan koutim nan Google Sheets pou travay ak pwojè ki baze sou envit itilizatè a bay.
konklizyon
Google siman espere fèmen diferans ki genyen nan mache zouti lang AI ak modèl lang PaLM 2 yo. Pandan ke API modèl la poko disponib piblikman, rezilta yo nan rechèch yo montre ke modèl la konpetitif ase pou matche ak pèfòmans GPT-4 la.
Avèk baz itilizatè Google ki egziste deja, yo sètènman gen avantaj nan adaptasyon masiv si AI yo vin entegre nan sèvis yo tankou motè rechèch yo oswa seri zouti pwodiktivite yo.
Kite yon Reply