פֿאַר יאָרן, טיף לערנען איז געמאכט די כעדליינז אין טעק. און, עס איז פּשוט צו פֿאַרשטיין וואָס.
דער צווייַג פון קינסטלעך סייכל איז טראַנספאָרמינג סעקטאָרס ריינדזשינג פון כעלטקער צו באַנקינג צו טראַנספּערטיישאַן, וואָס אַלאַוז ביז אַהער אַנטינגקאַבאַל אַדוואַנטידזשיז.
טיף לערנען איז געבויט אויף אַ גאַנג פון סאַפיסטאַקייטיד אַלגערידאַמז וואָס לערנען צו עקסטראַקט און פאָרויסזאָגן קאָמפּליצירט פּאַטערנז פון מאַסיוו וואַליומז פון דאַטן.
מיר וועלן קוקן אין די בעסטער 15 טיף לערנען אַלגערידאַמז אין דעם פּאָסטן, פֿון קאָנוואָלוטיאָנאַל נעוראַל נעטוואָרקס צו גענעראַטיווע אַדווערסאַריאַל נעטוואָרקס צו לאנג קורץ-טערמין זכּרון נעטוואָרקס.
דעם פּאָסטן וועט געבן יקערדיק ינסייץ צי איר זענט אַ אָנהייבער אָדער אַ מומחה אין טיף לערנען.
1. טראַנספאָרמער נעטוואָרקס
טראַנספאָרמער נעטוואָרקס האָבן פארוואנדלען קאָמפּיוטער זעאונג און נאַטירלעך שפּראַך פּראַסעסינג (NLP) אַפּלאַקיישאַנז. זיי אַנאַלייז ינקאַמינג דאַטן און נוצן ופמערקזאַמקייט פּראַסעסאַז צו כאַפּן לאַנג-קייט באציונגען. דאָס מאכט זיי פאַסטער ווי קאַנווענשאַנאַל סיקוואַנס-צו-סיקוואַנס מאָדעלס.
טראַנספאָרמער נעטוואָרקס זענען געווען ערשטער דיסקרייבד אין דער אויסגאבע "אכטונג איז אַלע איר דאַרפֿן" דורך Vaswani עט על.
זיי צונויפשטעלנ זיך פון אַ ענקאָדער און אַ דיקאָודער (2017). די טראַנספאָרמער מאָדעל האט דעמאַנסטרייטיד פאָרשטעלונג אין אַ פאַרשיידנקייַט פון NLP אַפּלאַקיישאַנז, אַרייַנגערעכנט סענטימענט אַנאַליסיס, טעקסט קאַטאַגעריזיישאַן און מאַשין איבערזעצונג.
טראַנספאָרמער-באזירט מאָדעלס קענען אויך זיין יוטאַלייזד אין קאָמפּיוטער זעאונג פֿאַר אַפּלאַקיישאַנז. זיי קענען דורכפירן אַבדזשעקץ דערקענונג און בילד קאַפּטיאָנינג.
2. לאנג קורץ-טערמין זכּרון נעטוואָרקס (LSTMs)
לאנג קורץ-טערמין זכּרון נעטוואָרקס (LSTMs) זענען אַ פאָרעם פון נעוראַל נעץ ספּעציעל געבויט צו שעפּן סאַקווענטשאַל אַרייַנשרייַב. זיי זענען ריפערד צו ווי "לאַנג קורץ טערמין" ווייַל זיי קענען צוריקרופן וויסן פון אַ לאַנג צייַט צוריק און אויך פאַרגעסן ומנייטיק אינפֿאָרמאַציע.
LSTMs אַרבעטן דורך עטלעכע "טויערן" וואָס רעגירן די לויפן פון אינפֿאָרמאַציע אין די נעץ. דעפּענדינג אויף צי די אינפֿאָרמאַציע איז באַטייטיק אָדער נישט, די טויערן קענען אָדער לאָזן עס אין אָדער פאַרמייַדן עס.
די טעכניק ינייבאַלז LSTMs צו צוריקרופן אָדער פאַרגעסן אינפֿאָרמאַציע פון פאַרגאַנגענהייט צייט סטעפּס, וואָס איז קריטיש פֿאַר טאַסקס ווי רעדע דערקענונג, נאַטירלעך שפּראַך פּראַסעסינג און צייט סעריע פאָרויסזאָגן.
LSTMs זענען גאָר וווילטויק אין קיין פאַל ווען איר האָבן סאַקווענטשאַל דאַטן וואָס מוזן זיין עוואַלואַטעד אָדער פאָרויסזאָגן. זיי זענען אָפט געניצט אין קול דערקענונג ווייכווארג צו גער גערעדט ווערטער אין טעקסט אָדער אין לאַגער מאַרק אַנאַליסיס צו פאָרויסזאָגן צוקונפֿט פּרייסאַז באזירט אויף פרייַערדיק דאַטן.
3. זיך-אָרגאַנייזינג מאַפּס (סאָמס)
סאָמס זענען אַ מין פון קינסטלעך נעוראַל נעץ וואָס קענען לערנען און פאָרשטעלן קאָמפּליצירט דאַטן אין אַ נידעריק-דימענשאַנאַל סוויווע. דער אופֿן אַפּערייץ דורך יבערמאַכן הויך-דימענשאַנאַל אַרייַנשרייַב דאַטן אין אַ צוויי-דימענשאַנאַל גריד, מיט יעדער אַפּאַראַט אָדער נעוראָן רעפּריזענטינג אַ אַנדערש טייל פון די אַרייַנשרייַב פּלאַץ.
די נוראַנז זענען לינגקט צוזאַמען און מאַכן אַ טאַפּאַלאַדזשיקאַל סטרוקטור, אַלאַוינג זיי צו לערנען און סטרויערן צו די אַרייַנשרייַב דאַטן. אַזוי, SOM איז באזירט אויף אַנסופּערווייזד לערנען.
דער אַלגערידאַם טוט נישט דאַרפֿן מיטן נאָמען דאַטן צו לערנען פון. אַנשטאָט, עס ניצט די סטאַטיסטיש פֿעיִקייטן פון די אַרייַנשרייַב דאַטן צו אַנטדעקן פּאַטערנז און קאָראַליישאַנז צווישן די וועריאַבאַלז.
בעשאַס די טריינינג בינע, נוראַנז קאָנקורירן צו זיין דער בעסטער אָנווייַז פון די אַרייַנשרייַב דאַטן. און, זיי זיך-אָרגאַניזירן אין אַ מינינגפאַל סטרוקטור. סאָמס האָבן אַ ברייט קייט פון אַפּלאַקיישאַנז, אַרייַנגערעכנט בילד און רעדע דערקענונג, דאַטן מיינינג און מוסטער דערקענונג.
זיי זענען נוציק פֿאַר וויזשוואַלייזינג קאָמפּליצירט דאַטן, קלאַסטערינג פֿאַרבונדענע דאַטן ווייזט, און דיטעקטינג אַבנאָרמאַלאַטיז אָדער אַוטלייערז.
4. טיף ריינפאָרסמאַנט לערנען
טיף ריינפאָרסמאַנט לערנען איז אַ סאָרט פון מאַשין לערנען אין וואָס אַן אַגענט איז טריינד צו מאַכן דיסיזשאַנז באזירט אויף אַ באַלוינונג סיסטעם. עס פאַנגקשאַנז דורך לאָזן די אַגענט ינטעראַקט מיט זיין סוויווע און לערנען דורך פּראָצעס און טעות.
דער אַגענט איז ריוואָרדיד פֿאַר יעדער קאַמף עס טוט, און זיין ציל איז צו לערנען ווי צו אַפּטאַמייז זיין בענעפיץ איבער צייַט. דאָס קען זיין גענוצט צו לערנען אגענטן צו שפּילן שפּילערייַ, פאָר אָטאַמאָובילז און אפילו פירן ראָובאַץ.
Q-Learning איז אַ באַוווסט דיפּ ריינפאָרסמאַנט לערנען אופֿן. עס אַפּערייץ דורך אַססעסס די ווערט פון טאן אַ זיכער קאַמף אין אַ באַזונדער שטאַט און אַפּדייטינג אַז אָפּשאַצונג ווי דער אַגענט ינטעראַקץ מיט די סוויווע.
דער אַגענט דערנאָך ניצט די עסטאַמאַץ צו באַשליסן וואָס קאַמף איז מערסט מסתּמא צו רעזולטאַט אין די גרעסטע באַלוינונג. Q-Learning איז געניצט צו דערציען אגענטן צו שפּילן Atari שפּילערייַ, ווי געזונט ווי צו פֿאַרבעסערן ענערגיע נוצן אין דאַטן סענטערס.
Deep Q-Networks איז אן אנדער באַרימט Deep Reinforcement Learning אופֿן (DQN). DQNs זענען ענלעך צו Q-Learning אין אַז זיי אָפּשאַצן קאַמף וואַלועס ניצן אַ טיף נעוראַל נעץ אלא ווי אַ טיש.
דאָס ינייבאַלז זיי צו האַנדלען מיט ריזיק, קאָמפּליצירט סעטטינגס מיט פילע אָלטערנאַטיוו אַקשאַנז. DQNs האָבן שוין געניצט צו באַן אגענטן צו שפּילן שפּילערייַ אַזאַ ווי Go און Dota 2, ווי געזונט ווי צו שאַפֿן ראָובאַץ וואָס קענען לערנען צו גיין.
5. ריקעראַנט נעוראַל נעטוואָרקס (RNNs)
RNNs זענען אַ סאָרט פון נעוראַל נעץ וואָס קענען פּראָצעס סאַקווענטשאַל דאַטן בשעת בעכעסקעם אַן ינערלעך שטאַט. באַטראַכטן עס ענלעך צו אַ מענטש וואָס לייענען אַ בוך, ווו יעדער וואָרט איז דיידזשעסטיד אין באַציונג צו די וואָס זענען געווען פריער.
RNNs זענען דעריבער ידעאַל פֿאַר טאַסקס ווי רעדע דערקענונג, שפּראַך איבערזעצונג און אפילו פאָרויסזאָגן די ווייַטער וואָרט אין אַ פראַזע.
RNNs אַרבעט דורך ניצן באַמערקונגען לופּס צו פאַרבינדן די רעזולטאַט פון יעדער צייט שריט צוריק צו די אַרייַנשרייַב פון דער ווייַטער צייט שריט. דאָס ינייבאַלז די נעץ צו נוצן פריערדיק צייט שריט אינפֿאָרמאַציע צו מיטטיילן זייַן פֿאָרויסזאָגן פֿאַר צוקונפֿט צייט סטעפּס. צום באַדויערן, דאָס אויך מיטל אַז RNNs זענען שפּירעוודיק צו די פאַרשווונדן גראַדיענט אַרויסגעבן, אין וואָס די גראַדיענץ געניצט פֿאַר טריינינג ווערן זייער קליינטשיק און די נעץ ראנגלענישן צו לערנען לאַנג-טערמין באציונגען.
טראָץ דעם קלאָר קאַנסטריינץ, RNNs האָבן געפֿונען נוצן אין אַ ברייט קייט פון אַפּלאַקיישאַנז. די אַפּלאַקיישאַנז אַרייַננעמען נאַטירלעך שפּראַך פּראַסעסינג, רעדע דערקענונג און אפילו מוזיק פּראָדוקציע.
גוגל איבערטייטשער, למשל, ניצט אַן RNN-באזירט סיסטעם צו איבערזעצן אַריבער שפּראַכן, בשעת Siri, די ווירטואַל אַסיסטאַנט, ניצט אַ RNN-באזירט סיסטעם צו דעטעקט קול. RNNs זענען אויך געניצט צו פאָרויסזאָגן לאַגער פּרייסיז און שאַפֿן רעאַליסטיש טעקסט און גראַפיקס.
6. קאַפּסל נעטוואָרקס
קאַפּסולע נעטוואָרקס איז אַ נייַע סאָרט פון נעוראַל נעץ פּלאַן וואָס קענען ידענטיפיצירן פּאַטערנז און קאָראַליישאַנז אין דאַטן מער יפעקטיוולי. זיי אָרגאַניזירן נוראַנז אין "קאַפּסאַלז" וואָס ענקאָוד עטלעכע אַספּעקץ פון אַ אַרייַנשרייַב.
דעם וועג זיי קענען מאַכן מער פּינטלעך פֿאָרויסזאָגן. קאַפּסל נעטוואָרקס עקסטראַקט פּראַגרעסיוולי קאָמפּליצירט פּראָפּערטיעס פון אַרייַנשרייַב דאַטן דורך ניצן פילע לייַערס פון קאַפּסאַלז.
די טעכניק פון קאַפּסולע נעטוואָרקס ינייבאַלז זיי צו לערנען כייעראַרקאַקאַל רעפּראַזאַנטיישאַנז פון די געגעבן אַרייַנשרייַב. זיי קענען ריכטיק ענקאָוד ספּיישאַל קאַנעקשאַנז צווישן זאכן אין אַ בילד דורך קאַמיונאַקייטינג צווישן קאַפּסאַלז.
אָבדזשעקט לעגיטימאַציע, בילד סעגמאַנטיישאַן און נאַטירלעך שפּראַך פּראַסעסינג זענען אַלע אַפּלאַקיישאַנז פון קאַפּסולע נעטוואָרקס.
קאַפּסל נעטוואָרקס האָבן די פּאָטענציעל צו זיין אָנגעשטעלט אין אָטאַנאַמאַס דרייווינג טעקנאַלאַדזשיז. זיי אַרוישעלפן די סיסטעם אין דערקענען און דיסטינגגווישינג צווישן זאכן אַזאַ ווי אָטאַמאָובילז, מענטשן און פאַרקער וואונדער. די סיסטעמען קענען ויסמיידן קאַליזשאַנז דורך מאַכן מער גענוי פֿאָרויסזאָגן וועגן די נאַטור פון אַבדזשעקץ אין זייער סוויווע.
7. וועריישאַנאַל אַוטאָענקאָדערס (VAEs)
VAEs זענען אַ פאָרעם פון טיף לערנען געצייַג וואָס איז געניצט פֿאַר אַנסופּערווייזד לערנען. דורך קאָדירונג דאַטן אין אַ נידעריקער-דימענשאַנאַל פּלאַץ און דאַן דיקאָודינג עס צוריק אין דער אָריגינעל פֿאָרמאַט, זיי קען לערנען צו געפֿינען פּאַטערנז אין דאַטן.
זיי זענען ווי אַ מכשף וואָס קענען יבערמאַכן אַ קיניגל אין אַ הוט און דעמאָלט צוריק אין אַ קראָליק! VAEs זענען וווילטויק פֿאַר דזשענערייטינג רעאַליסטיש וויזשוואַלז אָדער מוזיק. און זיי קענען ווערן גענוצט צו פּראָדוצירן נייַע דאַטן וואָס זענען פאַרגלייַכלעך צו דער אָריגינעל דאַטן.
VAEs זענען ענלעך צו סוד קאָדעברעאַקער. זיי קענען אַנטדעקן די אַנדערלייינג סטרוקטור פון דאַטן דורך ברייקינג עס אַראָפּ אין סימפּלער ביטן, פיל ווי ווי אַ רעטעניש איז צעבראכן אַראָפּ. זיי קען נוצן די אינפֿאָרמאַציע צו בויען נייַע דאַטן וואָס קוקט ווי דער אָריגינעל נאָך זיי האָבן אויסגעשטעלט די טיילן.
דאָס קען זיין נוציק פֿאַר קאַמפּרעסינג ריזיק טעקעס אָדער פּראָדוצירן פריש גראַפיקס אָדער מוזיק אין אַ זיכער סטיל. VAEs קענען אויך פּראָדוצירן פריש אינהאַלט, אַזאַ ווי נייַעס אָדער מוזיק ליריקס.
8. גענעראַטיווע אַדווערסאַריאַל נעטוואָרקס (גאַנס)
GANs (גענעראַטיווע אַדווערסאַריאַל נעטוואָרקס) זענען אַ פאָרעם פון אַ טיף לערנען סיסטעם וואָס דזשענערייץ נייַע דאַטן וואָס ריזעמבאַלז די אָריגינעל. זיי אַרבעטן דורך טריינינג צוויי נעטוואָרקס: אַ גענעראַטאָר און אַ דיסקרימינאַטאָר נעץ.
דער גענעראַטאָר טראגט נייַע דאַטן וואָס זענען פאַרגלייַכלעך צו דער אָריגינעל.
און דער דיסקרימינאַטאָר פרוווט צו ויסטיילן צווישן די אָריגינעל און באשאפן דאַטן. די צוויי נעטוואָרקס זענען טריינד אין טאַנדאַם, מיט די גענעראַטאָר פּרווון צו נאַרן די דיסקרימינאַטאָר און דער דיסקרימינאַטאָר פּרווון צו רעכט ידענטיפיצירן די אָריגינעל דאַטן.
באַטראַכטן GANs ווי אַ קרייַז צווישן אַ פאָרשער און אַ דעטעקטיוו. דער גענעראַטאָר פונקציאָנירן ענלעך צו אַ פאָרדזשער, און פּראָדוצירן נייַ אַרטוואָרק וואָס ריזעמבאַלז דער אָריגינעל.
דער דיסקרימינאַטאָר אקטן ווי אַ דעטעקטיוו, טריינג צו ויסטיילן צווישן עכט אַרטוואָרק און פאָרדזשערי. די צוויי נעטוואָרקס זענען טריינד אין טאַנדאַם, מיט די גענעראַטאָר ימפּרוווז צו מאַכן גלייבלעך שווינדל און דער דיסקרימינאַטאָר ימפּרוווז זיי צו דערקענען.
GANs האָבן עטלעכע ניצט, ריינדזשינג פון פּראָדוצירן רעאַליסטיש בילדער פון יומאַנז אָדער אַנימאַלס צו שאַפֿן נייַע מוזיק אָדער שרייבן. זיי קענען אויך זיין געוויינט פֿאַר דאַטן פאַרגרעסערונג, וואָס ינוואַלווז קאַמביינינג פּראָדוסעד דאַטן מיט פאַקטיש דאַטן צו בויען אַ גרעסערע דאַטאַסעט פֿאַר טריינינג מאַשין לערנען מאָדעלס.
9. טיף ק-נעטוואָרקס (DQNs)
Deep Q-Networks (DQNs) זענען אַ סאָרט פון באַשלוס-מאכן ריינפאָרסמאַנט אַלגערידאַם. זיי אַרבעטן דורך לערנען אַ ק-פונקציע וואָס פּרידיקס די דערוואַרט באַלוינונג פֿאַר טאן אַ זיכער קאַמף אין אַ באַזונדער צושטאַנד.
די Q-פונקציע איז געלערנט דורך פּראָצעס און טעות, מיט די אַלגערידאַם פּרווון פאַרשידן אַקשאַנז און לערנען פון די אַוטקאַמז.
באַטראַכטן עס ווי אַ ווידעא שפּיל כאַראַקטער עקספּעראַמענטינג מיט פאַרשידן אַקשאַנז און אַנטדעקן וואָס פירן צו הצלחה! DQNs באַן די ק-פונקציע ניצן אַ טיף נעוראַל נעץ, מאכן זיי עפעקטיוו מכשירים פֿאַר שווער באַשלוס-מאכן טאַסקס.
זיי האָבן אפילו דיפיטיד מענטש טשאַמפּיאָנס אין שפּילערייַ אַזאַ ווי גיין און שאָך, ווי געזונט ווי אין ראָובאַטיקס און זיך-דרייווינג אָטאַמאָובילז. אַזוי, אַלע אין אַלע, DQNs אַרבעט דורך לערנען פון דערפאַרונג צו פֿאַרבעסערן זייער באַשלוס-מאכן סקילז איבער צייט.
10. ראַדיאַל יקער פונקציע נעטוואָרקס (RBFNs)
Radial Basis Function Networks (RBFNs) זענען אַ סאָרט פון נעוראַל נעץ וואָס איז געניצט צו דערנענטערן פאַנגקשאַנז און דורכפירן קלאַסאַפאַקיישאַן טאַסקס. זיי אַרבעטן דורך יבערמאַכן די אַרייַנשרייַב דאַטן אין אַ העכער-דימענשאַנאַל פּלאַץ ניצן אַ זאַמלונג פון ריידיאַל יקער פאַנגקשאַנז.
דער רעזולטאַט פון די נעץ איז אַ לינעאַר קאָמבינאַציע פון די יקער פאַנגקשאַנז, און יעדער ריידיאַל יקער פונקציע רעפּראַזענץ אַ צענטער פונט אין די אַרייַנשרייַב פּלאַץ.
RBFNs זענען ספּעציעל עפעקטיוו פֿאַר סיטואַטיאָנס מיט קאָמפּליצירט אַרייַנשרייַב-רעזולטאַט ינטעראַקשאַנז, און זיי קענען זיין געלערנט מיט אַ ברייט קייט פון טעקניקס, אַרייַנגערעכנט סופּערווייזד און אַנסופּערווייזד לערנען. זיי האָבן שוין געניצט פֿאַר עפּעס פון פינאַנציעל פֿאָרויסזאָגן צו בילד און רעדע דערקענונג צו מעדיציניש דיאַגנאָסטיקס.
באַטראַכטן RBFNs ווי אַ גפּס סיסטעם וואָס ניצט אַ סעריע פון אַנקער ווייזט צו געפֿינען אַ וועג אַריבער טשאַלאַנדזשינג טעריין. דער רעזולטאַט פון די נעץ איז אַ קאָמבינאַציע פון די אַנקער ווייזט, וואָס שטייען אין די ריידיאַל יקער פאַנגקשאַנז.
מיר קענען בלעטער דורך קאָמפּליצירט אינפֿאָרמאַציע און דזשענערייט גענוי פֿאָרויסזאָגן וועגן ווי אַ סצענאַר וועט קער אויס דורך ניצן RBFNs.
11. מולטילייַער פּערסעפּטראָנס (מלפּס)
א טיפּיש פאָרעם פון נעוראַל נעץ גערופן אַ מולטילייַער פּערסעפּטאָן (מלפּ) איז געניצט פֿאַר סופּערווייזד לערנען טאַסקס ווי קלאַסאַפאַקיישאַן און ראַגרעשאַן. זיי אַרבעטן דורך סטאַקינג עטלעכע לייַערס פון לינגקט נאָודז, אָדער נוראַנז, מיט יעדער שיכטע ניט-לינעאַרלי טשאַנגינג די ינקאַמינג דאַטן.
אין אַ MLP, יעדער נעוראָן באַקומען אַרייַנשרייַב פון די נוראַנז אין די שיכטע אונטן און סענדז אַ סיגנאַל צו די נוראַנז אין די שיכטע אויבן. דער רעזולטאַט פון יעדער נעוראָן איז באשלאסן מיט אַן אַקטאַוויישאַן פֿונקציע, וואָס גיט די נעץ ניט-לינעאַריטי.
זיי זענען ביכולת צו לערנען סאַפיסטאַקייטיד רעפּראַזאַנטיישאַנז פון די אַרייַנשרייַב דאַטן זינט זיי קענען האָבן עטלעכע פאַרבאָרגן לייַערס.
MLPs האָבן שוין געווענדט צו אַ פאַרשיידנקייַט פון טאַסקס, אַזאַ ווי סענטימענט אַנאַליסיס, שווינדל דיטעקשאַן און קול און בילד דערקענונג. MLPs קען זיין קאַמפּערד מיט אַ גרופּע פון ינוועסטאַגייטערז ארבעטן צוזאַמען צו פּלאַצן אַ שווער פאַל.
צוזאַמען, זיי קענען שטיק צוזאַמען די פאקטן און סאָלווע די פאַרברעכן טראָץ דעם פאַקט אַז יעדער האט אַ באַזונדער געגנט פון ספּעציאַליטעט.
12. קאָנוואָלוטיאָנאַל נעוראַל נעטוואָרקס (CNNs)
בילדער און ווידיאס זענען פּראַסעסט מיט קאַנוואַלושאַנאַל נעוראַל נעטוואָרקס (CNNs), אַ פאָרעם פון נעוראַל נעץ. זיי פונקציאָנירן דורך ניצן אַ סכום פון לערןאַבאַל פילטערס, אָדער קערנאַלז, צו עקסטראַקט באַטייַטיק קעראַקטעריסטיקס פון די אַרייַנשרייַב דאַטן.
די פילטערס גליטשן איבער די אַרייַנשרייַב בילד, עקסאַקיוטינג קאַנוואַלושאַנז צו בויען אַ שטריך מאַפּע וואָס קאַפּטשערז יקערדיק אַספּעקץ פון די בילד.
ווי CNNs זענען ביכולת צו לערנען כייעראַרקאַקאַל רעפּראַזאַנטיישאַנז פון די בילד קעראַקטעריסטיקס, זיי זענען דער הויפּט נוציק פֿאַר סיטואַטיאָנס מיט ריזיק וואַליומז פון וויזשאַוואַל דאַטן. עטלעכע אַפּלאַקיישאַנז האָבן געוויינט פון זיי, אַזאַ ווי כייפעץ דיטעקשאַן, בילד קאַטאַגעריזיישאַן און פּנים דיטעקשאַן.
באַטראַכטן CNN ווי אַ מאָלער וואָס ניצט עטלעכע ברושעס צו שאַפֿן אַ מייַסטערווערק. יעדער באַרשט איז אַ קערן, און דער קינסטלער קען בויען אַ קאָמפּלעקס, רעאַליסטיש בילד דורך מיקסינג פילע קערנאַלז. מיר קענען עקסטראַקט באַטייַטיק קעראַקטעריסטיקס פון פאָטאָס און נוצן זיי צו אַקיעראַטלי פאָרויסזאָגן די אינהאַלט פון די בילד דורך ניצן CNNs.
13. טיף גלויבן נעטוואָרקס (DBNs)
DBNs זענען אַ פאָרעם פון נעוראַל נעץ וואָס איז געניצט פֿאַר אַנסופּערווייזד לערנען טאַסקס אַזאַ ווי דימענשאַנאַליטי רעדוקציע און שטריך לערנען. זיי פונקציאָנירן דורך סטאַקינג עטלעכע לייַערס פון ריסטריקטיד באָלטזמאַנן מאשינען (רבמס), וואָס זענען צוויי-שיכטע נעוראַל נעטוואָרקס וואָס קענען לערנען צו רעקאָנסטיטירן אַרייַנשרייַב דאַטן.
DBNs זענען זייער וווילטויק פֿאַר הויך-דימענשאַנאַל דאַטן ישוז ווייַל זיי קענען לערנען אַ סאָליד און עפעקטיוו פאַרטרעטונג פון די אַרייַנשרייַב. זיי האָבן שוין געניצט פֿאַר עפּעס פון קול דערקענונג צו בילד קאַטאַגעריזיישאַן צו מעדיצין ופדעקונג.
פֿאַר בייַשפּיל, ריסערטשערז געוויינט אַ DBN צו אָפּשאַצן די ביינדינג קירבות פון מעדאַקיישאַן קאַנדאַדייץ צו די עסטראָגען רעסעפּטאָר. די DBN איז טריינד אויף אַ זאַמלונג פון כעמישער קעראַקטעריסטיקס און ביינדינג אַפיניטיעס, און עס איז ביכולת צו אַקיעראַטלי פאָרויסזאָגן די ביינדינג קירבות פון ראָמאַן מעדיצין קאַנדאַדייץ.
דאָס כיילייץ די נוצן פון DBNs אין מעדיצין אַנטוויקלונג און אנדערע הויך-דימענשאַנאַל דאַטן אַפּלאַקיישאַנז.
14. אַוטאָענקאָדערס
אַוטאָענקאָדערס זענען נעוראַל נעטוואָרקס וואָס זענען געניצט פֿאַר אַנסערווייזד לערנען טאַסקס. זיי זענען בדעה צו רעקאָנסטרוירן די אַרייַנשרייַב דאַטן, וואָס ימפּלייז אַז זיי וועלן לערנען צו ענקאָוד די אינפֿאָרמאַציע אין אַ סאָליד פאַרטרעטונג און דעמאָלט דעקאָדע עס צוריק אין דער אָריגינעל אַרייַנשרייַב.
אַוטאָענקאָדערס זענען זייער עפעקטיוו פֿאַר דאַטן קאַמפּרעשאַן, ראַש באַזייַטיקונג און אַנאַמאַלי דיטעקשאַן. זיי קענען אויך זיין געוויינט פֿאַר שטריך לערנען, ווו די סאָליד פאַרטרעטונג פון די אַוטאָענקאָדער איז פעד אין אַ סופּערווייזד לערנען אַרבעט.
באַטראַכטן אַוטאָענקאָדערס צו זיין סטודענטן וואָס נעמען הערות אין קלאַס. דער סטודענט הערט זיך צו דעם רעפֿעראַט און שרײַבט אַראָפּ די מערסט וויכטיקע נקודות אויף אַ קונציק און עפעקטיוו שטייגער.
שפּעטער, דער תּלמיד קען לערנען און געדענקען די לעקציע מיט זייער הערות. אַ אַוטאָענקאָדער, אויף די אנדערע האַנט, ענקאָוד די אַרייַנשרייַב דאַטן אין אַ סאָליד פאַרטרעטונג וואָס קען דערנאָך זיין געוויינט פֿאַר פאַרשידענע צוועקן אַזאַ ווי אַנאַמאַלי דיטעקשאַן אָדער דאַטן קאַמפּרעשאַן.
15. ריסטריקטיד באָלטזמאַן מאַשינז (רבמס)
RBMs (Restricted Boltzmann Machines) זענען אַ סאָרט פון גענעראַטיווע נעוראַל נעץ וואָס איז געניצט פֿאַר אַנסערווייזד לערנען טאַסקס. זיי זענען געמאכט פון אַ קענטיק שיכטע און אַ פאַרבאָרגן שיכטע, מיט נוראַנז אין יעדער שיכטע, לינגקט אָבער נישט אין דער זעלביקער שיכטע.
RBMs זענען טריינד מיט אַ טעכניק באקאנט ווי קאַנטראַסטיוו דיווערדזשאַנס, וואָס ינטיילז טשאַנגינג די ווייץ צווישן די קענטיק און פאַרבאָרגן לייַערס אין סדר צו אַפּטאַמייז די מאַשמאָעס פון די טריינינג דאַטן. RBMs קען מאַכן פריש דאַטן נאָך טריינד דורך מוסטערונג פון די געלערנט פאַרשפּרייטונג.
בילד און רייד דערקענונג, קאַלאַבערייטיוו פֿילטרירונג, און אַנאַמאַלי דיטעקשאַן זענען אַלע אַפּלאַקיישאַנז וואָס האָבן געוויינט RBMs. זיי זענען אויך געניצט אין רעקאָמענדאַציע סיסטעמען צו שאַפֿן טיילערד רעקאַמאַנדיישאַנז דורך לערנען פּאַטערנז פון באַניצער נאַטור.
RBMs זענען אויך געניצט אין שטריך לערנען צו שאַפֿן אַ סאָליד און עפעקטיוו פאַרטרעטונג פון הויך-דימענשאַנאַל דאַטן.
ייַנוויקלען און פּראַמאַסינג דיוועלאַפּמאַנץ אויף די האָריזאָן
טיף לערנען מעטהאָדס, אַזאַ ווי קאָנוואָלוטיאָנאַל נעוראַל נעטוואָרקס (CNNs) און ריקעראַנט נעוראַל נעטוואָרקס (RNNs), זענען צווישן די מערסט אַוואַנסירטע קינסטלעך סייכל אַפּראָוטשיז. CNNs האָבן פארוואנדלען בילד און אַודיאָ דערקענונג, בשעת RNNs האָבן אַטשיווד באטייטיק אין נאַטירלעך שפּראַך פּראַסעסינג און סאַקווענטשאַל דאַטן אַנאַליסיס.
דער ווייַטער שריט אין דער עוואָלוציע פון די אַפּראָוטשיז איז מסתּמא צו פאָקוס אויף ימפּרוווינג זייער עפעקטיווקייַט און סקאַלאַביליטי, אַלאַוינג זיי צו אַנאַלייז ביגער און מער קאָמפּליצירט דאַטאַסעץ, ווי געזונט ווי ימפּרוווינג זייער ינטערפּריטאַביליטי און פיייקייט צו לערנען פון ווייניקער לייבאַלד דאַטן.
טיף לערנען האט די מעגלעכקייט צו לאָזן ברייקטרוז אין פעלדער אַזאַ ווי כעלטקער, פינאַנצן און אָטאַנאַמאַס סיסטעמען ווען עס אַדוואַנסיז.
לאָזן אַ ענטפֿערן