טיש פון קאָנטענץ[באַהאַלטן][ווייַזן]
- 1. וואָס פּונקט איז דיפּ לערנען?
- 2. וואָס דיסטינגגווישיז טיף לערנען פון מאַשין לערנען?
- 3. וואָס זענען דיין קראַנט פארשטאנד פון נעוראַל נעטוואָרקס?
- 4. וואָס פּונקט איז אַ פּערסעפּטאָן?
- 5. וואָס פּונקט איז אַ טיף נעוראַל נעץ?
- 6. וואָס פּונקט איז אַ מולטילייַער פּערסעפּטראָן (מלפּ)?
- 7. וואָס ציל טאָן אַקטאַוויישאַן פאַנגקשאַנז שפּילן אין אַ נעוראַל נעץ?
- 8. וואָס פּונקט איז גראַדיענט אַראָפּגאַנג?
- 9. וואָס פּונקט איז די קאָסט פונקציע?
- 10. ווי קענען טיף נעטוואָרקס אַוטפּערפאָרם פּליטקע אָנעס?
- 11. באַשרייַבן פאָרויס פּראַפּאַגיישאַן.
- 12. וואָס איז באַקפּראָפּאַגאַטיאָן?
- 13. אין דעם קאָנטעקסט פון טיף לערנען, ווי טאָן איר באַגרייַפן גראַדיענט קליפּינג?
- 14. וואָס זענען די סאָפטמאַקס און רעלו פאַנגקשאַנז?
- 15. קענען אַ נעוראַל נעץ מאָדעל זיין טריינד מיט אַלע די ווייץ שטעלן צו 0?
- 16. וואָס אונטערשיידן אַן עפּאָכע פון אַ פּעקל און אַ יטעראַטיאָן?
- 17. וואָס זענען באַטש נאָרמאַליזיישאַן און דראָפּאַוט?
- 18. וואָס סעפּערייץ סטאָטשאַסטיק גראַדיענט אַראָפּגאַנג פון באַטש גראַדיענט אַראָפּגאַנג?
- 19. פארוואס איז עס קריטיש צו אַרייַננעמען ניט-לינעאַריטיעס אין נעוראַל נעטוואָרקס?
- 20. וואָס איז אַ טענסאָר אין טיף לערנען?
- 21. ווי וואָלט איר קלייַבן די אַקטאַוויישאַן פונקציע פֿאַר אַ טיף לערנען מאָדעל?
- 22. וואס מיינט איר מיט CNN?
- 23. וואָס זענען די פילע CNN לייַערס?
- 24. וואָס זענען די יפעקץ פון אָוווער- און אַנדערפיטטינג, און ווי קענען איר ויסמיידן זיי?
- 25. אין טיף לערנען, וואָס איז אַ רנן?
- 26. באַשרייַבן די אַדאַם אָפּטימיזער
- 27. טיף אַוטאָענקאָדערס: וואָס זענען זיי?
- 28. וואָס טוט Tensor מיינען אין Tensorflow?
- 29. אַ דערקלערונג פון אַ קאַמפּיוטיישאַנאַל גראַפיק
- 30. גענעראַטיווע אַדווערסאַריאַל נעטוואָרקס (גאַנס): וואָס זענען זיי?
- 31. ווי וועט איר קלייַבן די נומער פון נוראַנז און פאַרבאָרגן לייַערס צו אַרייַננעמען אין די נעוראַל נעץ ווען איר פּלאַן די אַרקאַטעקטשער?
- 32. וואָס מינים פון נעוראַל נעטוואָרקס זענען אָנגעשטעלט דורך טיף ריינפאָרסמאַנט לערנען?
- סאָף
טיף לערנען איז נישט אַ נייַע געדאַנק. קינסטלעך נעוראַל נעטוואָרקס דינען ווי דער בלויז יסוד פון די מאַשין לערנען סאַבסעט באקאנט ווי טיף לערנען.
טיף לערנען איז אַ מענטש מאַרך מימיק, פיל ווי נעוראַל נעטוואָרקס זענען, ווי זיי זענען באשאפן צו נאָכמאַכן דעם מענטש מאַרך.
עס איז געווען דאָס פֿאַר אַ בשעת. די טעג, אַלעמען איז גערעדט וועגן עס זינט מיר טאָן ניט האָבן קימאַט ווי פיל פּראַסעסינג מאַכט אָדער דאַטן ווי מיר טאָן איצט.
אין די לעצטע 20 יאָר, טיף לערנען און מאַשין לערנען האָבן ימערדזשד ווי אַ רעזולטאַט פון די דראַמאַטיק העכערונג אין פּראַסעסינג קאַפּאַציטעט.
אין סדר צו אַרוישעלפן איר צו גרייטן זיך פֿאַר קיין ינקוועריז ווען איר זוכט פֿאַר דיין חלום אַרבעט, דעם פּאָסטן וועט פירן איר דורך אַ נומער פון טיף לערנען אינטערוויו פֿראגן, ריינדזשינג פון פּשוט צו קאָמפּליצירט.
1. וואָס פּונקט איז דיפּ לערנען?
אויב איר זענט אַטענדינג אַ טיף לערנען אינטערוויו, איר בלי פֿאַרשטיין וואָס טיף לערנען איז. דער ינטערוויוזער, אָבער, אַנטיסאַפּייץ איר צו צושטעלן אַ דיטיילד ענטפער צוזאמען מיט אַ געמעל אין ענטפער צו דעם קשיא.
אין סדר צו באַן נוראַל נעטוואָרקס פֿאַר טיף לערנען, באַטייטיק אַמאַונץ פון אָרגאַניזירט אָדער אַנסטראַקטשערד דאַטן מוזן זיין געוויינט. צו געפֿינען פאַרבאָרגן פּאַטערנז און קעראַקטעריסטיקס, עס טוט קאָמפּליצירט פּראָוסידזשערז (פֿאַר בייַשפּיל, דיסטינגגווישינג די בילד פון אַ קאַץ פון אַז פון אַ הונט).
2. וואָס דיסטינגגווישיז טיף לערנען פון מאַשין לערנען?
ווי אַ צווייַג פון קינסטלעך סייכל באקאנט ווי מאַשין לערנען, מיר באַן קאָמפּיוטערס ניצן דאַטן און סטאַטיסטיש און אַלגערידאַמיק טעקניקס אַזוי אַז זיי באַקומען בעסער מיט צייט.
ווי אַן אַספּעקט פון מאַשין וויסן, טיף לערנען ימאַטייץ די נעוראַל נעץ אַרקאַטעקטשער געזען אין די מענטשלעך מאַרך.
3. וואָס זענען דיין קראַנט פארשטאנד פון נעוראַל נעטוואָרקס?
קינסטלעך סיסטעמען באקאנט ווי נעוראַל נעטוואָרקס ריזעמבאַל די אָרגאַניק נעוראַל נעטוואָרקס געפֿונען אין דעם מענטש גוף זייער ענג.
ניצן אַ טעכניק וואָס ריזעמבאַלז ווי די מענטשלעך מאַרך פאַנגקשאַנז, אַ נעוראַל נעץ איז אַ זאַמלונג פון אַלגערידאַמז וואָס יימז צו ידענטיפיצירן אַנדערלייינג קאָראַליישאַנז אין אַ שטיק פון דאַטן.
די סיסטעמען קריגן אַרבעט-ספּעציפיש וויסן דורך יקספּאָוזינג זיך צו אַ קייט פון דאַטאַסעץ און ביישפילן, אלא ווי דורך נאָכפאָלגן קיין אַרבעט-ספּעציפיש כּללים.
דער געדאַנק איז אַז אַנשטאָט פון אַ פאַר-פּראָוגראַמד פארשטאנד פון די דאַטאַסעץ, די סיסטעם לערנט דיסטינגגווישינג קעראַקטעריסטיקס פון די דאַטן עס איז פאסטעכער.
די דריי נעץ לייַערס וואָס זענען מערסט קאַמאַנלי געניצט אין נעוראַל נעטוואָרקס זענען ווי גייט:
- אַרייַנשרייַב שיכטע
- פאַרבאָרגן שיכטע
- רעזולטאַט שיכטע
4. וואָס פּונקט איז אַ פּערסעפּטאָן?
די בייאַלאַדזשיקאַל נעוראָן געפֿונען אין דעם מענטש מאַרך איז פאַרגלייַכלעך צו אַ פּערסעפּטאָן. קייפל ינפּוץ זענען באקומען דורך די פּערסעפּטראָן, וואָס דעמאָלט פּערפאָרמז פילע טראַנספאָרמאַציע און פאַנגקשאַנז און פּראָדוצירן אַ רעזולטאַט.
א לינעאַר מאָדעל גערופן אַ פּערסעפּטאָן איז אָנגעשטעלט אין ביינערי קלאַסאַפאַקיישאַן. עס סימיאַלייץ אַ נעוראָן מיט אַ פאַרשיידנקייַט פון ינפּוץ, יעדער מיט אַ אַנדערש וואָג.
דער נעוראָן קאַלקיאַלייץ אַ פֿונקציע ניצן די ווייטיד ינפּוץ און אַוטפּוץ די רעזולטאַטן.
5. וואָס פּונקט איז אַ טיף נעוראַל נעץ?
א טיף נעוראַל נעץ איז אַ קינסטלעך נעוראַל נעץ (ANN) מיט עטלעכע לייַערס צווישן די אַרייַנשרייַב און רעזולטאַט לייַערס (DNN).
טיף נעוראַל נעטוואָרקס זענען טיף אַרקאַטעקטשער נעוראַל נעטוואָרקס. די וואָרט "טיף" רעפערס צו פאַנגקשאַנז מיט פילע לעוועלס און וניץ אין אַ איין שיכטע. מער פּינטלעך מאָדעלס קענען זיין באשאפן דורך אַדינג מער און ביגער לייַערס צו כאַפּן גרעסערע לעוועלס פון פּאַטערנז.
6. וואָס פּונקט איז אַ מולטילייַער פּערסעפּטראָן (מלפּ)?
אַרייַנשרייַב, פאַרבאָרגן און רעזולטאַט לייַערס זענען פאָרשטעלן אין MLPs, פיל ווי אין נעוראַל נעטוואָרקס. עס איז געבויט ענלעך צו אַ איין-שיכטע פּערסעפּטאָן מיט איין אָדער מער פאַרבאָרגן לייַערס.
די ביינערי רעזולטאַט פון אַ איין שיכטע פּערסעפּטאָן קענען בלויז קאַטאַגערייזירן לינעאַר סעפּאַראַבלע קלאסן (0,1), כוועראַז MLP קענען קלאַסיפיצירן ניט-לינעאַר קלאסן.
7. וואָס ציל טאָן אַקטאַוויישאַן פאַנגקשאַנז שפּילן אין אַ נעוראַל נעץ?
אַן אַקטאַוויישאַן פֿונקציע דיטערמאַנז צי אַ נעוראָן זאָל אַקטאַווייט אויף די מערסט פונדאַמענטאַל מדרגה אָדער נישט. קיין אַקטאַוויישאַן פֿונקציע קענען אָננעמען די ווייטיד סאַכאַקל פון די ינפּוץ פּלוס פאָרורטייל ווי אַרייַנשרייַב. אַקטאַוויישאַן פאַנגקשאַנז אַרייַננעמען די סטעפּ פֿונקציע, די סיגמאָיד, די רעלו, די טאַנה און די סאָפטמאַקס.
8. וואָס פּונקט איז גראַדיענט אַראָפּגאַנג?
דער בעסטער צוגאַנג פֿאַר מינאַמייזינג אַ פּרייַז פונקציע אָדער אַ טעות איז גראַדיענט אַראָפּגאַנג. דער ציל איז צו געפֿינען די היגע-גלאבאלע מינימאַ פון אַ פֿונקציע. דאָס ספּעציפיצירט דעם וועג וואָס דער מאָדעל זאָל נאָכפאָלגן צו מינאַמייז טעות.
9. וואָס פּונקט איז די קאָסט פונקציע?
די פּרייַז פֿונקציע איז אַ מעטריק צו אַססעסס ווי גוט דיין מאָדעל פּערפאָרמז; עס איז מאל באקאנט ווי "אָנווער" אָדער "טעות." בעשאַס באַקפּראָפּאַגיישאַן, עס איז געניצט צו רעכענען די טעות פון די רעזולטאַט שיכטע.
מיר גווורע די ינאַקיעראַטי צו פאָרזעצן די טריינינג פּראַסעסאַז פון די נעוראַל נעץ דורך פּושינג עס צוריק דורך די נעוראַל נעץ.
10. ווי קענען טיף נעטוואָרקס אַוטפּערפאָרם פּליטקע אָנעס?
פאַרבאָרגן לייַערס זענען מוסיף צו נעוראַל נעטוואָרקס אין אַדישאַן צו אַרייַנשרייַב און רעזולטאַט לייַערס. צווישן די אַרייַנשרייַב און רעזולטאַט לייַערס, פּליטקע נעוראַל נעטוואָרקס ניצן אַ איין פאַרבאָרגן שיכטע, כאָטש טיף נעוראַל נעטוואָרקס נוצן פילע לעוועלס.
א פּליטקע נעץ ריקווייערז עטלעכע פּאַראַמעטערס אין סדר צו פּאַסיק אין קיין פונקציע. טיף נעטוואָרקס קענען פּאַסיק פאַנגקשאַנז בעסער אפילו מיט אַ קליין נומער פון פּאַראַמעטערס זינט זיי אַרייַננעמען עטלעכע לייַערס.
טיף נעטוואָרקס זענען איצט בילכער ווייַל פון זייער ווערסאַטילאַטי אין ארבעטן מיט קיין טיפּ פון דאַטן מאָדעלינג, צי עס איז פֿאַר רעדע אָדער בילד דערקענונג.
11. באַשרייַבן פאָרויס פּראַפּאַגיישאַן.
ינפּוץ זענען טראַנסמיטטעד צוזאַמען מיט ווייץ צו די בעריד שיכטע אין אַ פּראָצעס באקאנט ווי פאָרווערדינג פּראַפּאַגיישאַן.
דער רעזולטאַט פון די אַקטאַוויישאַן פֿונקציע איז קאַמפּיוטאַד אין יעדער באַגראָבן שיכטע איידער פּראַסעסינג קענען גיין צו די פאלגענדע שיכטע.
דער פּראָצעס סטאַרץ ביי די אַרייַנשרייַב שיכטע און פּראָגרעסיז צו די לעצט רעזולטאַט שיכטע, אַזוי די נאָמען פאָרויס פּראַפּאַגיישאַן.
12. וואָס איז באַקפּראָפּאַגאַטיאָן?
ווען ווייץ און בייאַסיז זענען אַדזשאַסטיד אין די נעוראַל נעץ, באַקפּראָפּאַגאַטיאָן איז געניצט צו רעדוצירן די פּרייַז פונקציע דורך ערשטער אַבזערווינג ווי די ווערט ענדערונגען.
פארשטאנד די גראַדיענט אין יעדער פאַרבאָרגן שיכטע מאכט קאַלקיאַלייטינג דעם ענדערונג פּשוט.
דער פּראָצעס, באקאנט ווי באַקפּראָפּאַגאַטיאָן, סטאַרץ ביי די רעזולטאַט שיכטע און מאָוועס צוריק צו די אַרייַנשרייַב לייַערס.
13. אין דעם קאָנטעקסט פון טיף לערנען, ווי טאָן איר באַגרייַפן גראַדיענט קליפּינג?
גראַדיענט קליפּינג איז אַ מעטאָד פֿאַר ריזאַלווינג די אַרויסגעבן פון יקספּלאָודינג גראַדיענץ וואָס שטייען בעשאַס באַקפּראָפּאַגיישאַן (אַ צושטאַנד אין וואָס באַטייטיק פאַלש גראַדיענץ אַקיומיאַלייט איבער צייַט, וואָס פירן צו באַטייטיק אַדזשאַסטמאַנץ צו נעוראַל נעץ מאָדעל ווייץ בעשאַס טריינינג).
יקספּלאָודינג גראַדיענץ איז אַן אַרויסגעבן אַז ערייזאַז ווען די גראַדיאַנץ ווערן צו גרויס בעשאַס טריינינג, מאכן די מאָדעל אַנסטייבאַל. אויב דער גראַדיענט איז אַריבער די דערוואַרט קייט, די גראַדיענט וואַלועס זענען פּושט עלעמענט-דורך-עלעמענט צו אַ פּרעדעפינעד מינימום אָדער מאַקסימום ווערט.
גראַדיענט קליפּינג ימפּרוווז די נומעריקאַל פעסטקייַט פון אַ נעוראַל נעץ בעשאַס טריינינג, אָבער עס האט מינימאַל פּראַל אויף די פאָרשטעלונג פון די מאָדעל.
14. וואָס זענען די סאָפטמאַקס און רעלו פאַנגקשאַנז?
אַן אַקטאַוויישאַן פֿונקציע גערופן סאָפטמאַקס טראגט אַ רעזולטאַט אין די קייט צווישן 0 און 1. יעדער רעזולטאַט איז צעטיילט אַזוי אַז די סאַכאַקל פון אַלע די אַוטפּוץ איז איינער. פֿאַר רעזולטאַט לייַערס, סאָפטמאַקס איז אָפט געניצט.
רעקטיפיעד לינעאַר יוניט, מאל באקאנט ווי רעלו, איז די מערסט געוויינט אַקטאַוויישאַן פונקציע. אויב X איז positive, עס אַוטפּוץ X, אַנדערש עס אַוטפּוץ זעראָס. רעלו איז קעסיידער געווענדט צו בעריד לייַערס.
15. קענען אַ נעוראַל נעץ מאָדעל זיין טריינד מיט אַלע די ווייץ שטעלן צו 0?
די נעוראַל נעץ וועט קיינמאָל לערנען צו פאַרענדיקן אַ געגעבן אַרבעט, דעריבער עס איז ניט מעגלעך צו באַן אַ מאָדעל דורך יניטיאַליזינג אַלע ווייץ צו 0.
די דעריוואַטיווז וועלן בלייבן די זעלבע פֿאַר יעדער וואָג אין W [1] אויב אַלע ווייץ זענען יניטיאַלייזד צו נול, וואָס וועט רעזולטאַט אין נוראַנז לערנען די זעלבע פֿעיִקייטן יטעראַטיוולי.
ניט פשוט יניטיאַלייזינג די ווייץ צו 0, אָבער צו קיין פאָרעם פון קעסיידערדיק איז מסתּמא צו רעזולטאַט אין אַ סובפּאַר רעזולטאַט.
16. וואָס אונטערשיידן אַן עפּאָכע פון אַ פּעקל און אַ יטעראַטיאָן?
פאַרשידענע פארמען פון פּראַסעסינג דאַטאַסעץ און גראַדיענט אַראָפּגאַנג טעקניקס אַרייַננעמען פּעקל, יטעראַטיאָן און עפּאָס. עפּאָטש ינוואַלווז אַמאָל-דורך אַ נעוראַל נעץ מיט אַ פול דאַטאַסעט, ביידע פאָרויס און צוריק.
אין סדר צו צושטעלן פאַרלאָזלעך רעזולטאַטן, די דאַטאַסעט איז אָפט דורכגעגאנגען עטלעכע מאָל זינט עס איז צו גרויס צו פאָרן אין אַ איין פּרובירן.
די פירונג פון ריפּיטידלי לויפן אַ קליין קוואַנטיטי פון דאַטן דורך אַ נעוראַל נעץ איז ריפערד צו ווי יטעראַטיאָן. צו גאַראַנטירן אַז די דאַטן שטעלן הצלחה דורכפאָר די נעוראַל נעטוואָרקס, עס קענען זיין צעטיילט אין אַ נומער פון באַטשאַז אָדער סאַבסעץ, וואָס איז באקאנט ווי באַטשינג.
דעפּענדינג אויף די גרייס פון דאַטן זאַמלונג, אַלע דריי מעטהאָדס - עפּאָכע, יטעראַטיאָן און פּעקל גרייס - זענען בייסיקלי וועגן צו נוצן די גראַדיענט אַראָפּגאַנג אַלגערידאַם.
17. וואָס זענען באַטש נאָרמאַליזיישאַן און דראָפּאַוט?
דראָפּאַוט פּריווענץ דאַטן אָוווערפיט דורך ראַנדאַמלי רימוווינג ביידע קענטיק און פאַרבאָרגן נעץ וניץ (טיפּיקלי דראַפּינג 20 פּראָצענט פון די נאָודז). עס דאַבאַלז די נומער פון יטעריישאַנז פארלאנגט צו באַקומען די נעץ צו קאַנווערדזש.
דורך נאָרמאַלייזינג די ינפּוץ אין יעדער שיכטע צו האָבן אַ דורכשניטלעך רעזולטאַט אַקטאַוויישאַן פון נול און אַ נאָרמאַל דיווייישאַן פון איין, פּעקל נאָרמאַליזיישאַן איז אַ סטראַטעגיע צו פאַרבעסערן די פאָרשטעלונג און פעסטקייַט פון נעוראַל נעטוואָרקס.
18. וואָס סעפּערייץ סטאָטשאַסטיק גראַדיענט אַראָפּגאַנג פון באַטש גראַדיענט אַראָפּגאַנג?
פּעקל גראַדיענט אַראָפּגאַנג:
- די גאַנץ דאַטאַסעט איז געניצט צו בויען די גראַדיענט פֿאַר די פּעקל גראַדיענט.
- די ריזיק סומע פון דאַטן און די סלאָולי אַפּדייטינג ווייץ מאַכן קאַנווערדזשאַנס שווער.
סטאָטשאַסטיק גראַדיענט אַראָפּגאַנג:
- די סטאָטשאַסטיק גראַדיענט ניצט אַ איין מוסטער צו רעכענען די גראַדיענט.
- רעכט צו די מער אָפט וואָג ענדערונגען, עס קאַנווערדזשיז באטייטיק מער געשווינד ווי די פּעקל גראַדיענט.
19. פארוואס איז עס קריטיש צו אַרייַננעמען ניט-לינעאַריטיעס אין נעוראַל נעטוואָרקס?
ניט קיין ענין ווי פילע לייַערס עס זענען, אַ נעוראַל נעץ וועט ביכייוו ווי אַ פּערסעפּטאָן אין דער אַוועק פון ניט-לינעאַריטיעס, וואָס מאכט די רעזולטאַט לינעאַרלי אָפענגיק אויף די אַרייַנשרייַב.
צו לייגן עס אן אנדער וועג, אַ נעוראַל נעץ מיט n לייַערס און ב פאַרבאָרגן וניץ און לינעאַר אַקטאַוויישאַן פאַנגקשאַנז איז עקוויוואַלענט צו אַ לינעאַר נעוראַל נעץ אָן פאַרבאָרגן לייַערס און מיט די פיייקייט צו דעטעקט לינעאַר צעשיידונג געמארקן בלויז.
אָן ניט-לינעאַריטיעס, אַ נעוראַל נעץ איז ניט ביכולת צו סאָלווע קאָמפּליצירט ישוז און אַקיעראַטלי קאַטאַגערייז די אַרייַנשרייַב.
20. וואָס איז אַ טענסאָר אין טיף לערנען?
א מולטידימענסיאָנאַל מענגע באקאנט ווי אַ טענסאָר דינט ווי אַ גענעראַליזיישאַן פון מאַטריץ און וועקטאָרס. עס איז אַ קריטיש דאַטן סטרוקטור פֿאַר טיף לערנען. N-דימענשאַנאַל ערייז פון פונדאַמענטאַל דאַטן טייפּס זענען געניצט צו פאָרשטעלן טענסער.
יעדער קאָמפּאָנענט פון די טענסאָר האט דער זעלביקער דאַטן טיפּ, און דעם דאַטן טיפּ איז שטענדיק באקאנט. עס איז מעגלעך אַז בלויז אַ שטיק פון די פאָרעם - ניימלי ווי פילע דימענשאַנז עס זענען און ווי גרויס יעדער איינער איז - איז באקאנט.
אין סיטואַטיאָנס ווען די ינפּוץ זענען אויך גאָר באקאנט, די מערהייַט פון אַפּעריישאַנז פּראָדוצירן גאָר באקאנט טענסער; אין אנדערע קאַסעס, די פאָרעם פון אַ טענסאָר קענען זיין געגרינדעט בלויז בעשאַס די דורכפירונג פון די גראַפיק.
21. ווי וואָלט איר קלייַבן די אַקטאַוויישאַן פונקציע פֿאַר אַ טיף לערנען מאָדעל?
- עס איז זינען צו נוצן אַ לינעאַר אַקטאַוויישאַן פֿונקציע אויב די אַוטקאַם וואָס זאָל זיין אַנטיסאַפּייטיד איז פאַקטיש.
- א סיגמאָיד פֿונקציע זאָל זיין יוטאַלייזד אויב דער רעזולטאַט וואָס זאָל זיין פאָרויסזאָגן איז אַ ביינערי קלאַס מאַשמאָעס.
- א Tanh פונקציע קענען זיין יוטאַלייזד אויב די פּראַדזשעקטאַד רעזולטאַט כּולל צוויי קלאַסאַפאַקיישאַנז.
- רעכט צו זיין יז פון קאַמפּיאַטיישאַן, די ReLU פונקציע איז אָנווענדלעך אין אַ ברייט קייט פון סיטואַטיאָנס.
22. וואס מיינט איר מיט CNN?
טיף נעוראַל נעטוואָרקס וואָס ספּעשאַלייז אין יוואַליוייטינג וויזשאַוואַל ימאַדזשרי אַרייַננעמען קאַנוואַלושאַנאַל נעוראַל נעטוואָרקס (CNN אָדער ConvNet). דאָ, אלא ווי אין נעוראַל נעטוואָרקס ווו אַ וועקטאָר רעפּראַזענץ די אַרייַנשרייַב, די אַרייַנשרייַב איז אַ מאַלטי-טשאַננעלד בילד.
מולטילייַער פּערסעפּטראַנז זענען געניצט אין אַ ספּעציעל וועג דורך CNNs וואָס ריקווייערז זייער קליין פּריפּראַסעסינג.
23. וואָס זענען די פילע CNN לייַערס?
קאָנוואָלוטיאָנאַל שיכטע: די הויפּט שיכטע איז די קאָנוואָלוטיאָנאַל שיכטע, וואָס האט אַ פאַרשיידנקייַט פון לערנאַבאַל פילטערס און אַ ריסעפּטיוו פעלד. דער ערשט שיכטע נעמט די אַרייַנשרייַב דאַטן און עקסטראַקץ זייַן קעראַקטעריסטיקס.
ReLU שיכטע: דורך מאכן די נעטוואָרקס ניט-לינעאַר, דעם שיכטע טורנס נעגאַטיוו בילדצעלן אין נול.
פּולינג שיכטע: דורך מינאַמייזינג פּראַסעסינג און נעץ סעטטינגס, די פּולינג שיכטע ביסלעכווייַז מינאַמייז די ספּיישאַל גרייס פון די פאַרטרעטונג. מאַקס פּולינג איז די מערסט געוויינט אופֿן פון פּולינג.
24. וואָס זענען די יפעקץ פון אָוווער- און אַנדערפיטטינג, און ווי קענען איר ויסמיידן זיי?
דאָס איז באקאנט ווי אָוווערפיטטינג ווען אַ מאָדעל לערנט די ינטראַקאַסיז און ראַש אין די טריינינג דאַטן צו די פונט ווו עס נעגאַטיוולי אַפעקץ די נוצן פון פריש דאַטן.
עס איז מער פּראַבאַבאַל צו פּאַסירן מיט ניט-לינעאַר מאָדעלס וואָס זענען מער אַדאַפּטאַבאַל בשעת לערנען אַ ציל פונקציע. א מאָדעל קענען זיין טריינד צו דעטעקט אָטאַמאָובילז און טראַקס, אָבער עס קען נאָר זיין ביכולת צו ידענטיפיצירן וועהיקלעס מיט אַ באַזונדער קעסטל פאָרעם.
געגעבן אַז עס איז בלויז טריינד אויף איין טיפּ פון טראָק, עס קען נישט זיין ביכולת צו דעטעקט אַ פלאַטבעד טראָק. אויף טריינינג דאַטן, די מאָדעל אַרבעט גוט, אָבער נישט אין די פאַקטיש וועלט.
אַן אונטער-פיטאַד מאָדעל רעפערס צו איינער וואָס איז נישט גענוג טריינד אויף דאַטן אָדער קענען צו דזשענערייט צו נייַע אינפֿאָרמאַציע. דאָס אָפט אַקערז ווען אַ מאָדעל איז טריינד מיט ניט גענוגיק אָדער ומפּינקטלעך דאַטן.
אַקיעראַסי און פאָרשטעלונג זענען ביידע קאַמפּראַמייזד דורך ונדערפיטטינג.
ריסאַמפּלינג די דאַטן צו אָפּשאַצן די אַקיעראַסי פון די מאָדעל (K-פאַרלייגן קרייַז וואַלאַדיישאַן) און ניצן אַ וואַלאַדיישאַן דאַטאַסעט צו אַססעסס די מאָדעל זענען צוויי וועגן צו ויסמיידן אָוווערפיטטינג און אַנדערפיטטינג.
25. אין טיף לערנען, וואָס איז אַ רנן?
ריקעראַנט נעוראַל נעטוואָרקס (RNNs), אַ פּראָסט פאַרשיידנקייַט פון קינסטלעך נעוראַל נעטוואָרקס, גיין דורך די אַבריווייישאַן RNN. זיי זענען אָנגעשטעלט צו פּראַסעסינג גענאָמעס, האַנדרייטינג, טעקסט און דאַטן סיקוואַנסיז, צווישן אנדערע זאכן. פֿאַר די נייטיק טריינינג, RNNs ניצן באַקפּראָפּאַגיישאַן.
26. באַשרייַבן די אַדאַם אָפּטימיזער
אַדאַם אָפּטימיזער, אויך באקאנט ווי אַדאַפּטיוו מאָמענטום, איז אַן אַפּטאַמאַזיישאַן טעכניק דעוועלאָפּעד צו שעפּן טומלדיק סיטואַטיאָנס מיט שיטער גראַדיענץ.
אין אַדישאַן צו צושטעלן פּער-פּאַראַמעטער דערהייַנטיקונגען פֿאַר פאַסטער קאַנווערדזשאַנס, די Adam אָפּטימיזער ימפּרוווז קאַנווערדזשאַנס דורך מאָמענטום, ינשורינג אַז אַ מאָדעל איז נישט טראַפּט אין די זאָטל פונט.
27. טיף אַוטאָענקאָדערס: וואָס זענען זיי?
טיף אַוטאָענקאָדער איז דער קאָלעקטיוו נאָמען פֿאַר צוויי סאַמעטריקאַל טיף גלויבן נעטוואָרקס וואָס בכלל אַרייַננעמען פיר אָדער פינף פּליטקע לייַערס פֿאַר די קאָדירונג העלפט פון די נעץ און אן אנדער גאַנג פון פיר אָדער פינף לייַערס פֿאַר די דיקאָודינג העלפט.
די לייַערס פאָרעם די יסוד פון טיף גלויבן נעטוואָרקס און זענען קאַנסטריינד דורך Boltzmann מאשינען. נאָך יעדער רבם, אַ טיף אַוטאָענקאָדער אַפּלייז ביינערי ענדערונגען צו די דאַטאַסעט MNIST.
זיי קענען אויך זיין געוויינט אין אנדערע דאַטאַסעץ ווו Gaussian רעקטאַפייד טראַנספאָרמאַציע וואָלט זיין בילכער איבער רבם.
28. וואָס טוט Tensor מיינען אין Tensorflow?
דאָס איז אן אנדער טיף לערנען אינטערוויו קשיא וואָס איז קעסיידער געפרעגט. א טענסאָר איז אַ מאַטאַמאַטיקאַל באַגריף וואָס איז וויזשוואַלייזד ווי העכער-דימענשאַנאַל ערייז.
טענסאָרס זענען די דאַטן ערייז וואָס זענען צוגעשטעלט ווי אַרייַנשרייַב צו די נעוראַל נעץ און האָבן פאַרשידן דימענשאַנז און ראַנגקינגז.
29. אַ דערקלערונג פון אַ קאַמפּיוטיישאַנאַל גראַפיק
דער יסוד פון אַ TensorFlow איז די קאַנסטראַקשאַן פון אַ קאַמפּיוטיישאַנאַל גראַפיק. יעדער נאָדע פאַנגקשאַנז אין אַ נעץ פון נאָודז, ווו נאָודז שטיין פֿאַר מאַטאַמאַטיקאַל אַפּעריישאַנז און עדזשאַז פֿאַר טענסאָרז.
עס איז מאל ריפערד צו ווי אַ "דאַטאַפלאָוו גראַפיק" זינט דאַטן פלאָוז אין די פאָרעם פון אַ גראַפיק.
30. גענעראַטיווע אַדווערסאַריאַל נעטוואָרקס (גאַנס): וואָס זענען זיי?
אין Deep Learning, דזשענעראַטיוו מאָדעלינג איז פארענדיקט מיט דזשענעראַטיוו אַדווערסאַריאַל נעטוואָרקס. עס איז אַן אַנסערווייזד אַרבעט ווו דער רעזולטאַט איז געשאפן דורך ידענטיפיצירן פּאַטערנז אין די אַרייַנשרייַב דאַטן.
דער דיסקרימינאַטאָר איז געניצט צו קאַטאַגערייז די ינסטאַנסיז געשאפן דורך די גענעראַטאָר, כאָטש די גענעראַטאָר איז געניצט צו פּראָדוצירן נייַע ביישפילן.
31. ווי וועט איר קלייַבן די נומער פון נוראַנז און פאַרבאָרגן לייַערס צו אַרייַננעמען אין די נעוראַל נעץ ווען איר פּלאַן די אַרקאַטעקטשער?
געגעבן אַ געשעפט אַרויסרופן, די גענוי נומער פון נוראַנז און פאַרבאָרגן לייַערס דארף צו בויען אַ נעוראַל נעץ אַרקאַטעקטשער קענען ניט זיין באשלאסן דורך קיין שווער און שנעל כּללים.
אין אַ נעוראַל נעץ, די גרייס פון די פאַרבאָרגן שיכטע זאָל פאַלן ערגעץ אין די מיטן פון די גרייס פון די אַרייַנשרייַב און רעזולטאַט לייַערס.
א אָנהייב צו שאַפֿן אַ נעוראַל נעץ פּלאַן קענען זיין אַטשיווד אין עטלעכע פּשוט מעטהאָדס, כאָטש:
סטאַרטינג מיט עטלעכע יקערדיק סיסטעמאַטיש טעסטינג צו זען וואָס וואָלט דורכפירן בעסטער פֿאַר קיין ספּעציפיש דאַטאַסעט באזירט אויף פריערדיק דערפאַרונג מיט נעוראַל נעטוואָרקס אין ענלעך פאַקטיש-וועלט סעטטינגס איז דער בעסטער וועג צו מאַכנ יעדער יינציק פאַקטיש-וועלט פּרידיקטיוו מאָדעלינג אַרויסרופן.
די נעץ קאַנפיגיעריישאַן קענען זיין אויסדערוויילט באזירט אויף דיין וויסן פון די אַרויסגעבן פעלד און פריערדיק נעוראַל נעץ דערפאַרונג. ווען אַססעסס די סעטאַפּ פון אַ נעוראַל נעץ, די נומער פון לייַערס און נוראַנז געניצט אויף פֿאַרבונדענע פּראָבלעמס איז אַ גוט אָרט צו אָנהייבן.
די קאַמפּלעקסיטי פון די נעוראַל נעץ זאָל זיין ביסלעכווייַז געוואקסן באזירט אויף פּראַדזשעקטאַד רעזולטאַט און אַקיעראַסי, סטאַרטינג מיט אַ פּשוט נוראַל נעץ פּלאַן.
32. וואָס מינים פון נעוראַל נעטוואָרקס זענען אָנגעשטעלט דורך טיף ריינפאָרסמאַנט לערנען?
- אין אַ מאַשין לערנען פּעראַדיים גערופן ריינפאָרסמאַנט לערנען, דער מאָדעל אקטן צו מאַקסאַמייז די געדאַנק פון קיומיאַלאַטיוו באַלוינונג, פּונקט ווי לעבן טינגז.
- שפּילערייַ און זיך-דרייווינג וועהיקלעס זענען ביידע דיסקרייבד ווי פּראָבלעמס ינוואַלווינג ריינפאָרסינג לערנען.
- דער עקראַן איז געניצט ווי אַרייַנשרייַב אויב די פּראָבלעם צו זיין רעפּריזענטיד איז אַ שפּיל. אין סדר צו פּראָדוצירן אַ רעזולטאַט פֿאַר די ווייַטער פייזאַז, די אַלגערידאַם נעמט די בילדצעלן ווי אַרייַנשרייַב און פּראַסעסאַז זיי דורך פילע לייַערס פון קאַנוואַלושאַנאַל נעוראַל נעטוואָרקס.
- די רעזולטאַטן פון די אַקשאַנז פון די מאָדעל, אָדער גינציק אָדער שלעכט, אַקט ווי פֿאַרשטאַרקונג.
סאָף
דיפּ לערנען איז געוואקסן אין פּאָפּולאַריטעט איבער די יאָרן, מיט אַפּלאַקיישאַנז אין כמעט יעדער ינדאַסטרי געגנט.
קאָמפּאַניעס זענען ינקריסינגלי קוקן פֿאַר קאָמפּעטענט עקספּערץ וואָס קענען פּלאַן מאָדעלס וואָס רעפּלאַקייט מענטש נאַטור ניצן טיף לערנען און מאַשין לערנען אַפּראָוטשיז.
קאַנדאַדייץ וואָס פאַרגרעסערן זייער סקילז און האַלטן זייער וויסן פון די קאַטינג-ברעג טעקנאַלאַדזשיז קענען געפֿינען אַ ברייט קייט פון אַרבעט אַפּערטונאַטיז מיט אַטראַקטיוו רימיונעריישאַן.
איר קענט אָנהייבן מיט די ינטערוויוז איצט אַז איר האָבן אַ שטאַרק אָנכאַפּן ווי צו רעספּאָנד צו עטלעכע פון די מערסט אָפט געבעטן טיף לערנען אינטערוויו פראגעס. נעמען די ווייַטער שריט באזירט אויף דיין אַבדזשעקטיווז.
באַזוכן השדאָרקס אינטערוויו סעריע צו גרייטן זיך פֿאַר ינטערוויוז.
לאָזן אַ ענטפֿערן