Daftar Isi[Bersembunyi][Menunjukkan]
- 1. Apa sebenarnya Deep Learning itu?
- 2. Apa yang membedakan Deep Learning dengan Machine Learning?
- 3. Apa pemahaman Anda saat ini tentang jaringan saraf?
- 4. Apa sebenarnya perceptron itu?
- 5. Apa sebenarnya jaringan saraf dalam itu?
- 6. Apa Sebenarnya Multilayer Perceptron (MLP) itu?
- 7. Apa tujuan fungsi aktivasi bermain di jaringan saraf?
- 8. Apa Tepatnya Gradien Descent?
- 9. Apa Tepatnya Fungsi Biaya?
- 10. Bagaimana jaringan yang dalam dapat mengungguli yang dangkal?
- 11. Jelaskan propagasi maju.
- 12. Apa itu backpropagation?
- 13. Dalam konteks pembelajaran mendalam, bagaimana Anda memahami kliping gradien?
- 14. Apa Fungsi Softmax dan ReLU?
- 15. Dapatkah model jaringan saraf dilatih dengan semua bobot disetel ke 0?
- 16. Apa yang membedakan epoch dari batch dan iterasi?
- 17. Apa itu Normalisasi Batch dan Dropout?
- 18. Apa yang Memisahkan Stochastic Gradient Descent dari Batch Gradient Descent?
- 19. Mengapa penting untuk memasukkan non-linearitas dalam jaringan saraf?
- 20. Apa yang dimaksud dengan tensor dalam pembelajaran mendalam?
- 21. Bagaimana Anda memilih fungsi aktivasi untuk model pembelajaran mendalam?
- 22. Apa yang Anda maksud dengan CNN?
- 23. Berapa banyak lapisan CNN?
- 24. Apa efek dari over- dan underfitting, dan bagaimana Anda dapat menghindarinya?
- 25. Dalam pembelajaran mendalam, apa itu RNN?
- 26. Jelaskan Pengoptimal Adam
- 27. Autoencoder dalam: apa itu?
- 28. Apa Arti Tensor di Tensorflow?
- 29. Penjelasan tentang graf komputasi
- 30. Jaringan permusuhan generatif (GAN): apa itu?
- 31. Bagaimana Anda akan memilih jumlah neuron dan lapisan tersembunyi untuk dimasukkan ke dalam jaringan saraf saat Anda mendesain arsitekturnya?
- 32. Jenis jaringan saraf apa yang digunakan oleh pembelajaran penguatan mendalam?
- Kesimpulan
Pembelajaran mendalam bukanlah ide baru. Jaringan saraf tiruan berfungsi sebagai satu-satunya dasar dari subset pembelajaran mesin yang dikenal sebagai pembelajaran mendalam.
Pembelajaran mendalam adalah meniru otak manusia, seperti halnya jaringan saraf, karena mereka diciptakan untuk meniru otak manusia.
Sudah ada ini untuk sementara waktu. Hari-hari ini, semua orang membicarakannya karena kami tidak memiliki kekuatan pemrosesan atau data sebanyak yang kami lakukan sekarang.
Selama 20 tahun terakhir, pembelajaran mendalam dan pembelajaran mesin telah muncul sebagai hasil dari peningkatan dramatis dalam kapasitas pemrosesan.
Untuk membantu Anda mempersiapkan setiap pertanyaan yang mungkin Anda hadapi ketika mencari pekerjaan impian Anda, posting ini akan memandu Anda melalui sejumlah pertanyaan wawancara pembelajaran mendalam, mulai dari yang sederhana hingga yang rumit.
1. Apa sebenarnya Deep Learning itu?
Jika Anda menghadiri a belajar mendalam wawancara, Anda pasti mengerti apa itu deep learning. Akan tetapi, pewawancara mengharapkan Anda untuk memberikan tanggapan terperinci bersama dengan ilustrasi untuk menjawab pertanyaan ini.
Untuk melatih jaringan saraf untuk pembelajaran mendalam, sejumlah besar data terorganisir atau tidak terstruktur harus digunakan. Untuk menemukan pola dan karakteristik yang tersembunyi, ia melakukan prosedur yang rumit (misalnya, membedakan gambar kucing dari gambar anjing).
2. Apa yang membedakan Deep Learning dengan Machine Learning?
Sebagai cabang dari kecerdasan buatan yang dikenal sebagai pembelajaran mesin, kami melatih komputer menggunakan data dan teknik statistik dan algoritme sehingga mereka menjadi lebih baik dari waktu ke waktu.
Sebagai aspek dari Mesin belajar, pembelajaran mendalam meniru arsitektur jaringan saraf yang terlihat di otak manusia.
3. Apa pemahaman Anda saat ini tentang jaringan saraf?
Sistem buatan yang dikenal sebagai jaringan saraf sangat mirip dengan jaringan saraf organik yang ditemukan dalam tubuh manusia.
Menggunakan teknik yang menyerupai bagaimana otak manusia fungsi, jaringan saraf adalah kumpulan algoritma yang bertujuan untuk mengidentifikasi korelasi yang mendasari dalam sepotong data.
Sistem ini memperoleh pengetahuan khusus tugas dengan memaparkan diri mereka ke berbagai kumpulan data dan contoh, daripada dengan mengikuti aturan khusus tugas apa pun.
Idenya adalah bahwa alih-alih memiliki pemahaman yang telah diprogram sebelumnya tentang kumpulan data ini, sistem mempelajari karakteristik yang membedakan dari data yang diberikannya.
Tiga lapisan jaringan yang paling umum digunakan di Neural Networks adalah sebagai berikut:
- Lapisan masukan
- Lapisan tersembunyi
- Lapisan keluaran
4. Apa sebenarnya perceptron itu?
Neuron biologis yang ditemukan di otak manusia sebanding dengan perceptron. Beberapa input diterima oleh perceptron, yang kemudian melakukan banyak transformasi dan fungsi dan menghasilkan output.
Model linier yang disebut perceptron digunakan dalam klasifikasi biner. Ini mensimulasikan neuron dengan berbagai input, masing-masing dengan bobot yang berbeda.
Neuron menghitung fungsi menggunakan input berbobot ini dan mengeluarkan hasilnya.
5. Apa sebenarnya jaringan saraf dalam itu?
Jaringan saraf dalam adalah jaringan saraf tiruan (JST) dengan beberapa lapisan antara lapisan input dan output (DNN).
Jaringan saraf dalam adalah jaringan saraf arsitektur dalam. Kata "dalam" mengacu pada fungsi dengan banyak level dan unit dalam satu lapisan. Model yang lebih akurat dapat dibuat dengan menambahkan lapisan yang lebih banyak dan lebih besar untuk menangkap tingkat pola yang lebih besar.
6. Apa Sebenarnya Multilayer Perceptron (MLP) itu?
Lapisan input, tersembunyi, dan output hadir di MLP, seperti di jaringan saraf. Itu dibangun mirip dengan perceptron single-layer dengan satu atau lebih lapisan tersembunyi.
Output biner dari perceptron lapisan tunggal hanya dapat mengkategorikan kelas yang dapat dipisahkan linier (0,1), sedangkan MLP dapat mengklasifikasikan kelas nonlinier.
7. Apa tujuan fungsi aktivasi bermain di jaringan saraf?
Fungsi aktivasi menentukan apakah neuron harus diaktifkan atau tidak pada tingkat yang paling mendasar. Setiap fungsi aktivasi dapat menerima jumlah tertimbang dari input ditambah bias sebagai input. Fungsi aktivasi meliputi fungsi langkah, Sigmoid, ReLU, Tanh, dan Softmax.
8. Apa Tepatnya Gradien Descent?
Pendekatan terbaik untuk meminimalkan fungsi biaya atau kesalahan adalah penurunan gradien. Menemukan minimum lokal-global suatu fungsi adalah tujuannya. Ini menentukan jalur yang harus diikuti model untuk meminimalkan kesalahan.
9. Apa Tepatnya Fungsi Biaya?
Fungsi biaya adalah metrik untuk menilai seberapa baik kinerja model Anda; kadang-kadang dikenal sebagai "kerugian" atau "kesalahan." Selama backpropagation, itu digunakan untuk menghitung kesalahan lapisan output.
Kami mengeksploitasi ketidakakuratan itu untuk memajukan proses pelatihan jaringan saraf dengan mendorongnya kembali melalui jaringan saraf.
10. Bagaimana jaringan yang dalam dapat mengungguli yang dangkal?
Lapisan tersembunyi ditambahkan ke jaringan saraf selain lapisan input dan output. Antara lapisan input dan output, jaringan saraf dangkal menggunakan satu lapisan tersembunyi, sedangkan jaringan saraf dalam menggunakan banyak tingkatan.
Jaringan dangkal membutuhkan beberapa parameter agar dapat masuk ke dalam fungsi apa pun. Jaringan dalam dapat menyesuaikan fungsi dengan lebih baik bahkan dengan sejumlah kecil parameter karena mencakup beberapa lapisan.
Jaringan dalam sekarang lebih disukai karena keserbagunaannya dalam bekerja dengan semua jenis pemodelan data, baik untuk pengenalan suara atau gambar.
11. Jelaskan propagasi maju.
Input ditransmisikan bersama dengan bobot ke lapisan terkubur dalam proses yang dikenal sebagai propagasi penerusan.
Output fungsi aktivasi dihitung di setiap lapisan yang terkubur sebelum pemrosesan dapat dilanjutkan ke lapisan berikutnya.
Proses dimulai pada lapisan input dan berlanjut ke lapisan output akhir, sehingga disebut propagasi maju.
12. Apa itu backpropagation?
Ketika bobot dan bias disesuaikan dalam jaringan saraf, backpropagation digunakan untuk mengurangi fungsi biaya dengan terlebih dahulu mengamati bagaimana nilainya berubah.
Memahami gradien pada setiap lapisan tersembunyi membuat penghitungan perubahan ini menjadi sederhana.
Proses yang dikenal sebagai backpropagation, dimulai pada lapisan output dan bergerak mundur ke lapisan input.
13. Dalam konteks pembelajaran mendalam, bagaimana Anda memahami kliping gradien?
Gradient Clipping adalah metode untuk menyelesaikan masalah ledakan gradien yang muncul selama backpropagation (suatu kondisi di mana gradien salah yang signifikan terakumulasi dari waktu ke waktu, yang menyebabkan penyesuaian signifikan terhadap bobot model jaringan saraf selama pelatihan).
Ledakan gradien adalah masalah yang muncul ketika gradien terlalu besar selama pelatihan, membuat model tidak stabil. Jika gradien telah melewati rentang yang diharapkan, nilai gradien didorong elemen demi elemen ke nilai minimum atau maksimum yang telah ditentukan sebelumnya.
Pemotongan gradien meningkatkan stabilitas numerik jaringan saraf selama pelatihan, tetapi memiliki dampak minimal pada kinerja model.
14. Apa Fungsi Softmax dan ReLU?
Fungsi aktivasi yang disebut Softmax menghasilkan output dalam kisaran antara 0 dan 1. Setiap output dibagi sehingga jumlah semua output adalah satu. Untuk lapisan keluaran, Softmax sering digunakan.
Rectified Linear Unit, kadang-kadang dikenal sebagai ReLU, adalah fungsi aktivasi yang paling banyak digunakan. Jika X positif, ia menghasilkan X, jika tidak ia menghasilkan nol. ReLU secara teratur diterapkan pada lapisan yang terkubur.
15. Dapatkah model jaringan saraf dilatih dengan semua bobot disetel ke 0?
Jaringan saraf tidak akan pernah belajar untuk menyelesaikan pekerjaan yang diberikan, oleh karena itu tidak mungkin untuk melatih model dengan menginisialisasi semua bobot ke 0.
Turunan akan tetap sama untuk setiap bobot di W [1] jika semua bobot diinisialisasi ke nol, yang akan mengakibatkan neuron mempelajari fitur yang sama secara iteratif.
Tidak hanya menginisialisasi bobot ke 0, tetapi ke segala bentuk konstanta kemungkinan akan menghasilkan hasil di bawah standar.
16. Apa yang membedakan epoch dari batch dan iterasi?
Berbagai bentuk pemrosesan dataset dan teknik penurunan gradien meliputi batch, iterasi, dan epoch. Epoch melibatkan sekali-melalui jaringan saraf dengan dataset lengkap, baik maju maupun mundur.
Untuk memberikan hasil yang andal, dataset sering dilewatkan beberapa kali karena terlalu besar untuk dilewatkan dalam sekali percobaan.
Praktik berulang kali menjalankan sejumlah kecil data melalui jaringan saraf disebut sebagai iterasi. Untuk menjamin bahwa kumpulan data berhasil melintasi jaringan saraf, dapat dibagi menjadi beberapa batch atau subset, yang dikenal sebagai batching.
Bergantung pada ukuran kumpulan data, ketiga metode—zaman, iterasi, dan ukuran kumpulan—pada dasarnya adalah cara menggunakan algoritma penurunan gradien.
17. Apa itu Normalisasi Batch dan Dropout?
Dropout mencegah overfitting data dengan menghapus unit jaringan yang terlihat dan tersembunyi secara acak (biasanya menjatuhkan 20 persen node). Ini menggandakan jumlah iterasi yang diperlukan untuk membuat jaringan menjadi konvergen.
Dengan menormalkan input di setiap lapisan untuk memiliki aktivasi output rata-rata nol dan standar deviasi satu, normalisasi batch adalah strategi untuk meningkatkan kinerja dan stabilitas jaringan saraf.
18. Apa yang Memisahkan Stochastic Gradient Descent dari Batch Gradient Descent?
Keturunan Gradien Batch:
- Dataset lengkap digunakan untuk membangun gradien untuk gradien batch.
- Jumlah data yang sangat besar dan pemutakhiran bobot yang lambat membuat konvergensi menjadi sulit.
Keturunan Gradien Stokastik:
- Gradien stokastik menggunakan sampel tunggal untuk menghitung gradien.
- Karena perubahan bobot yang lebih sering, itu menyatu secara signifikan lebih cepat daripada gradien batch.
19. Mengapa penting untuk memasukkan non-linearitas dalam jaringan saraf?
Tidak peduli berapa banyak lapisan yang ada, jaringan saraf akan berperilaku seperti perceptron tanpa adanya non-linearitas, membuat output bergantung secara linier pada input.
Dengan kata lain, jaringan saraf dengan n lapisan dan m unit tersembunyi dan fungsi aktivasi linier setara dengan jaringan saraf linier tanpa lapisan tersembunyi dan dengan kemampuan untuk mendeteksi batas pemisahan linier semata.
Tanpa non-linearitas, jaringan saraf tidak dapat memecahkan masalah yang rumit dan secara akurat mengkategorikan input.
20. Apa yang dimaksud dengan tensor dalam pembelajaran mendalam?
Array multidimensi yang dikenal sebagai tensor berfungsi sebagai generalisasi matriks dan vektor. Ini adalah struktur data penting untuk pembelajaran mendalam. Array N-dimensi dari tipe data fundamental digunakan untuk mewakili tensor.
Setiap komponen tensor memiliki tipe data yang sama, dan tipe data ini selalu diketahui. Ada kemungkinan bahwa hanya sebagian dari bentuknya—yaitu, berapa banyak dimensi yang ada dan seberapa besar masing-masingnya—yang diketahui.
Dalam situasi ketika input juga sepenuhnya diketahui, sebagian besar operasi menghasilkan tensor yang diketahui sepenuhnya; dalam kasus lain, bentuk tensor hanya dapat dibuat selama eksekusi grafik.
21. Bagaimana Anda memilih fungsi aktivasi untuk model pembelajaran mendalam?
- Masuk akal untuk menggunakan fungsi aktivasi linier jika hasil yang harus diantisipasi adalah aktual.
- Fungsi sigmoid harus digunakan jika output yang harus diramalkan adalah probabilitas kelas biner.
- Fungsi Tanh dapat digunakan jika keluaran yang diproyeksikan berisi dua klasifikasi.
- Karena kemudahan perhitungannya, fungsi ReLU dapat diterapkan dalam berbagai situasi.
22. Apa yang Anda maksud dengan CNN?
Jaringan saraf dalam yang mengkhususkan diri dalam mengevaluasi citra visual termasuk jaringan saraf convolutional (CNN, atau ConvNet). Di sini, daripada di jaringan saraf di mana vektor mewakili input, inputnya adalah gambar multi-saluran.
Perceptron multilayer digunakan dengan cara khusus oleh CNN yang membutuhkan sangat sedikit preprocessing.
23. Berapa banyak lapisan CNN?
Convolutional Layer: Layer utama adalah convolutional layer, yang memiliki berbagai filter yang dapat dipelajari dan bidang reseptif. Lapisan awal ini mengambil data input dan mengekstrak karakteristiknya.
ReLU Layer: Dengan membuat jaringan non-linear, lapisan ini mengubah piksel negatif menjadi nol.
Pooling layer: Dengan meminimalkan pemrosesan dan pengaturan jaringan, pooling layer secara bertahap meminimalkan ukuran spasial representasi. Max pooling adalah metode pooling yang paling banyak digunakan.
24. Apa efek dari over- dan underfitting, dan bagaimana Anda dapat menghindarinya?
Ini dikenal sebagai overfitting ketika model mempelajari seluk-beluk dan noise dalam data pelatihan sampai pada titik di mana model tersebut secara negatif memengaruhi penggunaan data baru oleh model.
Ini lebih mungkin terjadi dengan model nonlinier yang lebih mudah beradaptasi saat mempelajari fungsi tujuan. Sebuah model dapat dilatih untuk mendeteksi mobil dan truk, tetapi mungkin hanya dapat mengidentifikasi kendaraan dengan bentuk kotak tertentu.
Mengingat hanya dilatih pada satu jenis truk, mungkin tidak dapat mendeteksi truk flatbed. Pada data pelatihan, model bekerja dengan baik, tetapi tidak di dunia nyata.
Model yang kurang pas mengacu pada model yang tidak cukup terlatih tentang data atau mampu menggeneralisasi ke informasi baru. Ini sering terjadi ketika model sedang dilatih dengan data yang tidak mencukupi atau tidak akurat.
Akurasi dan kinerja keduanya dikompromikan oleh underfitting.
Resampling data untuk memperkirakan akurasi model (K-fold cross-validation) dan menggunakan dataset validasi untuk menilai model adalah dua cara untuk menghindari overfitting dan underfitting.
25. Dalam pembelajaran mendalam, apa itu RNN?
Jaringan saraf berulang (RNNs), variasi umum dari jaringan saraf tiruan, menggunakan singkatan RNN. Mereka digunakan untuk memproses genom, tulisan tangan, teks, dan urutan data, antara lain. Untuk pelatihan yang diperlukan, RNN menggunakan backpropagation.
26. Jelaskan Pengoptimal Adam
Pengoptimal Adam, juga dikenal sebagai momentum adaptif, adalah teknik optimasi yang dikembangkan untuk menangani situasi bising dengan gradien yang jarang.
Selain menyediakan pembaruan per parameter untuk konvergensi yang lebih cepat, pengoptimal Adam meningkatkan konvergensi melalui momentum, memastikan bahwa model tidak terjebak di titik pelana.
27. Autoencoder dalam: apa itu?
Autoencoder dalam adalah nama kolektif untuk dua jaringan kepercayaan mendalam simetris yang umumnya mencakup empat atau lima lapisan dangkal untuk setengah pengkodean jaringan dan satu set empat atau lima lapisan untuk setengah penguraian kode.
Lapisan-lapisan ini membentuk fondasi jaringan kepercayaan yang dalam dan dibatasi oleh mesin Boltzmann. Setelah setiap RBM, autoencoder dalam menerapkan perubahan biner ke set data MNIST.
Mereka juga dapat digunakan dalam kumpulan data lain di mana transformasi yang diperbaiki Gaussian lebih disukai daripada RBM.
28. Apa Arti Tensor di Tensorflow?
Ini adalah pertanyaan wawancara pembelajaran mendalam lainnya yang sering ditanyakan. Tensor adalah konsep matematika yang divisualisasikan sebagai array berdimensi lebih tinggi.
Tensor adalah array data yang disediakan sebagai input ke jaringan saraf dan memiliki berbagai dimensi dan peringkat.
29. Penjelasan tentang graf komputasi
Dasar dari TensorFlow adalah konstruksi grafik komputasi. Setiap node berfungsi dalam jaringan node, di mana node mewakili operasi matematika dan edge untuk tensor.
Kadang-kadang disebut sebagai "Grafik DataFlow" karena data mengalir dalam bentuk grafik.
30. Jaringan permusuhan generatif (GAN): apa itu?
Dalam Deep Learning, pemodelan generatif dilakukan dengan menggunakan jaringan permusuhan generatif. Ini adalah pekerjaan tanpa pengawasan di mana hasilnya dihasilkan dengan mengidentifikasi pola dalam data input.
Diskriminator digunakan untuk mengkategorikan instance yang dihasilkan oleh generator, sedangkan generator digunakan untuk menghasilkan contoh baru.
31. Bagaimana Anda akan memilih jumlah neuron dan lapisan tersembunyi untuk dimasukkan ke dalam jaringan saraf saat Anda mendesain arsitekturnya?
Mengingat tantangan bisnis, jumlah neuron dan lapisan tersembunyi yang tepat yang diperlukan untuk membangun arsitektur jaringan saraf tidak dapat ditentukan oleh aturan keras dan cepat apa pun.
Dalam jaringan saraf, ukuran lapisan tersembunyi harus berada di suatu tempat di tengah ukuran lapisan input dan output.
Langkah awal dalam membuat desain jaringan saraf dapat dicapai dalam beberapa metode langsung, meskipun:
Dimulai dengan beberapa pengujian sistematis dasar untuk melihat apa yang akan berkinerja terbaik untuk setiap kumpulan data tertentu berdasarkan pengalaman sebelumnya dengan jaringan saraf di pengaturan dunia nyata yang serupa adalah cara terbaik untuk mengatasi setiap tantangan pemodelan prediktif dunia nyata yang unik.
Konfigurasi jaringan dapat dipilih berdasarkan pengetahuan seseorang tentang domain masalah dan pengalaman jaringan saraf sebelumnya. Saat menilai pengaturan jaringan saraf, jumlah lapisan dan neuron yang digunakan pada masalah terkait adalah tempat yang baik untuk memulai.
Kompleksitas jaringan saraf harus ditingkatkan secara bertahap berdasarkan keluaran dan akurasi yang diproyeksikan, dimulai dengan desain jaringan saraf sederhana.
32. Jenis jaringan saraf apa yang digunakan oleh pembelajaran penguatan mendalam?
- Dalam paradigma pembelajaran mesin yang disebut pembelajaran penguatan, model bertindak untuk memaksimalkan gagasan tentang hadiah kumulatif, seperti yang dilakukan makhluk hidup.
- Game dan kendaraan self-driving keduanya digambarkan sebagai masalah yang melibatkan penguatan pembelajaran.
- Layar digunakan sebagai input jika masalah yang akan direpresentasikan adalah sebuah game. Untuk menghasilkan output untuk fase berikutnya, algoritma mengambil piksel sebagai input dan memprosesnya melalui banyak lapisan jaringan saraf convolutional.
- Hasil tindakan model, baik yang menguntungkan maupun yang buruk, bertindak sebagai penguatan.
Kesimpulan
Deep Learning telah meningkat popularitasnya selama bertahun-tahun, dengan aplikasi di hampir setiap area industri.
Perusahaan semakin mencari ahli yang kompeten yang dapat merancang model yang meniru perilaku manusia menggunakan pendekatan pembelajaran mendalam dan pembelajaran mesin.
Kandidat yang meningkatkan keahlian mereka dan mempertahankan pengetahuan mereka tentang teknologi mutakhir ini dapat menemukan berbagai peluang kerja dengan remunerasi yang menarik.
Anda dapat mulai dengan wawancara sekarang setelah Anda memiliki pemahaman yang kuat tentang bagaimana menanggapi beberapa pertanyaan wawancara pembelajaran mendalam yang paling sering diminta. Ambil langkah selanjutnya berdasarkan tujuan Anda.
Kunjungi Hashdork's Seri Wawancara untuk mempersiapkan wawancara.
Tinggalkan Balasan