Derin Öğrenme İçin Aktivasyon Fonksiyonlarının Karşılaştırılması
🌎 Please visit Towards Data Science for the English version of my article: Comparison of Activation Functions for Deep Neural Networks
Aktivasyon fonksiyonları sinir ağlarında kilit bir rol oynar, bu nedenle daha iyi performans elde etmek için avantajlarını ve dezavantajlarını anlamak esastır.
En iyi bilinen sigmoid fonksiyonuna alternatif olan lineer olmayan aktivasyon fonksiyonlarını tanıtarak işe başlamak gerek. Aktivasyon fonksiyonlarının son performanslarını değerlendirirken birçok farklı koşulun önemi olduğunu unutmamak gerekir. Matematiğin ve bu noktada türev işleminin önemine dikkat çekmek de gerek. O halde hazırsanız kolları sıvayalım ve biraz ellerimizi kirletelim!
Yapay sinir ağı neydi (emekti 😅 ), önce bunu bir hatırlayalım: Canlıların sinir sistemi vasıtasıyla öğrenme yapısının modellenmesi/taklit edilmesi üzerine kurulu yapay öğrenme tekniğidir. Canlı sinir yapısı hiyerarşik bir elektriksel akım sonucu algılama işlemleri gerçekleşmektedir. Almaçlardan alınan elektriksel dürtü ile gördüğümüz, duyduğumuz, hissettiğimiz ve düşündüğümüz her şeyi doğduğumuzdan bu yana öğrenmemizi, hatırlamamızı ve ezberlememizi sağlar. Sinirbilim oldukça derin ve merak uyandırıcı bir çalışma alanıdır. Biyolojik yapının matematiksel sürece geçişiyle ilgili detaylar için ŞU KARA KUTUYU…
