Regularizatorji omogočajo uporabo kazni za parametre sloja ali aktivnost plasti med optimizacijo. Te kazni se seštejejo v funkcijo izgube, ki jo optimizira omrežje. Kazni za ureditev se uporabljajo za vsak sloj.
Kaj je regulator aktivnosti?
Regulalizator aktivnosti deluje kot funkcija izhoda mreže in se večinoma uporablja za uravnavanje skritih enot, medtem ko weight_regularizer, kot pove že ime, deluje na uteži (npr. zaradi česar razpadejo).
Kdaj naj uporabim regulator aktivnosti?
Če želite, da izhodna funkcija poteka skozi (ali imate prestrezanje bližje) izvoru, lahko uporabite regulator pristranskosti. Če želite, da je izhod manjši (ali bližje 0), lahko uporabite regulator aktivnosti.
Kako uporabljam Keras regularizer?
Če želite plasti dodati regulator, morate preprosto, da prenesete želeno tehniko regularizacije v argument ključne besede plasti 'kernel_regularizer'. Metode izvajanja regularizacije Keras lahko zagotovijo parameter, ki predstavlja vrednost hiperparametra regularizacije.
Kaj je jedro in pristranskost?
Dense class
Dense izvaja operacijo: izhod=aktivacija (pika (vhod, jedro) + pristranskost), kjer je aktivacija aktivacijska funkcija po elementih, posredovana kot aktivacijski argument, jedro je matrika uteži, ki jo ustvari plast, inpristranskost je vektor pristranskosti, ki ga ustvari plast (uporabno samo, če je use_bias True).