Minibatch discriminatie

1. Wat is Minibatch-discriminatie??
2. Hoe voorkom je dat GAN's in de modus instorten??
3. Hoe kan ik mijn GAN-training verbeteren??
4. Waarom is GAN onstabiel??

Wat is Minibatch-discriminatie??

Minibatch-discriminatie is een discriminerende techniek voor generatieve vijandige netwerken waarbij we onderscheid maken tussen hele minibatches van monsters in plaats van tussen individuele monsters. Dit is bedoeld om instorting van de generator te voorkomen.

Hoe voorkom je dat GAN's in de modus instorten??

Een zorgvuldig afgestemd leertempo kan een aantal ernstige GAN-problemen, zoals het instorten van de modus, verminderen. Verlaag in het bijzonder de leersnelheid en herhaal de training wanneer de modus instort. We kunnen ook experimenteren met verschillende leersnelheden voor de generator en de discriminator.

Hoe kan ik mijn GAN-training verbeteren??

Aanvullende tips en trucs

1. Functieovereenkomst. Ontwikkel een GAN met behulp van semi-gesuperviseerd leren.
2. Minibatch discriminatie. Ontwikkel functies voor meerdere samples in een minibatch.
3. historische middeling. Werk de verliesfunctie bij om de geschiedenis op te nemen.
4. Eenzijdige labelafvlakking. ...
5. Virtuele batchnormalisatie.

Waarom is GAN onstabiel??

Het feit dat GAN's zijn samengesteld uit twee netwerken, en elk van hen heeft zijn verliesfunctie, resulteert in het feit dat GAN's inherent onstabiel zijn - een beetje dieper in het probleem duiken, het Generator (G) -verlies kan leiden tot de GAN-instabiliteit , wat de oorzaak kan zijn van het probleem met het verdwijnen van de kleurovergang wanneer de ...