Sitter med ett lite jobbigt problem, tänkte kolla om någon har en uppfattning om detta.
Jag har 600 datapunkter; 8 dimensioner på inputdata. Varje punkt motsvaras av en klass (som är given), 1 eller 0.

Jag har nu gjort ett neuralt nätverk med 2 hidden layers, och använder backpropagation. Jag får snabbt ner det till ungefär 220-250 felgissningar ur de 600 (kass alltså). Med snabbt menar jag i det här fallet ungefär 400 iterationer.

Förstår att detta är svårt att svara på, men ungefär i vilken storleksordning tycker ni att antalet iterationer borde ligga?
Gör jag för många - är det bara de 100 första som är intressanta?
Gör jag för få - har det inte hunnit börja hända grejer än?

Jag tycker att energikurvor för träningsmängden planar ut ganska omedelbart, men valideringsmängden stiger ganska omedelbart.

Nu kan jag inte på rak arm säga något om mängden testningar, däremot din fråga bör vara:
- Gör jag för få? Har den inte hunnit lära sig ännu?
- Gör jag för många? Kan den provdatat och inte mönstret?

Jo, jo, visst. Att den måste ha lärt sig och inte börjat med overfitting är jätteviktigt.
Men det är en uppskattning av antalet iterationer jag är ute efter. 8 dimensioner, 600 datapunkter. Hur många iterationer?