RNA Backpropagation

Boa tarde pessoal. Estou com uma duvida. Eu estudei sobre o algoritmo backpropagation e implementei ele em java. Ja fiz alguns testes e ele funciona corretamente porem eu gostaria de saber se é normal os pesos da mesma camada de neuronios terem os mesmos valores ? Obrigado e um abraço a todos.