Se o disjuntor de 50 desarmava, e o de 40 não desarmava, isso significa duas coisas:
O disjuntor de 40 está com defeito, pois a corrente já está ultrapassando 50 A e ele não está atuando;
A corrente da casa toda já ultrapassa os 50 A, e você não está atentando para isso. O disjuntor geral deve ter uma folga de 30% da corrente real. ou seja, talvez o ideal seria um disjuntor de 100 A, e você está com um de 40 A defeituoso.
Amigo, é altamente recomendado ter um projeto elétrico para este tipo de coisa, pois são muitos detalhes que as pessoas não levam em consideração.
O disjuntor geral é calculado em cima da demanda da casa toda. Então não dá pra afirmar com certeza qual a corrente ideal do disjuntor geral sem saber quais os equipamentos você tem em casa. E por mais que eu queira te ajudar, qualquer informação que te der será um mero "chute".
Ou seja, sem o cálculo de demanda, você terá que ficar experimentando disjuntores de amperagens diferente até achar um que não desarme toda hora...
Esta apostila ensina de forma sucinta como dimensionar corretamente sua instalação, tem poucas páginas e muitas figuras... sugiro dar uma lida:
br.prysmiangroup.com/br/files/manual_instalacao.pdf