話し合いにより親権者が決まらない場合は、家庭裁判所に離婚の申し立てと一緒に親権者指定の調停申し立てをします。
調停でもあくまでも話し合いによる解決を望みますから、調停でも協議がまとまらない場合は、自動的に審判に移行し家庭裁判所により親権者が決定されます。
審判に不服であれば、その後は離婚裁判へと移行し、離婚とともに親権者について争うこととなります。