前職退職日と御社入社日の被っている期間はいわゆる二以上勤務者としての手続きが必要になります。
具体的な手続き内容につきましては以前の労組相談Q＆Aに
『二か所以上で同時に社会保険加入する事ってあるの？』
という記事がございますのでそちらをご確認下さい。

こちらの回答では、今回の件に関して抑えておくべきポイントをお伝えいたします。

社会保険(健康保険と厚生年金)について
二以上勤務者であると認識せずに資格取得の手続きをした場合は
後ほど「健康保険・厚生年金保険　所属選択・二以上事業所勤務届」を提出することになります。
こちらは被保険者が直接提出するものになります。(保険証等も含まれます)
提出後、御社に按分された保険料の案内が来ることになります。
資格取得時の標準報酬月額に応じた保険料から過不足が生じる可能性がありますので後日での調整が必要になります。

雇用保険について
前職の退職日が10月31日である場合、御社での資格取得日は11月1日となり入社日とズレが生じることになります。
原則的に、雇用保険の取得は前職喪失日を優先することになります。
ただ、ご本人様が前職に依頼し、喪失日の変更を依頼され手続きをした場合
(今回の場合で言いますと喪失日を9月30日に変更した場合)
10月1日からの取得として手続きが可能になります。
前職の退職日、現職の取得日がずれた状態のままですと取得手続きがいつまでも完了しないという事になります。

雇い入れの際に、前職の退職日を確認していればこのような問題は起こらないかと存じますが
ご本人様が有給休暇の消化は社会保険とは無関係だと認識されていると後日の発覚となります。
ご本人申告の前職退職日が入社日前日であるような場合は、確認をしておくとその後の手続きがスムーズになるかと存じます。