公司不给开离职证明在新公司如何续保险？

今年3月份由于各种原因，原单位将我辞退，但是未开具任何书面文件，只是口头辞退。现在新单位需要给我续保，新单位的'人事部让我去原单位开具离职证明，并从原单位取得档案去办理失业证才能给我续保。但现在问题是，我与原单位的老板之间存在比较深的矛盾，极有可能不给我开具离职证明，如果原单位不给我开具离职证明，我该怎么办？能去当地劳动局申请仲裁吗？胜算有多大？由于当时离开原单位时没有任何的书面文件，他们会不会反咬我一口，说我单方面违约违约（我与原单位合同期至今年11月）。