1. Dünya Savaşı'nda Kafkas Cephesi'nde Osmanlı ordusu Sarıkamış Harekatı'nda ağır bir yenilgi almış, Osmanlı ordusunun geri çekilmesi üzerine Kuzey Anadolu ve Doğu Anadolu'nun büyük bölümü Çarlık Rusyası'nın hakimiyetine girmişti. Fakat  Çarlık Rusyası büyük bir hercümerc yaşamış 1917'nin sonlarında gelen Ekim Devrimi'yle birlikte iktidarı Bolşevikler ele geçirmişlerdi. Bolşeviklerin Rusya'yı savaştan çekme politikasının sonucu olarak 17-18 Aralık 1917'de Osmanlı ile Erzincan Antlaşması imzalandı. Antlaşmaya göre Rus ordusu 3 ay içinde bölgeyi terk edecek ancak bölge Osmanlı hakimiyetine de girmeyecek, yerel bir yönetim oluşturulacaktı. Sovyet Rusya ve Osmanlı garantör devletler olarak belirlendi.

Dersim’de bulunan Rus ordusu ‘Kızıl Muhafızlar’ olarak yeniden teşkilatlandırıldı. Kızıl Muhafızlar’ın bölgedeki yöneticisi olan Ermeni Arşak Cemalyan, bölgedeki Türk, Ermeni ve Kürt halkların ‘temsilcileriyle’ bir toplantı düzenledi. Ermeniler adına Muradov, Kürtler adına Alişer ve Alişan beyler, Türkler adına ise Erzincan müftüsünün katıldığı toplantının ardından Erzincan Sovyeti kuruldu. Erzincan olarak ifade edilen bölge aslında Bayburt, Dersim, Erzurum, Sivas'ın da önemlice bir kısmını içeren bugünkü Erzincan'dan daha geniş bir bölgeydi. Toplanan Şura'ya Erzincan, Erzurum, Bayburt ve Dersim bölgelerinden delegeler katıldı, bölgede nüfus oranına  göre en kısa zaman içinde Erzincan, Bayburt, Dersim bölgelerini kapsayacak 25 (ermeni kaynakları 75 temsilci olduğunu söyler) halk temsilcisinin hemen belirlemesi çalışmalarına başlandı. Kısa süre içinde radikal reformlar yapıldı. Sovyet, kendi istihbarat, ordu ve polis teşkilatını kurdu. Maliye ve toprak kanunları çıkarıldı, topraksız köylülere toprak dağıtıldı. Hükümet binalarına kızıl bayrak çekildi.

Bolşevik devriminin ardından başlayan iç savaş yüzünden Kızıl muhafızlar bölgeden çekilince ortalık karıştı. Sovyet’in kontrolünün Ermeni Muradov Paşa’ya geçmesinden Türk delegeler rahatsızdı. Osmanlı'nın bir gün Ermeniler'e karşı savaşmak üzere Sovyetin Müslüman Türk halkını silahlandırmasına karşın Kızıl muhafızlar da bölgeden çekilirken silahlarını büyük ölçüde Ermenilere bırakmıştı. Erzincan Sovyeti kurulmasının üzerinden 2 sene bile geçmemişken bölgedeki Türk ileri gelenlerinin daveti üzerine müdahale eden Kuvayı Milliye güçleri tarafından dağıtıldı ve Türk topraklarına katıldı. Rusya’da süren iç savaş yüzünden Bolşevikler bu oldu bittiye ses çıkaramadılar. Sovyet’in güvenliği gerekçesiyle yeni merkez Dersim’in Ovacık ilçesinde bulunan Yeşilyazı’ya taşındı.

(Çok ilginçtir Türkiye’de Komünist partinin seçim kazandığı tek yer Ovacık ) Ancak burada devam ettirilen Sovyet yönetimi, Erzincan merkezli olandan çok daha küçük bir etkiyle var olabildi. Erzincan’dan dönen Dersim delegelerine birkaç Ermeni delege eşlik etse de ilk baştaki yapı, yerini var olma mücadelesi veren, dışardan gelen baskılara dayanmaya çalışan bir topluluğa dönüştü. Sovyetin son kalesi olan Yeşilyazı yönetimi, toprak kayıplarının artmasıyla birlikte 1921 yılında kendini feshetti. 1921'e kadar Yeşilyazı'da varlığını sürdüren Sovyet bu tarihte tümüyle Türk topraklarına katıldı.