Pásztor, juhász dinasztia leszármazottja; görögkeleti ősei a XVIII. század közepén telepedtek le Szentesen és környékén. Apja, Erdei Sándor juhász, Nagybecskere-ken nősült 1893-ban, feleségül véve egy távoli rokon juhász famíliából származó 17 éves leányt, Papp Annát. Hét gyermekük közül Mihály született utoljára, aki Szentesen látta meg a napvilágot 1907. október 13-án.
A gazdasági függetlenségre, szabad életre törekvő apa bérelt földeken juhászkodott és gazdálkodott Szentes határában. A család 1915-től a Széchenyi utcai városi házban lakott, így Mihály már városi iskolába járhatott. 1916-1920 között elvégezte a négy elemit, majd apja mellett megtanulta a földművelést és a juhászságot.
1926-tól már eljárt különböző alkalmi bérmunkákra: aratásra, cséplésre, és egyéb napszámos munkákra. Ekkoriban került kapcsolatba a szervezett földmunkásokkal, akiknek hatására 1929 őszén belépett a Szociáldemokrata Párt (SZDP) és a Magyarországi Földmunkások Országos Szövetsége (MFOSZ) szentesi szervezeteibe. Ettől kezdve élte a munkásfiatalok mozgalmi életét: autodidakta módon képezte magát, eszperantó tanfolyamot végzett, tagja lett a Munkásotthon szavalókórusának, tiltott röplapokat, illegális kiadványokat terjesztett.
1932-ben kubikusnak állt; munkástársaival járta az országot, megragadva minden munkaalkalmat: út- és vasútépítést, védőgátjavítást, csatornaásást, halastavak létesítését stb. A mozgalmon belül növekvő tekintélyét jelzi, hogy 1934 elején megválasztották a SZDP helyi szervezetének jegyzőjévé, 1937 februárjában pedig alelnökévé, és ezzel közel egy időben, Vajda Imre elnök mellett ő lett a MFOSZ helyi csoportjának alelnöke is.
A német megszállást követően (1944. márc. 19.) egy szentesi kubikos csapattal Erdélyben vállalt munkát, így sikerült elkerülnie az internálást, illetve a katonai behívást. A front elvonulása után (1944. okt.) megkezdődhetett a szétzilált polgári közigazgatás helyreállítása, az életfeltételek biztosításának megszervezése. Ezekben a régi munkásmozgalmi vezetők - így Erdei Mihály is - az élen jártak. Az újonnan alakult megyei és városi néphatalmi szervek, testületek, pártok és szakszervezetek létrehozásában komoly szerepet vállalt. 1944. október 12-én Erdei Mihályt beválasztották a Magyar Kommunista Párt szentesi vezetőségbe, s feladatul kapta a német megszállás után betiltott szakszervezetek újjáélesztését, ill. új szakszervezeti csoportok szervezését. Az általa vezetett titkárság 1945 tavaszáig megszervezett 24 szakmát, 6 ezer taggal. Csongrád megye és a Tiszazug 17 településén megalakították a Földmunkások és Kisbirtokosok Országos Szövetsége (FÉKOSZ) helyi szervezetét.
A szentesi szakszervezetek részéről 1944 decemberében Erdei Mihályt delegálták a Debrecenben összeülő Ideiglenes Nemzetgyűlésbe, amelyben Szentes hat fővel képviseltette magát. (1945-ben ismét képviselővé választották; három cikluson át, 1953-ig tagja volt az Országgyűlésnek.) Ugyancsak a szakszervezetek színeiben tagja lett az 1944. december 26-án megalakult Szentesi Nemzeti Bizottságnak. A legjelentősebb néphatalmi szervként működő testületnek előbb alelnökévé, majd 1945 áprilisában elnökévé választották, és tagja lett a megyei és városi képviselő-testületeknek is. A FÉKOSZ 1945. májusi kongresszusán a szövetség országos alelnökévé, 1948-ban pedig elnökévé választották. 1949-1952 között ő az alelnöke a jogutód szervezetnek, a Dolgozó Parasztok és Földmunkások Országos Szövetségének (DÉFOSZ) is. 1946 januárjától a Földműves Szövetkezetek Országos Szövetségének alelnöke, a SZÖVOSZ Igazgatóságának tagja.
1946. április elején a MKP Csongrád Megyei Bizottsága első titkárává választották. Ebben a minőségében néhány hónappal később tagja lett az MKP, majd 1948-1954 között a Magyar Dolgozók Pártja (MDP) Központi Vezetőségének is. Az 1949-es választások után a Magyar Népköztársaság Elnöki Tanácsának tagja, mely tisztségét 1953-ig viselte. Közben 1950-1951 között földművelésügyi miniszterhelyettes, 1952/53-ban pedig a Kiskunsági Állami Gazdaság igazgatója. 1957-ben visszakerült a Földművelésügyi Minisztériumba, ahol 1960-ig a Szakoktatási és Kísérletügyi Főigazgatóságon dolgozott főigazgató-helyettesként. 1960/1963 között a Rácke-resztúri Állami Gazdaság igazgatója. 1963-ban nyugalomba vonult.
Erdei Mihályt munkahelyei és tisztségei az 1940-es évek végétől Budapesthez kötötték, de szülővárosával mindvégig szoros kapcsolatban maradt. Rendszeresen hazajárt, hisz családtagjai (köztük leánya, Erdei Franciska óvónő), rokonai, régi barátai, elvtársai mindig hívták és várták. Fontos beosztásaiban nem feledkezett meg Szentesről; a távolból is igyekezet kiaknázni minden lehetőséget városa és megyéje fejlődése érdekében. Ennek köszönhette, hogy 70. születésnapja alkalmából, 1977. október 14-én Szentes Város Díszpolgárává választották.
Miska bácsi nagy megtiszteltetésnek tartotta a címet, s magas életkora ellenére rendszeresen lejárt a városi tanácsülésekre. Látogatásai utóbb egyre ritkultak. Ehhez bizonyára hozzájárult az is, hogy az 1990-es rendszerváltás után nem volt sikk a "munkásmozgalmi veteránok" tisztelete, megbecsülése. Ezt érzékelte Erdei Mihály is, és kissé megkeseredve, az önkéntes száműzetést választotta. Csak évekkel később tudtuk meg, hogy 1992. október 6-án Budapesten elhunyt. A szentesi újság még rövidhírként sem tudósított a város díszpolgárának haláláról.
Labádi Lajos