Egyetlen régi szarvasmarhafajtánk, amely több száz éve van Magyarországon. Eredetét három elmélet adja meg, amelyek tökéletesen nem bizonyítottak még:

• Árpád vezér magyarjai hozták a Kárpát-medencébe (Hankó 1952), ezt azonban az ásatások nem bizonyítják.
• A népvándorlás későbbi hullámai, avagy egy Dél-Európából történő import révén került ide később, a 13-14. században (Bodó 1968).
• A középkori magyar királyok idején itt helyben tenyésztették ki az őstulok domesztikációja révén (Jankovics 1967).

Fontos megjegyezni, hogy ez a három elmélet nem zárja ki egymást, mindegyikben lehet igazság. Nagyon valószínű viszont, hogy nem került ide sehonnan sem készen ez a fajta, hanem itt tenyésztették ki, tehát valóban hazánkban „őshonos” fajtáról van szó, másrészt az is kétségtelen, hogy azok közé a fajták közé tartozik, amelyek legjobban emlékeztetnek a szarvasmarha egykor vadon élt ősére, az őstulokra. 

A 18-19. századig fontos exportcikk volt ez a fajta. Lábon hajtva eljutott egészen Nürnbergig is. A német városokban olyan sokra értékelték, hogy nem volt szabad a mészárszékekben más húst kimérni, amikor a magyar gulyák megérkeztek.  A gazdasági és természeti viszonyok alapvető megváltozása véget vetett ennek az aranykornak. A szívós és erőteljes fajta ettől kezdve nagyon jól megtalálta viszont a helyét a gazdasági életben mint nagy értékű ökröket előállító marhafajta. Voltak Erdélyben olyan gazdák, akik a teheneikkel dolgoztak és a tinókat Csehországba adták el. A második világháború után a gépesítés fejlődésével többé már nem volt szükség ökörre, ezért a létszám nagymértékben csökkent és az ötvenes évek végén, a hatvanas évek elején a mélypontra süllyedt. Ekkor hazánkban a vegyes hasznosítású magyartarka fajtát tenyésztették A vegyes hasznosításban a magyar szürke nem volt versenyképes gyengébb tejtermelése miatt. Az ötvenes évek végén a hivatalos irányzat keresztezésre ítélte a fajtát, elsősorban a szovjet eredetű kosztromai fajtával kellett volna keresztezni. A keresztezést a Hortobágyi és a Hosszúháti Állami Gazdaság kezdte végezni. Ez a keresztezés sem bizonyult versenyképesnek már az akkori követelmények szerint sem. Ez a fajta volt viszont az első háziállatfajta, amely Magyarországon hivatalosan is védelem alá került.

A tenyésztés irányításáért az MGSZH vezetése mellett a Magyar Szürke Szarvasmarha Tenyésztők Egyesülete felelős. A tehénlétszám az ezredfordulóra meghaladta a háromezret. A fajtát egyre inkább úgy értékelik, mint olyan hús-marha fajtát, amely jó anyai tulajdonságai révén a gyengébb minőségű legelők hasznosításában jelentős lehet. 

Egyik legértékesebb géntartalék fajtánk, mert hazai kitenyésztésű, hazai tájhoz kötődik és ehhez adaptálódott száz évnél idősebb, kitenyésztett, nem keresztezett fajtatiszta állomány, amely a más hasonló fajtáktól is kellően elkülönült. A tenyészcél a fajta változatlan fenntartása, más tenyészcél csak az eredeti típus fennmaradásához feltétlenül szükséges létszám felett engedhető meg.