古来より但馬地方ではウシが飼育され、平安時代初期に編纂された勅撰史書である続日本紀において「耕運、輓運、食用に適する」と記述されており、少なくとも中世には食用としても利用されたことが分かっています。

　江戸時代以前は、主に農耕や輸送などの役牛として用いられました。長命連産で繁殖力が強いため、但馬では生産がさかんに行われ、小型で力強く、飼料の利用性がよい但馬牛は人気が高かったようです。
役牛として使われた牛は、必然的に背や腰が丈夫になり、肢蹄が強く、安定感のある体格となっていきました。

　明治時代に牛肉を食べる文化が広まると、但馬牛は神戸ビーフとして注目されるようになります。神戸ビーフの名は、神戸の居留地に住む外国人たちが神戸で手に入れた牛が非常においしかったからとも、横浜などの居留地の外国人たちが生産量の多い関西方面から入手した牛が神戸を経由していたためとも言われています。

　明治時代には、品種改良のために、イギリス原産の短角種デボン種、スイス原産のブラウンスイス種などの外国種との雑種生産が行われましたが、肉質悪化、使役能力の低下などが見られるようになったため、雑種交配は短期間で中止されました。
1898年（明治31年）には戸籍にあたる牛籍簿で血統の管理が行われるようになり、1911年（明治44年）以降は外国種の血統の入った牛が排除されました。
また、他地域の品種との交配も行わず、限られた雄牛の精子のみを受精させることで血統の純化、改良が進められ、蔓（つる）と呼ばれる系統がつくられました。
現在する有名な蔓は「あつた蔓」「ふき蔓」「よし蔓」の3つで、それぞれ優れた特性が固定されており、その遺伝力が強く生まれてくる子牛の剤一性が高いことが特徴です。

　和牛の肥育には平坦な土地ではなく、山が適していると言われています。
但馬地方には、標高1,000メートルを越える険しい峰々が方を並べ、豊かな野草が生い茂り、和牛の肥育には適していました。
険しい山と谷に囲まれ、限られた地域内で交配が続けられた事で、優良な遺伝子が効率的に活用され、但馬牛の素晴らしい特徴がより強固なものとなっていきました。

　1310年（鎌倉時代）に書かれた「国牛十図」には、但馬牛について次のように記されています。
「骨ほそく、宍かたく、皮うすく、腰背まろし、角つめことにかたく、はなの孔ひろし、逸物おほし」
現在の但馬牛の特徴は、古来より培われた優れた肉質と強力な遺伝力によるものと言えます。

　但馬牛の肉質は、「サシ」の入り方が絶品と言われています。サシとは霜降りの事で、霜降りの入り具合のことを、サシまわりとも言います。
熱を加えると、サシが溶けて周りの筋肉を柔らかくし、肉の旨味と脂の香りが相まって独特な深い味わいが生まれます。
また、但馬牛は足腰の強い牛であるにもかかわらず、骨が細く、肉部分の比率の高い牛としても知られています。

現在、日本の「和牛」は世界的にとても高い評価を受けておりますが、「神戸牛」はもちろんの事「近江牛」「松阪牛」など、名だたる銘柄牛は例外なく但馬牛の血を引いていると言われています。<.br> 現在においても但馬牛の子牛は、肥育素牛として生後8〜10ヶ月齢で県内外の各地に売られていきます。その後、それぞれの地域で肥育され、それぞれの銘柄牛として出荷されます。