蘇格蘭牧羊犬的起源之說即使在今天仍然是一個謎。但是短毛蘇格蘭牧羊犬和粗毛蘇格蘭牧羊犬這兩個類型，在蘇格蘭和英格蘭北部的歷史上已經存在了很久。“牧羊”是人類歷史上最古老的工作之一，相應的，蘇格蘭牧羊犬祖先的歷史也經歷了頗為久遠的發展。有趣的是，早期的短毛蘇格蘭牧羊犬的工作并不是在牧場驅趕羊群，而是把牛羊牽引到集市上。
對于蘇格蘭牧羊犬最早期的描述是托馬斯·波維克于19世紀初期創作的一幅木刻版畫。當時畫中的粗毛型蘇牧被定性為“牧羊犬”，而短毛型則是“猛犬”。據當時記載，粗毛型蘇牧的肩高僅有36.5厘米，體型更接近于現代的喜樂蒂牧羊犬，而短毛型蘇牧則略大一些，而毛色也基本以黑色或黑白色為主。
談到了毛色，就不得不說說“COLLIE”這個名字的起源。在安格魯撒克遜族語里，“COLLIE”的意思是代表“黑色”。有一種說法是——“COLLIE”是指當地一種長著黑色面皮的羊，久而久之，人們把驅趕這些羊的牧羊犬也叫做“COLLIE”。而另外一種說法是——當地有一種黑色的、長著長毛的牧羊犬，據說它們是現代蘇牧的祖先之一，而它們的名字正是“COLLIE”，所以沿用至今。在那時候這種狗被稱為“COL”、“COLLEY”、“COALY”，而當時最流行的應屬“COL”。直到19世紀早期，維多利亞女王才統一了民間的叫法，將其正式命名為“COLLIE”。
