Kayağın ilk çıkış şekli, insanların karda batmamak için çeşitli ağaçlardan çeşitli şekilde parçalar yapması olarak düşünülür. Tarihçesi 10-20000 yıl öncesine ait ilk kayaklar,
dişbudak, betula ve çam ağaçlarından yapılmış olup, bunların kara tutunmalarını artırmak için çam ağacından yapılanların taban ortaları katranla, betuladan yapılan kayaklarda deriyle kaplanmıştır.
Kayağın ilk ortaya çıktığı ve kullanıldığı bölgeler; Sibirya, Moğolistan ve Altaylar'dır. Bu bölgede 10-20000 yıl öncesinden kalma mağara resimleri ayakları kayaklı insanlar resmetmektedir. En eski kayak buluntuları 8000 yıl öncesinden Kuzey Rusya'da Vis'de bulunmuştur.
Daha sonra kullanım bölgeleri, Kuzey Amerika, Balkanlar, Anadolu ve Kuzeybatı yönünde İskandinavya ile İzlanda'ya doğru yayılmıştır. Norveç'te bulunan 5000 yıllık kaya resimleri (Alstahaug, Nordland) kayak kayan adam içermektedir; bunlardan biri 1994 Kış olimpiyatları grafikleri için esin kaynağı olmuştur. 1921 yılında İsveç'te bulunan çam ağacından yapılmış ilkel kayağın (Hoting Ski) 4500 yaşında olduğu saptanmıştır.
Jacques de la Tocnaye adlı bir Fransız gezgin 1799 da yenice tamamen araba yolu haline getirilmiş olan Oslo Bergen arasının en yüksek bölgesinde postanın Filefjell dağının arkasındaki bölgeye ayağı kayaklı bir postacı tarafından, atı da atlıyı da yutacak kadar derin kar tabakalarına batmadan, ter bile atmadan, ve yürümekten çok daha daha hızlı bir şekilde ulaştırıldığını hayretle görmüş, ve seyahatnamesinde yayınlamıştır.
İlk zamanlar karda avlanma üstünlüğü ve ulaşım kolaylığı aleti olarak Norveç, İsveç, Finlandiya ve bazı Doğu Avrupa ülkelerinde kullanılan kayak, 15. yy.dan itibaren İsveç, Norveç, Polonya, ve Rusya ordularınca kullanılmaya başlanmıştır. Önce asker idmanı, sonra genel bir spor aracı olarak benimsenmesi sonucunda, 1866'da Christiania'da (Oslo'nun eski adı) ilk kez kayak yarışmaları düzenlenmiş, bu karşılaşmaya gösterilen büyük ilgi üzerine, 1879'da Christiania'da daha büyük bir organizasyon gerçekleştirilerek kayakla atlama yarışmaları yapılmıştır. 1880'li yıllarda Norveç'li Fridtjof Nansen'in 6 kişilik ekibiyle Grönland'ın kuzey ucunu kayakla geçip, daha sonra "Grönland'da Kayakla Gezi" kitabını yayınlaması, kayağa gösterilen ilginin daha da artmasına neden oldu. 1896 da Mathias Zdarsky, Alp disiplininin temellerini oluşturan yeni teknikler bularak kayakta büyük bir devrim gerçekleştirmiştir.
Dünyadaki ilk kayak kulübü 1877'de, Fridtjof Nansen'in girişimleriyle Norveç'te "Christiania Skiklub" adıyla kurulmuş, bunu 1890'da Almanya, 1894'te Avusturya, 1901'de Fransa ve 1903'te İngiltere'de kurulan kayak kulüpleri izlemiştir. 1924'te merkezi Bern'de olan Uluslararası Kayak Federasyonu (Federation International de Ski) FIS'in kurulmasıyla birlikte kayak, aynı yıl kış olimpiyatları programına dahil edilmiştir. FIS'in ilk kez 1925'te düzenlediği "Kuzey Disiplini" ile 1931'de düzenlediği "Alp Disiplini" yarışları günümüzde her iki yılda bir, ayrı yerlerde ve birbirinden bağımsız olarak yapılmaktadır.