Sugar Mountain er en af tidligste sange. Young komponerede sangen på sin 19 års fødselsdag, den 12. november 1964, på Victoria Hotel i Fort William, Ontario, hvor han havde turneret med sit Winnipeg-band The Squires. Tekster er reflekterer om hans ungdom i Winnipeg.

Den første kendte indspilning af sangen blev lavet den 15. december 1965 som en demo hos Elektra Records i New York. Den version kan høres på Early Years disken fra The Archives Vol. 1 1963–1972. Den første formelle udgivelse af Sugar Mountain var en live version af sangen lavet 10. november 1968, som en del af en optræden i Canterbury House i Ann Arbor, Michigan. Den indspilning blev udgivet som B-siden af ​​Youngs single The Loner fra 1969, og faktisk igen som B-siden af ​​Cinnamon Girl året efter.  Det tredobbelte opsamlingsalbum Decade fra 1977 var første albumudgivelse med Sugar Mountain på tracklisten.

Young fortæller om sangen:
“Jeg skrev 126 vers til den, og havde mange problemer med at finde ud af, hvilke fire vers jeg skulle bruge. ”Now you’re underneath the stairs…” Det var nok det værste vers af de 126, jeg skrev. Så jeg besluttede at tage det med i sangen, bare for at give alle en referenceramme med hensyn til, hvad der kan ske, når man skriver. Jeg tror, det er et af de dårligste vers, jeg nogensinde har skrevet. Og det kræver en del mod for mig at synge den foran et publikum. Men hvis de, når jeg er færdig med at synge verset, synger med på omkvædet super højt, glemmer jeg det med det samme.”

Joni Mitchell, der blev venner med Young tilbage i 1965, da de mødtes i folk-miljøet i Toronto, skrev nummeret The Circle Game, som et svar på Sugar Mountain. Ved en koncert i Albert Hall i London den 29. oktober 1970 åbnede Joni Mitchell forestillingen med denne tale:

“I 1965 boede jeg i Canada, og der var en af mine venner deroppe, som lige havde forladt et rock’n’roll-band. Han var lige fyldt 21 år, og det betød, at han ikke længere måtte komme ind på hans yndlingssted, som var en slags teeny-bopper-klub. Når du først er over 21, kunne du ikke komme derind igen. Så han havde det virkelig forfærdeligt, fordi hans veninder og alle, som han ville hænge ud med, fx hans band, stadig kunne komme ind. Så det var faktisk en af de ting, der fik ham i gang soloartist. Så han skrev denne her sang, som var en klagesang over hans tabte ungdom. Og jeg tænkte, Gud, hvis vi når 21 og der ikke er noget efter dét. Det er en ret dyster fremtid, så jeg skrev en sang til ham, og til mig selv, bare for at give mig lidt håb. Den hedder The Circle Game.”

En langtidsholdbar sukkertop
Young har været tro mod sangen igennem sin karriere. Udover at spille nummeret flittigt i sine soloshows op gennem 60’erne og 70’erne, er Sugar Mountain eksempelvis også åbningsnummer på Live Rust koncertudgivelsen fra 1979 med Crazy Horse, hvor Young starter ballet solo på sin 12-strengede Taylor 855 med tre på stribe; Sugar Mountain, I Am A Child og Comes A Time.I klippet øverst spiller Young Sugar Mountain med Willie Nelson og Mickey Raphael ved Farm Aid-koncerten i Louisville, Kentucky den 1. oktober 1995. Farm Aid blev startet af Willie Nelson, Neil Young og John Mellencamp i 1985 til støtte for familiedrevet landbrug, og har siden arbejdet på at sikre, at alle har adgang til god mad fra familiedrevet landbrug. Dave Matthews blev medlem af Farm Aids bestyrelse i 2001.