В 1010 году на месте селения Медвежий гром при слиянии рек Которосли и Волги ростовским князем Ярославом Мудрым был заложен город, основной задачей которого была охрана пути от Волги к Ростову Великому. В летописи Ярославль упоминается с 1071 года. Предание рассказывает, что на месте будущего города было языческое мерянское святилище, где князь зарубил священную медведицу. Эта легенда объясняет происхождение ярославского герба (медведь с секирой в лапах), известного по изображениям с XVII века.
Город был основан на высоком мысу (Стрелке), при впадении в Волгу реки Которосли. Он служил торговым и военным форпостом Ростова, бывшего тогда важнейшим центром Залесской земли. Роль форпоста Ярославль играл вплоть до основания Костромы (1152 год), когда граница древнерусского государства сдвинулась вниз по Волге.
В летописи Ярославль упоминается в связи с одним из первых на Руси народных восстаний, когда во время голода в ростовской земле произошло восстание против богатых людей, укрывавших запасы продовольствия.
Долгое время Ярославль оставался небольшим поселением. В начале XIII века благодаря выгодному экономическому положению он превратился в один из крупных городов Ростовской земли. К этому времени относится первый расцвет города. В 1215 году ростовским князем Константином Всеволодовичем был заложен городской Успенский собор из камня, в 1216 году начали строить каменный собор в загородном тогда Спасо-Преображенском монастыре. Эти сооружения до нашего времени не дошли.
В 1218 году Ярославль достался в удел второму сыну князя Константина – Всеволоду-Иоанну и стал столицей княжества. В 1238 году мирная жизнь города была прервана нашествием орд хана Батыя. Обстоятельства взятия Ярославля (как и многих других русских городов) неизвестны. В летописях он упомянут в числе городов, плененных захватчиками.
Предание первой половины XVI века говорит о приходе под Ярославль самого хана Батыя. Князь Всеволод вместе с братом, ростовским князем Васильком, присоединил свою дружину к войску великого князя Юрия Всеволодовича, чтобы объединенными силами выступить против кочевников. Битва была проиграна, погиб и ярославский князь. Но ярославцы не покорились. В 1257 году они дали бой захватчикам на плоской горе напротив города за Которослью. В память этой битвы гора получила название Туговой (туга – печаль): горожанки оплакивали на ней тела защитников, павших в бою с захватчиками. В 1380 году ярославские дружины приняли участие в исторической Куликовской битве, положившей конец безраздельному ордынскому владычеству на Руси. Среди участников этой битвы "Сказание о Мамаевом побоище" называет, ярославских князей Андрея, Романа Прозоровского и Льва Курбского.
В 1463 году Ярославль присоединился к Московскому княжеству.
XVI век стал для Ярославля временем нового экономического и культурного подъема. После пожара 1501 года в городе возобновляется каменное строительство. Отстраиваются заново рухнувший в огне городской Успенский собор и пришедший в негодность собор Спасо-Преображенского монастыря. После пожара 1536 года город получает новую систему укреплений: к деревянному Рубленому городу на Стрелке прибавляется Земляной город – ядро посада, обнесенное валом и обведенное рвом. К посаду, преимущественно вдоль Волги и Которосли, примыкают многочисленные слободы.
В 1552 году к Москве было присоединено Казанское, а в 1556-м Астраханские ханства, затем был открыт торговый путь в Европу, что поставило Ярославль в исключительно выгодное положение. В городе возникают подворья английской, голландской и немецкой компаний, он становится одним из важнейших торговых центров страны.