Lần đầu tiên thư tịch cổ nhắc đến đô thị này là vào năm 863, và ngay từ thuở xa xưa đó nơi đây đã được xem là rộng lớn, đông dân và có tổ chức vững chãi nhất. Qua 12 thế kỷ, Smolensk không chỉ một lần biến thành bãi chiến trường đẫm máu, chịu sự cai trị của nhiều chủ nhân, bị đốt cháy và phá hủy. Nhưng sự can đảm và kiên cường của cư dân thành phố luôn khiến kẻ thù kinh hãi. Thành phố Anh hùng Smolensk đã trở thành một pháo đài đáng tin cậy nơi phên dậu cửa ngõ biên giới phía tây của nước Nga.
Trong khoảng giao thời thế kỷ XII-XIII, Smolensk thịnh vượng là một trong những "đại đô thị" trung cổ của Nga, thành phố được tô điểm bằng những tòa thánh đường đẹp uy nghi tuyệt vời. Đáng tiếc là đến nay chỉ còn lại ba nhà thờ của thời đại ấy. Một trong số đó là Giáo đường của các Thánh tông đồ Phêrô và Phaolô, được xây dựng vào thế kỷ XII, là hình mẫu đặc trưng của kiến trúc cổ ở miền tây nước Nga.
Vào cuối thế kỷ XVI, thay cho những công sự gỗ ở Smolensk đã dựng tòa pháo đài bằng đá, là căn cứ phòng thủ kiên cố bậc nhất đương thời. Nhưng ngay cả với những tòa thành như vậy, tưởng chừng dường như hoàn toàn thực dụng với tường bao vững chãi, các kiến trúc sư Nga vẫn cố gắng trang trí cho đẹp. Những chỗ hổng đục trong các bức tường làm lỗ châu mai để ngắm bắn vào đối thủ tấn công cũng được trang trí bằng hình khắc hoa văn đa dạng phong phú. Theo lời người đương thời, "tường thành Smolensk đã trở thành chiếc vòng trang điểm của cả xứ Nga khiến kẻ thù ghen tỵ còn nhà nước Moskva thì tự hào". Phần được bảo tồn của chiếc "vòng cổ" bằng đá này vẫn bao quanh Smolensk ngày nay, và chúng ta có thể đến thỏa sức chiêm ngưỡng.
Thành phố được củng cố theo thời gian: năm 1609 nơi đây bị quân Ba Lan bao vây. Người Smolensk kiên trì cầm cự trong gần hai năm. Chỉ nhờ vào sự bội phản xấu xa, kẻ thù mới có thể vào được trong thành. Tuy nhiên trận chiến tuyệt vọng vẫn tiếp diễn trên đường phố. Cuối cùng những chiến binh bảo vệ Smolensk còn sống sót phải rút lui vào cố thủ trong Nhà thờ Uspensky. Lúc quân Ba Lan đột nhập vào giáo đường, người Nga đã châm lửa cho nổ tung thùng thuốc súng, chôn vùi cả bản thân mình và bọn giặc dưới đống đổ nát.
Vào giữa thế kỷ XVIII để tưởng niệm những người đã ngã xuống vì quê hương, cư dân gom góp tiền bạc dựng lại nhà thờ Uspensky. Tòa giáo đường mới thanh lịch với năm mái vòm trang trí công phu, kết hợp hài hòa các thành tố của kiến trúc cổ đại và phong cách kiến trúc Baroque, đứng uy nghi trên điểm cao nhất của Smolensk là đồi Sobornoe. Vẻ đẹp của tòa giáo đường gây ấn tượng mạnh ngay cả với kẻ thù. Năm 1812, khi quân Pháp chiếm thành phố, Hoàng đế Napoleon ra lệnh bố trí lính canh bên cạnh nhà thờ, để bảo vệ cơ sở này khỏi nạn cướp bóc. Trong thời gian cuộc Thế chiến II một viên tướng Đức cũng ra lệnh tương tự với quân lính của ông ta ở Smolensk. Nhà thờ Uspensky là giáo đường đô thị duy nhất được bảo quản nguyên vẹn hầu như không bị ảnh hưởng tàn phá sau những cuộc xâm lăng của ngoại bang.
Chẳng bao lâu sau khi thành phố được giải thoát khỏi ách chiếm đóng của phát-xit Đức vào năm 1943, chính phủ xô-viết đã đưa Smolensk vào hàng 15 thành phố cổ của nước Nga cần được ưu tiên tái thiết trước hết. Chỉ sau vài năm, Smolensk đã hồi sinh rực rỡ từ đống đổ nát hoang tàn. Hiện nay Smolensk được coi là một trong những thành phố đẹp nhất của nước Nga.