На территории современного Рыльска существовало крупное поселение северян. Рыльск впервые упоминается в летописи под 1152 годом в составе Новгород-Северского княжества. Название города по реке Рыле (ныне Рыло)— гидроним образован от славянского "рыть".

С конца XII века — центр Рыльского удельного княжества. Рыльск неоднократно страдал от междоусобных столкновений с соседними удельными княжествами и от многочисленных татарских набегов. В середине XIV века отошел к Литве. В 1454 году был отдан польским королем Казимиром IV в удел русскому князю Ивану Шемяке, бежавшему в Литву. Сын Шемяки, князь Василий Иванович добровольно подчинился великому московскому князю Ивану III. С 1522 года — в составе Московского государства. В XVI-XVII века пограничный город на южной окраине Русского государства, входил в так называемую Засечную черту (линия оборонительных укреплений). В начале XVII века подчинился Лжедмитрию I. После разгрома самозванец скрывался в Путивле и Рыльске. В XVII-XVIII века — один из крупнейших стратегических пунктов обороны от крымских татар, важный пункт торгово-экономических отношений между Россией и Украиной. C 1779 года уездный город Курского наместничества, с 1796 года — Курской губернии. В конце XIX века Рыльск являлся важным торговым центром (зерно, пенька, конопляное масло, сало, мед и воск). Рыльское купечество вело дело не только на внутреннем рынке, но и за границей. В годы Великой Отечественной войны Рыльск был оккупирован немецко-фашистскими войсками с 5 октября 1941 года по 31 августа 1943 года.

Достопримечательности:

Ансамбль Николаевского монастыря XVII-XVIII века. Сохранившиеся до наших дней постройки были возведены начиная с 26 марта 1731 года. Заказчик и причина заказа в точности не установлены, известно только то, что заказчиком постройки двухэтажной Николаевской церкви был купец Иван Шелехов, отец "Колумба Российского" Г.И.Шелехова.

Троицкая церковь — одноэтажная, каменная, XVIII века.

Николаевская церковь — двухэтажная, каменная, нижний этаж построен в XVII веке, второй — надстроен в 1733-1753 годы.

Воздвиженская церковь — одноэтажная, каменная, 1733-1738 годов.

Колокольня — каменная, низкие два этажа построены в XVII веке, верхние надстроены в 1780-х годах.

Торговые ряды напротив современного автовокзала.

Дом фон Филимонова на пересечении улиц Архангельская и Преображенская. На углу улиц Преображенской и Архангельской (Ленина и Дзержинского) было построено прекрасное здание по типу столичных дворянских особняков. Строительство вел видных архитектор того времени Карл Фридрихович Шольц, который осуществлял в 1870 году перестройку дворца в усадьбе Марьино. Великолепное здание было построено в короткий срок и стало украшением города. Стены с резными поясками и сандриками украшены гипсовыми художественными фигурами, розетками, над угловым окном второго этажа помещены скульптуры двух ангелов. На улицу выступают два балкона с замечательной архитектурной отделкой. Над карнизом находилась балюстрада с точеным дубовым ограждением, а высоко над крышей поднималась смотровая площадка в виде усеченной четырехугольной пирамиды с ограждением, куда из здания вела винтовая лестница. Рядом со зданием, за арочными воротами, располагались одноэтажные флигели с глубокими подвалами, из которых вел подземный ход к Успенскому собору.

Здание бывшего духовного училища. Одним из ранних строений Филимоновых является трехэтажный дом с колоннами на высоких пилонах, зубчатым карнизом и фронтоном, находящийся на улице Преображенской (Ленина). Позже этот жилой дом перейдет под духовное училище и к нему будет пристроен новый, другой архитектуры, корпус здания. На сегодняшний день в этом строении размещается кузница сельхозкадров - Рыльский аграрный колледж.

Покровская (Благословенная) церковь. В Рыльске была и есть единоверческая церковь, построенная в 1737 году, называлась она Покровской, затем Благословенной. Располагалась она на улице Архангельской (Дзержинского). Отличалась от других церквей своей многоглавостью, круглыми куполами и луковками. В 1910 году рядом с ней начали строительство новой Покровской (Благословенной) кирпичной церкви.

Храм Покрова Божьей Матери. Четырехпрестольный каменный храм Покрова Божьей Матери был возведен в 1822 году на средства купцов Шелеховых, тех самых, из которых был родом знаменитый мореплаватель. Основной объем собора представляет восьмиугольник со слегка выпуклыми между портиками четырьмя сторонами, в силу чего снаружи и изнутри собор воспринимается как округлый. Портики четырехколонные, на западной стороне возведена многоярусная колокольня. Центральный объем увенчан одним мощным куполом, опирающимся на высокий барабан и четыре столба изнутри. Стройность колокольни создается с помощью четкого пропорционального ритма убывающих кверху ярусов, а также благодаря обрамлению углов пучками из пяти колонн с малозаметными базами и капителями- не боясь впасть в преувеличение, можно сказать, что в условиях малоэтажной застройки Рыльска собор с колокольней производит грандиозное впечатление. Памятник относится к стилю позднего классицизма с некоторым усложнением декоративного убранства.

Дом Шелихова на пересечении улиц Глуховской и Выходцевской (ныне Урицкого и К.Либкнехта).

Успенский собор. На плане города, составленном в 1851 году и совмещающем в себе "регламент" высочайше конфирмированного в 1784 году плана с реальной планировочной ситуацией середины XIV века, — к северу от Торговой площади — на месте существующего в настоящее время Успенского собора — под литерой "а" обозначен "Собор Василия Великого". Слева от него, на углу соседнего квартала, находится здание Уездного училища (лит. "о"), а справа — каменное каре "Торговых лавок" (или "Рядов").