Рильський почав писати рано, перший його вірш надруковано 1907, перша юнацька збірка поезій «На білих островах» вийшла 1910 року. Першою вже зрілою, що визначила появу видатного поета, була збірка «Під осінніми зорями».
У 1920-х роках Рильський належав до мистецького угруповання «неокласиків», переслідуваного офіційною критикою за декадентство і відірваність від сучасних потреб соціалістичного життя. Протягом десятиріччя вийшло десять книжок поезій, серед яких «Синя далечінь» (1922), «Поеми» (1925), «Крізь бурю і сніг» (1925), «Тринадцята весна» (1926), «Гомін і відгомін», «Де сходяться дороги» (1929), та декілька книжок поетичних перекладів, зокрема 1927 року — переклад поеми Адама Міцкевича «Пан Тадеуш».
Як і решта неокласиків, Рильський безпосередньо своєю творчістю не реагував на політичні події і протягом 1920-х років цілковито ізолювався від радянської дійсності, лише подеколи в одвертій формі чи у вигляді іронічних «відступів» виявляв обурення проти ідейно-політичної та літературної атмосфери, що панувала тоді . Така поведінка поета викликала гострі напади офіційної критики, що врешті закінчилося арештом НКВС у 1931, після чого він майже рік просидів у Лук’янівській тюрмі. Після ув’язнення Остап Вишня забрав його до себе в Харків на кілька днів у гості. Його товариші-неокласики М. Драй-Хмара, П. Филипович, М. Зеров були репресовані й загинули в концтаборах.