Изначально Толкин не собирался писать продолжение к «Хоббиту» (роман «Властелин колец» фактически является таким продолжением). Однако 15 ноября 1937 года во время обеда со Стэнли Анвином, владельцем издательства, опубликовавшего «Хоббита», Толкин получил предложение представить для рассмотрения другие произведения. Рецензент издательства отклонил присланный «Сильмариллион», хотя отозвался о нём положительно. Ободрённый этим Толкин начал писать продолжение «Хоббита» и уже 16 декабря 1937 года в письме к издателю сообщил о первой главе новой книги.

Целью Толкина было создать английский эпос. Толкин был оксфордским филологом, хорошо знакомым со средневековыми мифами Северной Европы, такими как «Сага о Хервер», «Сага о Вёльсунгах», «Беовульф», а также с другими староскандинавскими, староанглийскими и средневековыми английскими текстами. «Властелин колец» был вдохновлён и другими литературными источниками, например, легендами Артуровского цикла и карело-финским эпосом «Калевала». По мнению Толкина, англосаксам остро не хватало эпоса подобных масштабов, артуровский миф он считал неподобающей заменой из-за его явных кельтских, а не англосаксонских, корней.

Создание английского эпоса часто обсуждалось на встречах Толкина с Инклингами (литературная дискуссионная группа в Оксфордском университете, на еженедельных встречах этой группы обсуждались исландские мифы и собственные неопубликованные сочинения). Толкин согласился с одним из членов этой группы, Клайвом Льюисом, что в отсутствие английского эпоса необходимо его создать самим.

Параллельно с этими дискуссиями в декабре 1937 года Толкин начал «нового Хоббита». После нескольких неудачных попыток история начала набирать обороты, из простого продолжения «Хоббита» превратившись скорее в продолжение неопубликованного «Сильмариллиона». Замысел первой главы возник сразу в готовом виде, хотя причины исчезновения Бильбо, идея о важности Кольца Всевластья и название романа прояснились только к весне 1938 года. Сначала Толкин хотел написать ещё один рассказ, в котором Бильбо, истратив все свои сокровища, пустился в новые приключения, но, вспомнив кольцо и его силу, решил вместо этого написать о нём. В начале главным героем был Бильбо, но потом автор решил, что история слишком серьёзная для такого комичного и весёлого персонажа. Толкин рассматривал возможность отправить в путешествие сына Бильбо, но возникали вопросы: где была его жена? Как Бильбо отпустил сына в столь опасное путешествие? В итоге Толкин решил продолжить традицию древнегреческих легенд, в которых артефакт, обладающий магической силой, получает племянник главного героя. Так возник хоббит Фродо Бэггинс.

Будучи перфекционистом, Толкин писал медленно. Его литературная работа часто прерывалась академическими обязанностями, в частности, Толкин должен был экзаменовать студентов (даже первая фраза «Хоббита» — англ. «In a hole in the ground there lived a Hobbit» — была написана на чистой странице экзаменационной работы одного из студентов). В течение большей части 1943 года Толкин не работал над текстом, но продолжил работу в апреле 1944. Главы из романа Толкин посылал своему сыну Кристоферу, служившему в Африке в английских ВВС, и Клайву Льюису. В 1948 году история была завершена, но до 1949 года продолжалось редактирование ранних частей «Властелина колец».