Центральная библиотека была создана на базе городской массовой библиотеки № 9, открытой 1 июля 1966 года по инициативе отдела культуры горисполкома. Первые книги были переданы в дар Музеем истории города Владикавказа. Общий фонд на тот момент составлял 1000 документов.

Первой и единственной заведующей библиотекой № 9 стала Варвара Тумасовна Киор-оглы. Она очень любила свое учреждение, быстро и качественно формировала книжный фонд, привозила ценные книги из разных городов страны и зарубежья.

В апреле 1973 года библиотека переехала в пятиэтажное жилое здание на углу улиц Гугкаева и Московской, где в декабре 1975 года получила статус Центральной городской. Работники ЦГБ во главе с первым директором Симой Хадзбатровной Елоевой провели большую работу по приведению книжных фондов и каталогов массовых центральных библиотек в соответствие с задачами централизации.

Такая обработка литературы позволила создать на квалифицированном уровне необходимый минимум каталогов во всех библиотеках системы и достаточно полный справочно-библиографический аппарат ЦГБ. Изменение политики комплектования привело к улучшению состава книжного фонда. Это выразилось в значительном расширении репертуара названий приобретаемой литературы для Центральной городской библиотеки и ее филиалов.

В октябре 1977 года во Владикавказе состоялась научно-практическая конференция специалистов библиотек Поволжья, Центрально-Черноземной и Северокавказской зон. В Центральной библиотеке и ее филиалах побывали представители различных делегаций, которые знакомились с опытом работы владикавказских библиотек и делились своими знаниями. В память об этом событии в библиотеке хранится альбом "Наши гости" с пожеланиями и автографами представителей делегаций Дагестанской, Кабардино-Балкарской, Чечено-Ингушской АССР, Тамбовской и Куйбышевской областей.

К 1980 году книжный фонд Центральной библиотеки увеличился, открылись новые отделы, расширился контингент читателей. Все это требовало дополнительного пространства и благодаря директору Елоевой библиотеке отвели место на первом этаже нового жилого 9-этажного дома на улице Ноя Буачидзе – ныне – проспекте Коста, в районе Архонского круга.

В последующие годы ЦБС интенсивно развивалась: увеличивались фонды, улучшалось качество обслуживания читателей, предоставлялись новые помещения и оборудование.

Сима Хадзбатровна руководила библиотекой до конца жизни. В 1992 году ее не стало. Пост директора заняла Луиза Тимофеевна Гугкаева. Для развития ЦБС она сделала очень многое. Например, провела работу над тем, чтобы библиотека и ее филиалы стали соответствовать требованиям нового времени. Она также развивала творческую инициативу у библиотекарей, учила их думать и искать нетрадиционные подходы к работе. "Луиза Тимофеевна – профессионал с большой буквы. Любое дело, за которое она бралась, было выполнено безукоризненно. Она – ходячая энциклопедия. И это не просто высокопарные слова и не только мое мнение. Так считают все, кому посчастливилось с ней работать. На вопросы из области языкознания, библиотековедения, медицины, биологии и других наук она всегда могла дать исчерпывающий ответ. Она была не только труженицей, но и разносторонней личностью. Мы всегда будем помнить о ней", − поделилась завотделом краеведения Римма Дзугаева-Мурашева.

В последующие годы Центральной библиотекой руководили Тереза Калиева, Жанна Калоева, Диляра Албегова. За это время книжные фонды пополнялись, проводились различные мероприятия, в библиотеках появились компьютеры и Интернет.

В настоящее время директором является Залина Темисоевна Цахилова. Она − настоящий профессионал своего дела. Критическое мышление, большая эрудиция, развитая интуиция и стремление к познанию нового – качества, которыми должен обладать настоящий руководитель, и Залине Темисоевне они присущи в полной мере.

Она активно привлекает внимание органов власти к проблемам библиотек. С 2010 года при ее непосредственном участии были модернизированы библиотеки-филиалы №№ 1, 4, 9, 13 ЦБС. В них отремонтировали помещения, пополнился книжный фонд, а также было предоставлено новое оборудование.

На сегодняшний день Центральная библиотечная система включает в себя 14 библиотек, 6 из которых − детские, расположенные в 4 административных районах города. Библиотечный фонд составляет более 350 000 экземпляров документов на различных видах носителей.

Сотрудники ЦБС ведут большую работу по продвижению книги, прививают любовь к чтению. В связи с этим проводятся различные акции, такие как "Книги – в дар библиотеке", "Приглашение первоклассников в библиотеку", "Доброе сердце", "Читающий трамвай", "Час Земли" и другие.

Стоит отметить, что в 2012 году Центральная библиотека и ее филиалы участвовали во всероссийском конкурсе "Работа библиотек по правовому просвещению избирателей" и на региональном этапе заняли 1-е место. В этом же году ЦБС была награждена Почетной грамотой ФНПР как лучшее учреждение культуры г. Владикавказа.

В настоящее время библиотека продолжает вести активную культурно-просветительскую деятельность. В ней проходят различные мероприятия, творческие и литературные вечера, действуют кружки и клубы по интересам. Например, клуб "Ахсардзан", объединивший любителей осетинского языка и литературы.

Библиотеки ЦБС стараются соответствовать всем информационным потребностям населения. Они ведут большую работу по продвижению книги. Творческий подход к этому делу помогает им взаимодействовать с читателем и прививать любовь к чтению.