Pirmoji Anykščių viešoji biblioteka veikė galbūt kažkuriame iš šių senamiesčio pastatų, kurie 1944 m. vasarą ištisai buvo sugriauti. A. Baranausko ir A. Vienuolio-Žukausko memorialinio muziejaus fondų nuotrauka.
Kovo 15-oji kasmet Anykščiuose minėtina kaip Bibliotekos gimtadienis. 1937 m. kovo 15 d. Lietuvos Respublikos Švietimo ministro Juozo Tonkūno įsakymu, remiantis 1936 m. priimtu Valstybinių viešųjų bibliotekų įstatymu, Anykščiuose buvo įsteigta Viešoji valstybinė II eilės biblioteka. Ši diena laikoma ne tik Anykščių viešosios bibliotekos, bet ir dar 63 Lietuvos bibliotekų veiklos pradžia.
Pirmuoju Anykščių viešosios bibliotekos vedėju 1937–1941 m. dirbo Kazys Narijauskas, biblioteka turėjo apie 200 skaitytojų, kurie kiekvieną mėnesį mokėdavo 50 centų abonentinį mokestį už naudojimąsi biblioteka, tai yra, už teisę pasiimti knygų į namus. Nemokamai buvo aptarnaujami kariai ir moksleiviai, o užsukusiems tik į skaityklą mokesčio irgi nereikėdavo mokėti. Neliko žinių, kiek tuo metu buvo knygų Anykščių viešojoje bibliotekoje, bet tikriausiai jų skaičius iki Antrojo pasaulinio karo neišaugo daugiau nei iki 1 tūkstančio. Karui baigiantis Anykščių biblioteka sudegė, todėl pokariu ji buvo kuriama iš naujo – atidaryta pastato A. Baranausko aikštėje pirmajame aukšte, po viešbučiu.
