日本国立国会图书馆由中央馆、国会分馆、上野图书馆以及各行政司法部门所属的36所图书馆组成。它的前身包括两个：一个是成立于1890年、隶属于当时的帝国议会的贵族院众议院图书馆；另一个则是成立于1872年、隶属于文部省的帝国图书馆。其中帝国图书馆经历了书籍馆（1872）、东京书籍馆（1875）、东京府书籍馆（1877）、东京图书馆（1880）至帝国图书馆（1897）的发展，1947年改称国立图书馆。国立国会图书馆与日本国内各类型图书馆有互借关系。该图书馆的出版物有《国立国会图书馆月报》《国立国会图书馆年报》《日本全国书志》等。国立国会图书馆具有双重职能：它既是日本的国家图书馆，也是国会的图书馆，面向国会和政府部门、一般读者服务。《国立国会图书馆法》明确指出该馆“以搜集到的图书及其他资料，在帮助国会议员完成公务的同时，对行政和司法部门以及日本国民提供法律上所规定的图书馆服务为目的”，由此规定了国立国会图书馆服务的对象为：国会议员、政府机关、普通民众。其中为国会服务居首要位置，是它服务的重点。国立国会图书馆是日本唯一法定接受缴送本的图书馆，它收集的国内出版物作为日本的文化遗产将进行永久性保存，因此同时具有保存图书馆的作用。在信息化的社会中，作为国家的文献信息中心，它针对来自国内外各方面的文献需求提供迅速准确的服务。

       国会图书馆主馆总建筑面积为74911平方米。中间是边长为45米的正方形书库，书库分17层，面积32185平方米，可收藏450万册图书。书库四周设计了阅览室和办公室。阅览场所面积共8496平方米,办公场所34230平方米。新馆在主馆的北侧，与主馆之间有通道相连，构成有机的整体。主馆和新馆总共占地面积约2.9万平方米，建筑面积14.8万平方米，藏书能力达1200万册。中央馆的主馆和新馆设有16个阅览室对一般读者开放，共有1172个座位。国立国会图书馆关西馆（暂称）的建设用地为82500平方米，总建筑面积约16.5万平方米。1998年10月动工兴建，到2002年3月第1期工程完成，面积为59500平方米，藏书600万册。全部建成后藏书能力将达2000万册。国际儿童图书馆是对上野图书馆的馆舍进行改建后建成的，2000年5月第1期工程完成并开馆，建筑面积2254平方米，其中阅览场所631平方米，办公场所等1623平方米。2002年完成第2期工程，总面积约6600平方米。