서울특별시 영등포구 여의도동 1번지 국회의사당 안에 있으며, 지하 1층, 지상 5층의 연건평 8,506평이다. 1952년 2월 20일 임시수도 부산에서 3,600여 권의 도서를 소장한 국회도서실로 되었으며, 1963년 11월 26일 법률 제1454호인 국회도서관법을 제정하였다.
1981년 제5공화국 출범과 함께 국회법 전면 개정에 따라 국회사무처 산하기관으로 개편되었다가 1988년 12월 국회도서관법 재제정 및 공포와 함께 입법부의 독립기구로 환원되었으며, 1988년 2월 지금의 건물로 신축·이전 하였다.
기구는 관장 아래 기획관리관실, 입법전자정보실, 수서정리국, 참고봉사국, 총무과 등이 있다. 주요 기능은 ① 국회의원 및 입법관련부서의 입법활동 지원 및 조사활동, ② 납본제도에 의한 국내자료 수집과 국외 자료의 신속한 수집, ③ 국가 서지를 작성, 학계 및 일반국민에 봉사, ④ 전자도서관 구축사업, ⑤ 소장자료의 열람 및 복사 서비스, ⑥ 세계 각국 의회 및 도서관과의 자료교환, ⑦ 해외자료 조사·번역, ⑧ 월간의 《국회도서관보》, 연간의 《국회도서관연간보고서》 등의 자료와 입법참고자료 및 해외자료를 발간한다.
국회도서관의 주요 발간자료이던 《정기간행물기사색인》 《한국박사 및 석사학위논문총목록》의 발간을 중단하고, CD-ROM형태의 《국회도서관문헌정보》를 2005년 6월까지 발행 하였으며, 지금은 온라인으로 제공하여 국회도서관 홈페이지를 통하여 검색할 수 있다. 2005년 9월 현재 장서수는 정기간행물·논문·단행본류 등 총 240만 권에 이르며, 2005년 9월 현재 직원은 275명이다.