Địa chỉ: 69 đường Lý Tự Trọng, phường Bến Thành, Quận 1
Năm 1868, Thư viện các Đô đốc, Thống đốc Nam Kỳ (hay Thư viện Soái phủ Nam Kỳ) được thành lập theo sắc lệnh của Phó Đô đốc Ohier. Năm 1882, Thư viện đổi tên thành Thư viện Tư liệu Chính phủ Nam Kỳ thuộc Pháp (Bibliothèque de Documentation du Gouvernement de la Cochinchine Francaise) và trở thành thư viện công cộng đầu tiên của Việt Nam. Điểm này trước kia là xưởng đúc tiền, sau đó là Khám lớn Sài Gòn được đầu tư xây dựng từ năm 1886 đến năm 1890 khám được hình thành và đi vào hoạt động. Đến năm 1953 thì bị phá bỏ, sau đó ngay trên nền khám cũ được xây dựng trường Đại học Văn Khoa (1948-1967) rồi Thư viện Quốc Gia.
Từ năm 1968, công trình được khởi công xây dựng thành Thư viện Quốc Gia công trình hoàn thành vào cuối năm 1971. Ngày 23-12-1971, Thư viện Quốc Gia được khánh thành và đi vào hoạt động tháng 2-1972, Thư viện bao gồm hai khối:
- Khối thứ nhất là một dãy nhà dài 71 m, ngang 23 m gồm một tầng hầm, một tầng trệt và hai lầu, một sân thượng ở lầu hai.
- Khối thứ hai nằm ở trung tâm, hình vuông và vươn lên cao như một ngọn tháp với 14 tầng, cao 43m, chứa tài liệu.
Đây là thư viện lớn nhất Việt Nam vào thời bấy giờ, có kiến trúc hiện đại kết hợp với tính dân tộc. Lúc này thư viện có 53 nhân viên phục vụ với khoảng 100.000 bản tài liệu.
Sau 30/04/1975, Thư viện Quốc Gia Sài Gòn đổi tên thành Thư viện Quốc Gia II trực thuộc Bộ Văn hóa theo quyết định số 1018/VH/QĐ ký ngày 01/11/1976. Thư viện đã tiếp nhận được nguồn bổ sung tài liệu phong phú của Thư viện Quốc gia Việt Nam, Thư viện Khoa học Kỹ thuật Trung Ương, Thư viện kết nghĩa Hòa Bình.
Ngày 14/04/1978, Ủy Ban Nhân dân Thành phố Hồ Chí Minh đã ra quyết định số 57/QĐ/UB đổi tên “Thư viện Quốc gia II” thành “Thư viện Khoa học Tổng hợp Tp. Hồ Chí Minh”.
Thư viện Tổng hợp TPHCM là điểm đến lý tưởng cho những người đam mê văn hóa đọc. Không chỉ đáp ứng nhu cầu đọc, hiện nay thư viện còn mở thêm dịch vụ sao chép tư liệu, tài liệu cổ quý hiếm đáp ứng tối ưu nhu cầu bạn đọc.
Bên cạnh đó, thư viện còn có phòng đọc Hán Nôm, thu hút nhiều độc giả và nghiên cứu sinh nước ngoài. Phòng đọc này hiện đang lưu trữ khoảng 2000 ấn phẩm, đều là những tài liệu quý. Những bạn đọc nước ngoài đến dây hầu hết đều là nghiên cứu sinh thạc sĩ và tiến sĩ đến để tìm kiếm tài liệu.Thư viện Tổng hợp TPHCM còn có phòng sản xuất tài liệu cho người khiếm thị nằm dưới tầng hầm của thư viện do hai chuyên gia khiếm thị điều hành.
Ngoài những phòng trên, thư viện còn có phòng đọc báo mới được tu sửa hiện đại, phòng đọc cho trẻ em với không gian sống động và nhiều màu sắc hay phòng đọc lớn dành cho sách ngoại văn, khu truy cập tài liệu video, audion…