בשנת 1847 נוסד המכון הטכנולוגי ללימודים מכנאיים ביזמתו של הפילנטרופ דוד ששון, הסוחר היהודי הבגדדי המכונה גם "הרוטשילד של המזרח", במטרה לפתח את הידע המדעי והמיכני כאמצעי להכשרתם של עובדים מקצועיים בנמל בומביי המתפתח. הרעיון להקים את הספרייה במיקום הנוכחי בשדרת מהטמה גנדי (האספלנד לשעבר), עלה בשנת 1863. הבניין החדש תוכנן בסגנון הגותי-ונציאני, על ידי האדריכלים דייוויד גוסטלינג, ג'ון קמפבל וקולונל ג'ון אוגוסטוס פולר. טקס הנחת אבן הפינה התקיים בשנת 1867 וכעבור שלוש שנים, נערך טקס ההשקה בשנת 1870.

​

חזית הבניין מאופיין בקצהו במגדל שעון ססגוני שהפך לאחד מסמלי העיר. מעל לחזית הכניסה מגולף תבליט דיוקנו של ששון שפוסל בידי ג'ון לוקווד קיפלינג, אביו של הסופר והמשורר הידוע רודיארד קיפלינג. בקומת הכניסה לספרייה ובקצה מסדרון ארוך, ניצב פסל שיש מרשים גדול של הנדבן שפוסל בידי הרב-אומן האנגלי תומס וולנר. גרם מדרגות מרשים מביא את המבקר לתוככי קומת הספרייה.

​

בניין הספרייה ממוקם בכיכר קאלה-גודה (בהינדית: סוס שחור), כינוי שניתן לאזור בשל הפסל שהיה המוצב על שדרת מהטמה גנדי, משכנם של מבנים מרשימים נוספים. בשנת 2022, זכה בניין הספרייה לשיפוץ נרחב ויסודי והקונסוליה הישראלית השתתפה בשיפוץ הגג המחודש. הבניין הוא הראשון מסוגו שנבנה לאורך השדרה.

​

מומלץ להיכנס לספריה כדי לחזות בסטודנטים הלומדים בשקט מופלא ואף לצאת למרפסת החזית, המשקיפה על הכיכר והרחוב הראשי. בחלק האחורי של הספריה גינה מטופחת, אחת מפינות החן היפות של העיר.