Costruito tra il 1926 ed il 1928, fu disegnato da Cass Gilbert (il quale progettò anche il Woolworth Building e la United State Court House). L'edificio, dalla struttura imponente, non segue uno stile architettonico preciso ma è caratterizzato da un tetto a piramide dorato. L'atrio interno è particolarmente interessante con porte e pannelli in bronzo, enormi lampadari pendono dai soffitti cassettonati.
Il punto su cui sorge l'attuale New York Life Insurance Company Building è stato anche il sito dei primi due Madison Square Garden.
Nella seconda metà dell'ottocento in quel luogo c'era una stazione ferroviaria che, nel 1880, venne convertita nel primo Madison Square Garden (la stazione era stata spostata nell'attuale sito del Grand Central Station, nel 1871). Nel 1890 l'architetto Stanford White disegnò, in stile rinascimentale spagnolo, il secondo Madison Square Garden. Era costituito da un anfiteatro, un teatro all'aperto, una sala per concerti, un roof garden ed una grande piscina.
Il roof garden fu teatro di un tragico fatto di cronaca. È qui infatti che Stanford White, il 25 giugno 1906, venne assassinato dal miliardario Harry K. Thaw, marito della sua amante la show girl Evelyn Nesbit.