La Biblioteca Musicale Gareggiati raccoglie numerosi documenti del mondo musicale d'interesse nazionale e internazionale: vi sono oltre 5.000 manoscritti, tra cui autografi di Benedetto Marcello, Haydn, Rossini e Paisiello; sono consultabili oltre 6.000 edizioni e una raccolta completa di trattatistica musicale a partire dal XVI sec. Passando sotto la torre, a sinistra si nota quanto rimane, dell’antica chiesa di S. Maria in Castello (1151). Ancora si scorge, murato nella torre campanaria, l'arco sopra l'altare maggiore, in stile gotico, sul quale è in parte visibile un affresco del XVI sec.
Ostiglia custodisce una singolare istituzione culturale, la Biblioteca musicale "don Giuseppe Greggiati", allestita al secondo piano della torre medievale di via Martiri dell'Indipendenza e ricca di spartiti autografi, di testi storici e didattici. Vi è anche una piccola raccolta archeologica. Edificio di un certo prestigio è l'ospedale di via Belfanti dovuto (1848) ad Antonio Arrivabene che seguì modelli neoclassici. Nella cappella interna, busti di Bernardino Ghinosi e di don Giulio Zapparoli, i fondatori, opere di Pasquale Miglioretti (1822-1871), ostigliese e una quadreria con ritratti dei benefattori.