San Jose har fostret lokale talenter på tværs af genrer, herunder rock, hip-hop og elektronisk musik. Bemærkelsesværdige kunstnere og bands fra området har sat deres præg på musikindustrien. Byens spillesteder for levende musik, såsom The Ritz og The Fillmore, er platforme for både lokale og turnerende navne. Derudover er San Jose vært for flere musikfestivaler og begivenheder, herunder den årlige San Jose Jazz Summer Fest, som fejrer jazz og andre genrer og tiltrækker musikentusiaster fra hele regionen.
San Joses kulturelle landskab er en levende blanding af traditioner og moderne påvirkninger. Byens multikulturelle befolkning bidrager til dens rige kulturelle tapet. Mexican Heritage Plaza er et knudepunkt for fejring af mexicansk og chicano-kultur gennem kunst, musik, dans og teater. Byen er også hjemsted for San Jose Museum of Art, som fremviser en mangfoldig samling af nutidige og moderne værker.
San Joses teaterscene er repræsenteret af steder som San Jose Center for the Performing Arts, der er vært for en bred vifte af forestillinger, fra Broadway-musicals til ballet- og symfonikoncerter.
San Jose har en rig historie, der går forud for tech-boomet i Silicon Valley. Den blev grundlagt i 1777 som El Pueblo de San José de Guadalupe, en del af det spanske Californien. Under guldfeberen i Californien blev den et vigtigt forsyningssted for minearbejdere på vej til guldfelterne. Byens historie omfatter også landbrugstiden, hvor den var kendt for frugtplantager og konservesfabrikker. I det 20. århundrede begyndte San Joses forvandling til verdens teknologihovedstad, hvor virksomheder som IBM og Hewlett-Packard etablerede sig i regionen.