Andrea Zani nasceu em Casalmaggiore, na província de Cremona. Ele recebeu suas primeiras instruções para tocar violino de seu pai, um violinista amador. Posteriormente, recebeu instrução em composição de Giacomo Civeri, músico local, e estudou violino em Guastalla com o violinista da corte Carlo Ricci. Antonio Caldara, que trabalhava como Capellmeister na corte do arquiduque Ferdinand Charles em Mântua, não muito longe de Casalmaggiore, ouviu Zani tocar e convidou-o para acompanhá-lo a Viena. Entre 1727 e 1729 Zani chegou a Viena e lá atuou como violinista a serviço dos Habsburgos. Após a morte de seu patrocinador Caldara em 1736, ele retornou a Casalmaggiore, onde permaneceu pelo resto da vida, exceto para apresentações ocasionais em concertos. Ele morreu em sua cidade natal em consequência de um acidente, quando a carruagem em que viajava para Mântua capotou.