Андреа Зани родился в Казальмаджоре в провинции Кремона. Первое обучение игре на скрипке он получил от своего отца, скрипача-любителя. Впоследствии он получил инструкции по композиции у Джакомо Чивери, местного музыканта, и учился игре на скрипке в Гуасталле у придворного скрипача Карло Риччи. Антонио Кальдара, работавший капельмейстером при дворе эрцгерцога Фердинанда Карла в Мантуе, недалеко от Казальмаджоре, услышал игру Зани и пригласил его сопровождать его в Вену. Между 1727 и 1729 годами Зани прибыл в Вену и работал там скрипачом на службе Габсбургов. После смерти своего спонсора Кальдары в 1736 году он вернулся в Казальмаджоре, где оставался до конца своей жизни, за исключением редких выступлений на концертах. Он погиб в родном городе в результате несчастного случая, когда карета, в которой он ехал в Мантую, перевернулась.