A Serina dove era nato probabilmente rimane poco, si dirige presto verso la capitale, Venezia, che in quel periodo rappresenta il fulcro artistico ed economico dell'Italia settentrionale.  La prima testimonianza della sua presenza a Venezia è del 1510, anno in cui compare come testimone in un atto notarile.

Amico e concorrente di Lorenzo Lotto cerca la compiacenza di mecenati danarosi che gli possano permettere di guadagnare e produrre una gran quantità di dipinti che molti verosimilmente non gli sono state attribuiti (il Vasari cita due opere e menziona un capolavoro attribuito attualmente ed abitualmente a Giorgione, mentre Cavalcaselle, Longhi, Milanesi ed altri la attribuiscono a Palma il Vecchio).

La sua maniera di dipingere la apprende da Andrea Previtali (bergamasco come lui) e Giovanni Bellini prima e da Giorgione poi (Argan rileva anche l'influenza di Vittore Carpaccio), frequenta Tiziano, che si innamora di sua figlia Violante, e lavora assiduamente per le committenze che non mancano mai.

La sua arte è incentrata su soggetti mitologici, soggetti sacri e ritrattistica. All'epoca giovanile apparterrebbero i dipinti di soggetto mitologico (Concerto campestre, Ardencraig, Scozia; Venere e Cupido, Cambridge), per poi rivolgersi al soggetto sacro, sia con le pale d'altare, sia con le più famose Sacre Conversazioni.

Le Sacre Conversazioni sono per lo più commesse da privati od enti religiosi, e questo appare evidente nelle opere stesse, quando la richiesta perviene da qualche priore o vescovo, il Palma dipinge in maniera più prettamente veneziana, con un tipico fondale belliniano e la preminenza marcata della sacra famiglia, mentre alla committenza privata il Nostro regala l'ascesa alla divinità, l'intimità al divino, con linearità di contorni e verismo più vicini al Lotto.

Al Museo di Capodimonte (Napoli) è conservata una Sacra Conversazione che non solo avvicina i piani tra la Sacra Famiglia ed il committente, ma tutti i personaggi, tranne la Vergine richiamano gli spettatori a guardare chi l'opera l'aveva commissionata, con benedicenza del Bambino Gesù.

L'Assunzione della Vergine che si trova alle Gallerie dell'Accademia di Venezia è un'opera mirabile per la pacatezza di tutti i personaggi e l'atmosfera è bagnata da una luce dorata ravvivata dall'intenso rosso degli abiti di alcuni personaggi, ripreso qualche anno dopo da Tiziano con un altro intento e tutt'altro movimento.