Sa reîntors în a doua călătorie în 1535, de data aceasta navigând pe râul Saint Lawrence până la Hochelaga, care este acum modernă, Montreal, Canada. La vremea aceea, Cartier era convins că râul Saint Lawrence era pasajul nord-vest care îl ducea în China. După ce a așteptat prin iarnă, sa întors în Franța.
Cartier sa întors la Saint Lawrence cu intenția colonizării, fondând Charlebourg-Royal. Cu toate acestea, după conflicte cu nativii, boala și vremea proastă, Cartier sa întors în Franța, iar Charlesbourg-Royal a fost abandonat în 1543. O colonie permanentă nu ar fi făcută în Canada până în anul 1605.Moștenirea lui Cartier este semnificativă. A făcut descoperiri cartografice importante legate de Newfoundland, Golful Saint Lawrence și râul Saint Lawrence. El a adus, de asemenea, informații valoroase despre resursele naturale ale Canadei și în timp ce eforturile sale de a coloniza s-au dovedit a fi nereușite, încercările sale au fost preliminariile colonizării franceze semnificative care urmau să aibă loc în secolul al XVII-lea.