Koudelka se narodil v jihomoravských Boskovicích. Vystudoval pražské ČVUT a poté několik let pracoval jako letecký inženýr. Po okupaci odešel v roce 1970 do zahraničí, nejprve se usadil ve Velké Británii, později se přestěhoval do Paříže.

Od roku 1974 je členem prestižní agentury Magnum Photos. Kromě cyklu Invaze, za který dostal Zlatou medaili Roberta Capy, patří mezi jeho nejvýznamnější díla fotografické soubory Cikáni, Divadlo a Exily.