Abandona los estudios de Historia para asistir a las clases de Antonio Reis en la Escuela Superior de Cine (Lisboa). Su primer filme La sangre tuvo un estreno mundial en el Festival de Venecia en 1989. Casa de lava se estrenó en Cannes en 1994 y recibió, entre otros, el Gran Premio del Festival de Belfort en 1995. Huesos recibió una Osella de Oro en el Festival de Venecia en 1997. En el cuarto de Vanda ganó el Premio France Culture en el Festival de Cannes y el Gran Premio del Festival de Yamagata, 2001. Cavalo Dinheiro obtuvo el Leopardo para el Mejor Realizador en el Festival de Locarno en 2014. Su último largometraje Vitalina Varela recibió el Leopardo de Oro y el Leopardo para la Mejor Actriz en Locarno en 2019.
Su trabajo ha sido regularmente presentado en museos y cinematecas de todo el mundo. Dio lecciones en las universidades de Bloomington, Berkeley y Harvard, en la CalArts School para las artes y en la Film Factory, escuela fundada por Béla Tarr, en Sarajevo. Es profesor asociado de la Universidad de Zokei en Tokio. Expone en el Museo de Serralves (Oporto), en la Tate Modern de Londres, en el Museo Hara de Tokio, en el Ilmin Museum de Seúl y en la Foto España en Madrid. Trabajó con la cineasta Chantal Akerman en el Witte de With Center para arte contemporáneo de Rotterdam y en la Galería Carpe Diem en Lisboa. Con el escultor Rui Chafes, fue uno de los artistas invitados de la Bienal de Arte de Venecia de 2013. Aún en colaboración con Rui Chafes y el fotógrafo Paulo Nozolino, expuso en el Centro Pompidou de Paris, en 2022.
De octubre de 2022 a marzo de 2023 tendrá una exposición dedicada a su trabajo en el Centro Virreina, en Barcelona, titulada Canción de Pedro Costa.