Josep Piera Rubio va néixer a Beniopa (La Safor) el 30 de maig del 1947. Estudia als Escolapis de Gandia i més tard fa Magisteri a València. La seva anada a València coincideix amb els inicis del que aviat seria el moviment literari conegut com la generació dels 70, de la qual ell en seria un dels seus màxims representants. La seva obra literària fa els primers passos en castellà dins dels ambients literaris "novísimos" fins que s'amera del nou valencianisme que marcarà aquesta dècada. En català, com a poeta, es dóna a conèixer en l'antologia Carn fresca, que just representa l'aparició de la jove poesia valenciana. Aquesta època és també la del naixement de relacions d'amistat fonamentals al llarg de la seva trajectòria personal i literària. Des de la que serà la seva companya de vida, Marifé Arroyo, amb la qual es casa el 1972, fins a amics poetes com ara Jaime Siles, José Luís Parra, Guillermo Carnero, Marc Granell, Eduard J. Verger i Adolf Beltran, entre altres. Amb aquests últims companys crea la revista Cairell.

L'any 1974 deixa la ciutat de València i es posa a viure amb la seva companya a La Drova (Barx), la vall dels seus estius infantils, que anirà adquirint amb els anys el caràcter d'un lloc i paisatge mítics en l'obra narrativa de l'autor. El 1976 es celebren a Gandia els actes de cloenda de la secció literària del Congrés de Cultura Catalana, que suposen una fita per a l'articulació de l'anomenada generació dels setanta als Països Catalans. D'aquest temps són les seves relacions amicals amb poetes com Xavier Bru de Sala, Ramon Pinyol, Maria Mercè Marçal, Vicenç Altaió, Jaume Pont, Àngel Terron, etc. Després d'uns primers llibres poètics, a les acaballes dels 70 guanya el premi Octubre-Andròmina amb la seva primera novel·la, Rondalla del retorn (1977). Dos anys més tard obté el premi Carles Riba de poesia amb El somriure de l'herba. També durant aquests anys inicia el seu periple viatger per la Mediterrània, que donarà alguns dels títols en prosa més rellevants de la seva trajectòria narrativa, marcada per una prosa entre intimista i memorialista que el situa com un dels autors pioners en la que s'ha anomenat "narrativa del jo".

El 1981 obté el premi Josep Pla amb El cingle verd, primer llibre d'aquesta "narrativa del jo" que tant usa del dietari i de les memòries com del llibre de viatges. D'aquests anys són els seus viatges per la Mediterrània a Grècia i Itàlia. El curs 1985-1986 el passa a Nàpols com a lector de català a l'IUO. També d’aquests anys destaca la plasmació literària del món poètic andalusí, iniciada amb els Poemes de l'orient d'Al-Àndalus (1993). Entre els llibres més significatius en prosa d'aquesta època es troben Estiu grec (1985) i Un bellíssim cadàver barroc (1987). De tornada de Nàpols cau en una crisi on se li agreuja una antiga malaltia, abans no diagnosticada –malaltia de Crohn-, que el manté tot un any hospitalitzat a Gandia. D'aquesta experiència eix el seu nou llibre, Ací s’acaba tot (1993).

En començar la dècada dels noranta dirigeix la campanya de l'Any del Tirant, organitzada per l'ajuntament de Gandia, que commemora els 500 anys de l'aparició del Tirant lo Blanc, de Joanot Martorell, i també dirigeix l'editorial Tres i Quatre. Literàriament, aquests anys noranta venen marcats pels llibres motivats pel seu interès cap a la cultura àrab antiga i moderna, amb títols com El paradís de les paraules (1996), Seduccions de Marràqueix (1996) i El jardí llunyà (2000). De les seves darreres aportacions destaquen Jo sóc aquest que em dic Ausiàs March (2001), la primera biografia novel·lada dedicada al nostre poeta clàssic, i també la nova reescriptura d'El cingle verd, homenatge a la seva generació i balanç de la seva joventut, titulada Arran del precipici (2003).