A második világháború idején titkos, úgynevezett földalatti egyetemen végezte bölcsészeti tanulmányait, részt vett a lengyel Honi Hadsereg szervezte ellenállásban. A kommunizmus évei alatt tudatosan nem vállalt semmiféle közéleti szerepet, közösséget a rendszerrel. A rendszer szabadulni igyekezett tőle: 1958-tól hosszabb ösztöndíjakat adtak neki Francia-, Német- és Görögországba, sőt az Egyesült Államokba is. A 80-as években Herbert a lengyel ellenzék emblematikus költője lett, részt vett a Szolidaritás-mozgalomban. 1987-ben Párizsba emigrált, és csak 1992-ben tért vissza hazájába.

Költőként 1950-ben debütált, első kötete csak 1956-ban jelenhetett meg. Költészetére jellemző, hogy különös érzékenységgel reagál a kor történelmi átalakulásaiból adódó morális konfliktusokra, amelyeket univerzális perspektívában láttat.

Mélységesen tiszteli az európai kultúra örökségét, mégis modern kifejezőeszközöket használ, filozófiai érdeklődése ellenére egyszerű nyelven szól, az etikai és egzisztenciális problémák emelkedettségét iróniával és humorral ellensúlyozza. Költészetének állandó szereplője - Cogito Úr, az utópiák világából menekülő szkeptikus, önironikus, mégis heroikus értelmiségi - immár mitologikus alakká vált, akárcsak az első művészettörténeti esszékötetében a tájékozott, bizonyos értelemben mégis kívülálló értekezője, a barbár a kertben.

Előszeretettel nyúl vissza a régi korok mítoszaihoz, művészeti alkotásaihoz, hogy szimbolikus jelentőségű történelmi és irodalmi alakokból építkező parabolákat teremtsen belőlük. Több nagy utazást tett Európában, előadókörutakat, felolvasásokat tartott. Utazásainak legvonzóbb gyümölcsei a klasszikus ihletésű, nagy műveltségről tanúskodó esszéi.

Mind pályatársai, mind a kritikusok valószínűnek tartották, hogy a számos rangos külföldi elismerés után (Herder-, Petrarca-díj) Herbert előbb-utóbb irodalmi Nobel-díjban részesül. Ám 1996-ban nem ő, hanem Wislawa Szymborska kapta a Nobel-díjat. Ennek ellenére Herbert a modern lengyel költészet egyik legjelentősebb s leggyakrabban fordított alakja.

Zbigniew Herbert régóta jelen van a magyar irodalomban. Verseit kezdetben Nagy László, Weöres Sándor, Gimes Romána, Kerényi Grácia, Gömöri György, majd Mihályi Zsuzsa, Kovács István, Körner Gábor, Zsille Gábor és Wołosz Vera fordította magyarra. 1987-ben elnyerte a Bethlen Alapítvány díját.

Zbigniew Herbert verseinek magyar nyelvű válogatásai: Az ízlés hatalma (Orpheusz Kiadó, 1998) és Az angyal kihallgatása (Európa Kiadó, 1979). Esszéi magyar nyelven három önálló kötetben jelentek meg: Labirintus a tengerparton (Európa Kiadó, 2003), Barbár a kertben (Európa Kiadó, 1976) és Csendélet zablával (Orpheusz Kiadó, 1998).

A Lengyel Köztársaság parlamentje, a Szejm a 2008-as évet Zbigniew Herbert Évének nyilvánította.