Geboren wurde Harry Rowohlt am 27. März 1945 in Hamburg als Sohn des Verlegers Ernst Rowohlt und der Schauspielerin Maria Pierenkämper. Nach dem Abitur war er Lehrling im Suhrkamp Verlag. Danach volontierte er kurz im Rowohlt Verlag und fand es "schrecklich", wie er wiederholt erzählte. Gegen den Willen des Vaters stieg er danach nicht ins Familienunternehmen ein, sondern ging für eine Weile nach Amerika. Zurückgekehrt nach Deutschland verdiente er sich seinen Lebensunterhalt zunächst mit Werbetexten.

Mit der Übersetzung des Kinderbuches "the last man alive" wurde er schlagartig bekannt. Unter dem Titel die "Grüne Wolke" schaffte das Werk als erstes Kinderbuch 1971 den Sprung in die "Spiegel"- Bestsellerliste. Rowohlts Übersetzungen von "Winnie-the-Pooh" (Pu der Bär) wurden ebenfalls hoch gelobt, wie seine Übertragungen amerikanischer Literatur ins Deutsche. Als Kolumnist und Vortragskünstler war Rowohlt viele Jahre fast ebenso gefragt wie als Übersetzer.

Rowohlt, der mit seiner Frau Ulla in Hamburg-Eppendorf lebte, wurde auch als Vorleser und Schauspieler einem großen Publikum bekannt. So wurde er unter anderem für sein sechsteiliges Hörbuch "Pu der Bär" ausgezeichnet, außerdem erhielt er den Sonderpreis des Deutschen Literaturpreises für sein Gesamtwerk.

Im Fernsehen war Rowohlt seit vielen Jahren in der Dauerserie "Lindenstraße" zu sehen - als Penner Harry. Die Rolle erhielt er, weil er auf die Frage einer Zeitschrift nach seinem Lieblingsrestaurant vom "Akropolis" in der "Lindenstraße" sprach. Der Witz war folgenreich: Rowohlt erhielt die kleine Rolle und wurde festes Ensemblemitglied.

Im Juni 2007 hatte Rowohlt bekanntgegeben, dass er an Polyneuropathie leide. Die Gehfähigkeit wird dadurch stark eingeschränkt.