谢灵运，本名公义，字灵运。他祖父是晋车骑将军谢玄，父亲谢瑛，生来不聪明，当过秘书郎，很早就死了。谢灵运幼年时便聪明过人，谢玄感到十分惊奇。对亲近相识的人说“我生了瑛儿，可是瑛儿怎么比不上我呢。
谢灵运少年时便喜爱读书，广泛阅览各种书籍，写的文章辞藻华美，和颜延之的文章都是江南第一流的作品。文章纵横流畅、俊逸新颖超过了颜延之，但深奥周密却不如颜延之。堂叔谢混特别了解并喜爱他。
晋安帝元兴二年，谢灵运承袭祖父的爵位，被封为康乐公，按照国公的惯例规定授予员外散骑侍郎的职位，但他没有就职。做了琅邪王的大司马行参军。
谢灵运喜欢豪华奢侈的生活，车马服饰鲜艳美丽，衣物也多改变旧的样式加以创新，世人全都模仿他，人们全都称他谢康乐。
后来调做秘书丞，由于连罪犯事被免官。
义熙十二年，刘裕在长安时，谢灵运担任世子中军咨议、黄门待郎，曾奉命出使去彭城慰劳刘骏，写了《撰征赋》。
元熙元年，宋武帝刘裕在彭城建宋国，出使归来的谢灵运被任命为宋国黄门侍郎，后来担任相国从事中郎，世子左卫率。由于犯了随意杀死门生罪被免除官职。
永初元年。宋武帝刘裕代东晋自立后。谢灵运的爵位由公爵降为侯爵，又做太子左卫率。
谢灵运的行为常有违背礼仪和法度之处，朝廷只是在有关文义的职位上安置他，不给他实权的官职。谢灵运认为自己的才干应当担任朝中执掌权要的大臣，现在既然不受重视，心中常怀有怨恨不平的情绪。
永初三年，宋少帝刘义符即位，朝中权力掌握在大臣手中，谢灵运在中间挑拔离间，诽谤执政人物，司徒徐美之等人都有点怕他，调他出京做永嘉太守。
永嘉郡中有名山秀水，这些都是谢灵运向来喜爱的。谢灵运出京做郡守后，感到不得志，于是便尽情地四处邀游玩乐，走遍了全郡各个县，每出去一次就超过十天或一个月。对于管理官吏和老百姓的诉讼的事，他也不再关心，他每到一处便作诗歌咏，借此抒发自己的心意和志趣。
谢灵运在郡满一年，便称病离职，堂弟谢晦、谢曜和谢弘微等都写信来劝导他，谢灵运不听。谢灵运的祖父、父亲都安葬在始宁县，县里还有谢家的旧宅和别墅，于是谢灵运便移居到会稽郡，修葺营建原有的房舍。
谢家的住宅依山临江，极尽山居美丽的景致。谢灵运和隐士王弘之、孔淳之等人在此纵情游乐，有在这里终老一生的心愿。每当写作一首诗传到京城来，不论贵贱人物莫不争相抄写，他的诗一夜之间在文士和平民中间就传遍，名声震动了京城。谢灵运又撰写了一篇《山居赋》，并且自己做出注解用来说明赋中写到的事情。
景平二年，宋文帝刘义隆登基，杀掉了徐美之等大臣之后，召令谢灵运做秘书监，两次下召令，他都不赴任。宋文帝让光禄大夫范泰写信劝导和夸奖他，谢灵运才去就职。
文帝让他整理出宫中秘阁藏书的遗失缺漏，又命他撰写晋朝历史。他粗略地草拟出条例和目录，但这本书终究没有写成。不久升做侍中，受到的赏赐和待遇都很优厚。
谢灵运作的诗、写的字都是绝好的态作，每当作完文章，便亲手把它写下来，宋文帝称他的诗和字是二宝。既然谢灵运认为自己是名流，就应该参与国家大政，到这时他还只能以文才被接待，每当侍从皇帝宴会时，只是让他谈论赏析诗文而已。
王昙守、殷景仁等人的名望和地位一向都不如他，可是都受到朝廷的信任和重用，为此谢灵远心中愤懑不平，经常装病推辞不上朝当差。谢灵运在住住宅里挖池塘种树木，栽竹子种果树，驱使民众充当公家的劳役，谢灵运放纵到一切都没有固定的日期和限度。他离城出游，有时一天能一百六七十里，往往过十天也不返回。既不上表报告，又不告病请假。
宋文帝元嘉五年。文帝以旨意传话让谢灵运自己辞职。谢灵运便上表陈述有病，请求皇帝恩准他东归。将要出发的时候，他又上书劝说皇帝征伐河北。随后谢灵运游乐宴会，以夜继日。他又被御史中丞谢隆启奏弹劫免除官职。
谢灵运东归到会稽后，和同族兄弟谢惠连、东海何长瑜、颍川荀症、泰山羊臻之等人经常聚会欣赏文章，一同游览山水，当时的人称他们为“四友”。
谢灵运因为继承了祖父的资产，家业丰厚，奴才和门僮很多，先人的故吏门生也有几百人，他开山浚湖，工程劳役没有停止过。每次登山爬岭，谢灵运一定要到最幽静奇险的地方观赏，重岩叠嶂几十里，没有不全去看过的地方。登山时经常穿着特制的带齿的木底鞋，上山时取下鞋的前齿，下山时取下鞋的后齿。又曾经亲自带着人从始宁南山伐树开路、直到临海，随从的人员有几百人。临海太守王琇听到这消息后很惊骇、以为是山贼，事后知道是谢灵运才安下心来。
谢灵运便邀请王琇一同前进，王琇不肯。谢灵运写诗赠给王绣说“太守害怕地势险难、来客乐于山行。
谢灵运在会稽也有很多人跟从他，经常惊动县邑的长官。太守孟顗精勤诚恳拜佛，遭到谢灵运的轻蔑，他曾经对孟顗说“得道成佛必须要有慧根，大人升天应当在灵运之前，但是成佛必定落在灵运之后。孟顗对这话怀恨在心。谢灵运又同王弘之等人到千秋亭饮酒，脱光衣服赤身大喊大叫，孟顗极为不满，派人去朝廷报告，谢灵运大怒说“我自己大喊，和傻子白痴有什么相干。
会稽东城外有个回踵湖，谢灵运请求打开口子放水改湖造田，文帝下令让州郡执行这个命令。这湖距离城郭很近，水中所出物产，百姓都很珍惜，孟顗坚决不同意把湖给谢灵运改田。谢灵运既然得不到回踵湖，又请求要始宁的休煌湖改田，孟顗又固执不给。谢灵运认为孟顗并非心存利民的想法，正是借口怕决湖之后会伤害众多动物性命，言论中谢灵运伤害了孟顗。因此他和孟顗结下了嫌隙。
因为谢灵运横行放建，孟顗上表说谢灵运心怀异志，出兵自加防备，上书送上朝廷说谢灵运想谋反。谢灵运亲自骑马前去朝廷上表，陈述自己和孟顗争执的缘由。文帝知道谢灵运受到诬告，没有给他加罪。文帝不想让他再回东方去，便让他做临川内史。
谢灵运在临川郡里遨游，和在永嘉时没有不同，遭到有关官员的弹劾。司徒遣使随州从事郑望生去捉捕谢灵运。谢灵运便起兵叛逃，于是从此产生了反逆的心思。他作诗说“韩国被灭，张良奋起复仇，秦始皇称帝鲁仲连感到受辱，我本是寄身江海的人士，无限感佩古代的忠义君子。
郡中追击并抓获了谢灵运，将他交给朝中廷尉，廷尉判处他斩刑。文帝爱惜他的才华，打算只免除他的官职就罢了。彭城王刘义康坚持执行廷尉的判决，认为他不该宽恕。诏书说“谢玄的功勋和管仲相等，应该宽恕他的后代，减去死刑把他流放到广州。
元嘉十年，秦郡府将宋齐接受使命到涂口去，路过桃墟村时，发现有七个人聚在路边一-起说话，宋齐怀疑他们不是好人，便回头报告给郡县长官，派兵跟随宋齐去袭击并把他们活捉。其中一个人姓赵名钦，他供说“同村人薛道双先前曾给谢灵运做事，薛道双托同村人成国告诉我说‘谢灵运犯事被流放去广州，谢灵运出钱让人买弓箭刀盾等兵器，并让薛道双集合乡中健壮的男子在三江口劫下谢灵运。如果得手成功之后，大家都有同样的功劳赏赐。于是我便集合同伙的人前去拦截当灵运，没成，回来后都很饿，顺便打算在路上抢劫。
主管官员上奏并把这伙人收监，文帝下语命令将谢灵运在广州就地处决。
终年四十九岁。
谢灵运临刑前作诗说：“龚胜不贪生，李业忠节尽，嵇康守理死，霍原恨殒命。
诗里称赞、龚胜李业。就像先前在诗中称道张良和鲁仲连是同样的心意。
谢灵运是第一位全力创作山水诗的诗人。兼通史学，擅长书法，翻译外来佛经，并奉诏撰写《晋书》，辑有《谢康乐集》。