元嘉以前，已有不少描寫山水的片段進入詩中，如西晉元康前後的招隱詩，永嘉前後的遊仙詩，又如魏晉以來的宴遊詩和行旅詩，都不乏亮眼的描寫山水的名句，郭璞佚詩中的斷句「林無靜樹，川無停流」，就曾令阮孚覺得「神超形越」（《世說新語·文學》），甚至玄言詩人偶爾也會寫出生動的寫景名句，但從整體上講山水並未作為一種審美的對象——在先秦兩漢的詩歌中山水只是一種背景陪襯，在魏晉詩人那裡山水又只是一種悟道的工具。
劉勰在《文心雕龍·明詩》中說：「江左篇制，溺乎玄風……宋初文詠，體有因革，庄老告退，而山水方滋。」山水詩是緊承玄言詩產生的，玄言詩與山水詩有非常密切的關係。無論是名教與自然的衝突還是名教與自然的統一，「自然」總是被玄學家和玄言詩人置於優先的位置，它既是被清談的對象，也是被推崇的生活境界。「復得返自然」一直是六朝文人強烈的精神渴求，這導致他們親近山水田園，在借山水悟道的同時也增強了他們對山水的審美意識。東晉士人長期處於江南秀麗的山水中，也無形中增強了他們對自然美的敏感，「顧長康從會稽還，人問山川之美，顧云：『千岩競秀，萬壑爭流，草木蒙籠其上，若雲興霞蔚。』」「王子敬云：『從山陰道上行，山川自相映發，使人應接不暇。若秋冬之際，尤難為懷。』」（《世說新語·言語》）殷仲文、謝混等人也為山水詩的創作積累了一定的藝術經驗，招隱詩、遊仙詩、宴遊詩、行旅詩也為後來的山水詩提供了藝術借鑒。
到謝靈運登上詩壇後，山水便成為獨立的審美對象，後人理所當然地尊他為山水詩的鼻祖。
謝靈運（385—433），祖籍陳郡陽夏（今河南省太康縣），出生於會稽始寧（今浙江省上虞縣）。因出生後寄養在錢塘江一家道館裡，十五歲才回建康家中，所以小名客兒，後人又稱他為謝客。謝氏家族為東晉最顯赫的衣冠望族，其代表人物謝安為東晉一代名相，謝靈運的祖父謝玄為淝水之戰的主將。靈運年輕時即襲封康樂公，入宋後依例降爵為侯，世稱謝康樂。謝靈運於義熙年間出任琅琊王司馬德文參軍、撫軍將軍劉毅記室參軍，劉裕曾任其為宋國黃門侍郎。入宋後歷任散騎常侍、太子右衛率，永初三年出為永嘉太守，翌年稱病去職，回始寧別墅優遊山水，元嘉三年復召還京為侍中，因不滿意自己文學侍從的地位，兩年後又失意東歸始寧別墅。元嘉七年會稽太守孟顗奏靈運謀反，他馳赴京城上書辯解，文帝知其見誣不加治罪。翌年出臨川內史，不久又被人所劾而罪徙廣州，第二年在廣州以謀反罪名被殺。
謝靈運為人驕縱恣肆而又放蕩任性，作為「幼便穎悟」「博覽群書」的「烏衣子弟」，「自謂才能宜參權要，既不見知，常懷憤憤」（《宋書》本傳），雖然不得不屈心降志侍奉新朝，可從沒有收斂自己高傲橫恣的作風，更不檢點自己放縱的行為，在朝「多愆禮度」，外任則「驚擾」百姓（同上），最後導致被殺的悲劇性結局。明張溥在《漢魏六朝百三家集題辭·謝康樂集題辭》中說：「夫謝氏在晉，世居公爵，凌忽一代，無其等匹，何知下伾徒步，乃作天子，客兒比肩等夷，低頭執版，形跡外就，中情實乖……蓋酷禍造於虛聲，怨毒生於異代，以衣冠世族，公侯才子，欲倔強新朝，送齡丘壑，勢誠難之。予所惜者，涕泣非徐廣，隱遁非陶潛，而徘徊去就，自殘形骸。」這既是時代的悲劇，也是他個人性格的悲劇。
靈運以其傑出的文學才華深得族叔謝混的賞識，他對山水細膩的鑒賞能力也深受謝混的影響。另據《水經注·浙江水注》記載，靈運祖父玄在始寧的莊園宏大而又美麗：「右濱長江，左傍連山，平陵修通，澄湖遠鏡。於江曲起樓，樓側悉是桐梓，森聳可愛，居民號為桐亭樓。樓兩面臨江，盡升眺之趣。蘆人漁子，泛濫滿焉。湖中築路，東出趣山，路甚平直。山中有三精舍，高甍凌虛，垂檐帶空，俯眺平林，煙杳在下。」《宋書》本傳也說他在始寧老家的別墅「傍山帶江，盡幽居之美」。這樣的環境使他養成了對山水的愛好，也培養了他對自然美的敏感。他無論是賦閑家居還是任職永嘉、臨川，總要帶僮僕、門生、故舊尋幽探勝，「尋山陟嶺，必造幽峻，岩障千重，莫不備盡。登躡常著木履，上山則去前齒，下山去其後齒」（《宋書》本傳）。
由於他的那些山水詩多是尋幽探奇的產物，這形成了他山水詩在結構上呈現紀游詩的特點：往往先交代遊程及其緣由，再鋪寫遊覽所見的景色，最後抒感慨發議論。如《登江中孤嶼》：
江南倦歷覽，江北曠周旋。
懷新道轉迥，尋異景不延。
亂流趨正絕，孤嶼媚中川。
雲日相輝映，空水共澄鮮。
表靈物莫賞，蘊真誰為傳。
想像崑山姿，緬邈區中緣。
始信安期術，得盡養生年。
「江南」二句先寫江南江北的遊歷，以「倦」和「曠」表明自己搜奇探勝而一無所獲的失望，為後面孤嶼的勝景先作鋪墊。接下來二句折入「懷新」「尋異」本題。中間六句是全詩的主體部分，正面寫「江中孤嶼」的勝景，江中「亂流」奔趨「孤嶼」，「孤嶼」在川中獨呈秀異，這兒雲日輝映，水天一色，上下一片澄明，詩境既「新」且「異」。結尾四句寫感受發感慨。又如《於南山往北山經湖中瞻眺》：
朝旦發陽崖，景落憩陰峰。
舍舟眺回渚，停策倚茂松。
側徑既窈窕，環洲亦玲瓏。
俯視喬木杪，仰聆大壑淙。
石橫水分流，林密蹊絕蹤。
解作竟何感，升長皆丰容。
初篁苞綠籜，新蒲含紫茸。
海鷗戲春岸，天雞弄和風。
撫化心無厭，覽物眷彌重。
不惜去人遠，但恨莫與同。
孤游非情嘆，賞廢理誰通？
此詩是詩人元嘉二年（425）辭官後家居始寧所作，詩題中的南山在浙江嵊縣西北石門山一帶，為謝靈運新的卜居之地，北山指今浙江上虞東山一帶，即始寧靈運祖父留下的莊園別墅。前四句先點清題面，交代遊歷的時間、出發的地點、遊覽的路線。接著再寫停策倚松時「俯視」「仰聆」的所聞所見，徑則深邃窈窕，洲則玲瓏清幽；水因石礙而分流，蹊因林密而絕蹤，詩中的景緻是詩人探尋之所見。湖邊的嫩竹披著新裝，湖中的嫩蒲包著紫茸，海鷗嬉戲於岸邊，天雞輕舞於風中，竹、蒲、鷗、雞各呈妍獻技，春天的湖畔到處呈現出勃勃生機。最後四句寫「瞻眺」的感想，美景仍然不能化解詩人那份孤寂的心緒。
由於他的山水詩在結構上有紀游詩的特點，所以他詩中的景象常常是一種動態的流程，這些景象在時間和空間中不斷地變換，而很少表現為一種靜態的畫面。如《石壁精舍還湖中作》：
昏旦變氣候，山水含清暉。
清暉能娛人，遊子憺忘歸。
出穀日尚早，入舟陽已微。
林壑斂暝色，雲霞收夕霏。
芰荷迭映蔚，蒲稗相因依。
披拂趨南徑，愉悅偃東扉。
慮澹物自輕，意愜理無違。
寄言攝生客，試用此道推。
此詩寫景分為前後兩截，詩中「出谷」「入舟」二句表明時間與空間的切換，前四句寫石壁所見的朝景，「林壑」六句寫湖中所見的晚景。清人陳祚明對這首詩倍加稱讚：「『清暉』二語所謂一往情深，情深則句自妙，不須烹琢灑如而吐妙極自然。『出谷』以下寫景生動，『暝色』『夕霏』既會虛景，『映蔚』『因依』亦收遠目。公筆端無一語實，無一語滯，若此『慮澹』二句煉意法，理語圓好。」（《采菽堂古詩選》）
謝靈運永嘉之後的山水詩在結構上開始打破紀游詩的格局，章法既緊湊又跌宕，《游南亭》是其代表作：
時竟夕澄霽，雲歸日西馳。
密林含余清，遠峰隱半規。
久痗昏墊苦，旅館眺郊歧。
澤蘭漸被徑，芙蓉始發池。
未厭青春好，已睹朱明移。
戚戚感物嘆，星星白髮垂。
藥餌情所止，衰疾忽在斯。
逝將候秋水，息景偃舊崖。
我志誰與亮，賞心惟良知。
詩人一提筆便寫春晚雨霽景象，前兩句勾勒出極富動感的時空背景，「時竟」「夕澄霽」和「雲歸」「日西馳」，每一句都含兩個層次，晚春黃昏雨過天晴，白雲東飛夕陽西下，眼前一派澄凈開闊的景象。近處密林散發出雨後的清新涼爽，遠處夕陽若隱若現，「含余清」承首句「夕澄霽」，「隱半規」承次句「日西馳」，「起四句分承法密」（陳祚明《采菽堂古詩選》）。「久痗」二句再用逆筆補寫觀賞者謫宦羈旅又逢久雨的沉悶心境。這兩句在結構上是承上啟下：「久痗昏墊苦」交代了前後的景象為苦悶中所見，「旅館眺郊歧」又逗出了後四句郊歧之景。澤畔的蘭草漸漸覆蓋了