Sin egentlige skønlitterære debut fik han med romanen Danskere (1896) om en ung provinsstudents møde med storbyen København. Romanen Einar Elkær (1898) fortsætter dette spor i et portræt af en lignende hovedperson, der opløses i selvrefleksion og ender med at dø af "blød Hjerne".

Med Himmerlandsfolk (1898) åbnede Johannes V. Jensen for sin jyske basis og skabte historier om skæbner blandt bønder, der var uløseligt bundet i deres instinkter. Senere udkom flere samlinger af disse Himmerlandshistorier, der som genre strækker sig gennem hele forfatterskabet.
Det gælder også en anden kortprosagenre, som han opdyrkede, myten, der giver et glimt af menneskets vilkår i naturen og tiderne, fastholdt i det oplevede nu. Genrebetegnelsen fandt han i 1901, men i de tidlige prosastykker Mørkets frodighed(samlet 1973) er formen på vej allerede i årene før 1900.
Den første samling udkom med titlen Myter og Jagter (1907).

Mytisk er også betragtningsmåden i hans mest berømte værk, romanen Kongens Fald fra 1900-01, hvor hovedpersonen Mikkel Thøgersen i tiden omkring 1500 må se sine drømme om at blive til noget stort forgå i tilværelsens almindelige lov om stigning og uomgængeligt fald.

Hans skæbne bindes stadig tættere til kong Christian 2., og romanens symbolske sluterkendelse er, at Jorden, modsat middelalderens opfattelse, går rundt om Solen, et symbolsk udtryk for, at hverken kongen eller menneskets jeg er tilværelsens centrum. Mennesket er sat under"'faldets" lov.

Noget lignende gælder synet på Danmarks historiske situation, idet begivenhederne omkring 1500 ses som begyndelsen til landets forfaldshistorie med perspektiv til tabet af Sønderjylland i 1864. Men selvom romanen således tematisk omhandler det fejlslagne danske liv, så gør den det i et kraftfuldt sanseligt sprog.

Årene 1900-01 blev meget betydningsfulde. Her skrev Johannes V. Jensen små prosaskitser til avisen København, hvoraf nogle senere i omsat skikkelse indgik i hans Digte (1906), et værk, som med sine seks frie digte revolutionerede den lyriske digtning i Danmark.

"Interferens" fra denne samling er særlig berømt, da det præcist sammenfatter en moderne erfaring: "Min Bevidsthed ytrer sig som sjælelig Interferens./ Selve det skrigende Forhold mellem alle i øvrigt harmoniske Virkeligheder/ er mit Indres gennemtrængende Tonart".

1901 udkom hans første kulturkritiske artikelsamling, Den gotiske Renaissance, der sætter den sejrende angelsaksiske kultur med dens dyrkelse af kendsgerningen og maskinen op mod den romanske kultur. Handlingen og sansningen kom nu i centrum; æstetisk nåede han frem til det udsagn, der foregriber futurisme og ekspressionisme ti år senere: skønheden følger styrken.

Den medrivende udtryksevne gav Johannes V. Jensen sikkerhed til at udkaste voldsomme udviklingssyner, der ikke undgår at viderebringe mange af de racistiske spekulationer, som var almindelige i tiden lige efter 1900. Den gotiske race så han således udspringe i Jylland, siden flytte til England med folkevandringen i vikingtiden og videre derfra i moderne tid med udvandringen til Amerika.
I essaysamlingen Den ny Verden (1907) følger han det sejrende gotiske spor i Amerika, ligesom hovedpersonen Lee i romanen Hjulet (1905) nedkæmper de dunkle motivers førerskikkelse Cancer: "Her var Kærnen i den Taage af kvindagtig Trang til at dyrke og blive dyrket, der løj alle Omrids ud i Uendeligheden, til Himmels og ad Helved til (...) en gammel snavset Fyr, egnet til Lem i et Hospital mellem andre arme snakkesalige af Kønnet".

Menneskets historie før goterne, bevægelsen fra urtiden til Amerikas opdagelse blev temaet i Den lange Rejse (6 bd., 1908-22), hvor han benyttede darwinismensforstilling, om de bedst egnedes overlevelse som model for sin beskrivelse af menneskets udvikling fra istiden frem til Christooffer Columbus.  
I disse udviklingssyner er den udadvendte erobring af land, den nordeuropæiske races forrang, imprialismen maskinen og kendsgerningen klare positive værdier for Johannes V. Jensen. På det personlige plan stemmer det overens med hans ønske om at ville være en anden end den indadvendte, sjæleligt overspændte halvfemser-figur, han havde været.

Der er noget voldsomt og villet over hans forandring af sig selv hen imod den harmoni, som han erklærede som sit standpunkt, og efter hans død har mange da også, modsat hans egen vurdering, foretrukket ungdomsforfatterskabet.
Han havde giftet sig 1904 og slået sig ned med familie på Frederiksberg i København. Ud fra forestillinger om normalitet og sundhed fór han i kronikken "Samfundet og Sædelighedsforbryderen" i Politiken 30.11.1906 hårdt frem mod den homoseksuelle Herman Bang og fik derved den samlede litterære offentlighed imod sig.

Polemikken gled over i hans næste bestræbelse (1907) på at samle alle de folkelige forfattere under én betegnelse: "Den jyske Bevægelse". Johannes V. Jensen ville, med udgangspunkt i det folkelige gennembrud, som afløste 1890'er-digtningen, føre en kulturkamp på det litterære felt, hvor dannelsens forfinelse skulle afløses af en kultur, der tog udgangspunkt i menneskets omgang med naturen og produktionen.

Sideløbende med udgivelsen af de enkelte bind af Den lange Rejse opbyggedes efterhånden et stort essayistisk og journalistisk forfatterskab, der tog mere og mere af Johannes V. Jensens skabende evne.
I essaysamlingen Introduktion til vor Tidsalder (1915) uddrog han erfaringerne fra sine rejser Jorden rundt.

Hovedinteressen var sammenlignende racestudier, hvor han gerne ville se de forskellige racer som trin i menneskeåndens udvikling. Æstetik og Udvikling (1923), som er en efterskrift til Den lange Rejse, redegør for hans særlig placering i den litterære tradition med yndlingsdigtere som Johann Wolfgang von Gothe, Bjørnstjerne Bjørnson, Knut Hamsun, H.C. Andersen og Adam Oehlenschläger

Endelig sammenfatter Aandens Stadier (1928) hans biologiske, antropologiske og naturvidenskabelige interesser under begreberne evolution og race. Da disse begreber senere i 1930'erne fik en nazistisk farvning, tog Johannes V. Jensen kraftigt afstand fra deres politisk-ideologiske udnyttelse.

Det fiktive forfatterskab tyndede, med enkelte markante undtagelser, ud med digte i traditionelle former, undertiden inspireret af oldnordiske versemål, som knyttede sig til hans oversættelse af De islandske Sagaer (1930-32) og Heimskringla (1928). Stærkt blandt disse digte står "Som Dreng skar jeg Skibe" og digtet om Oehlenschläger "Graven i Sne". Romanerne ebbede ud med den groteske Dr. Renaults Fristelser (1935) og Gudrun, en hyldest til hverdagens kvinde (1936).

Johannes V. Jensen var livet igennem en maskeret person. Han ville være moderne, sportstrænet og bekendte sig til den fremvoksende industrikultur, men samtidig havde han stærke bindinger til sit jyske udspring.

Hans livslængsel skærpedes af en dødsrædsel, og man kan anskue hans udviklingssyner og hans mytetænkning som en måde at takle den religiøse drift. Med al sin aggressive styrke ville han overgive øjeblikket intakt til sine læsere, for, som han lærte ved at se det japanske hellige bjerg Fujisan: "den højere Verden, vi stunder imod, kan (kun) være netop den der er" (1902).