Gennem mere end 400 år er egnens bønder kørt til den gamle Vandmølle for at få deres korn malet til mel. Da markerne for det meste var tilsået med rug, var det oftest det, man medbragte på vognen for at få det malet til mel. Men de sidste årtier Møllen arbejdede, koncentrerede man sig om at male kornet til grutning. Vandmøllen er nævnt så langt tilbage som til 1600-tallet, hvor den nævnes at høre under Østergård sammen med 10 andre gårde, men måske er den endnu ældre.

Da Vandmøllen natten mellem den 8. og 9. marts i 1779 brændte, ejedes Vandmøllen af Jacob Hjort. Han havde erhvervet den ved at gifte sig med enken Anne Marie Jensdatter i 1771. Hun døde dog samme år. Møllerens søn Jacob på 2½ år indebrændte. Ilden kom så pludselig, at mølleren og hans kone med hver et barn på armen måtte halvnøgne løbe ud af det brændende hus, og de blev slemt forbrændte, idet taget styrtede ned over dem. Branden har sikkert medvirket til at de solgte Vandmøllen i 1782 til Peder Andersen og Maren Jensdatter.

I april 1833 erhvervede Rasmus Nellemann Fjellerup Vandmølle for 4000 rigsbankdaler sølv, og han ejede Møllen frem til 1858, hvor han solgte til familen Lunøe. Foruden Møllen omfattede købet også et par tofter i Fjellerup By, en husplads nord for præstegården og en anpart i Fjellerup sogns kirke.

Rasmus havde et veludstyret hjem, som omfattede følgende rum: dagligstue, storstue, 2 soveværelser, gæstekammer, forstue, pigekammer, bryggers, køkken, spisekammer, bagestue, mælkekammer, rullestue og karlekammer. Lokalerne var rigt udstyret med ting af sølv og kobber. I staldene var der 2 hopper, 7 køer, 1 kvie, 19 får og 1 vædder. I vognporten stod der en postvogn, 1 rejsevogn og 1 arbejdsvogn. Familen Lunøe ejede Vandmøllen frem til 1907.

I 1879 brændte Vandmøllen igen, men de gamle kampestensmure blev bevaret. Der blev lagt et nyt tag af træspåner. Disse tynde træplader var moderne på denne tid og meget anvendt på hollandske møller. Der var forinden i 1878 opført en vindmølle, som blev revet ned i 1916.

I 1946 købte familien Dohn Fjellerup Vandmølle af Jacob D. Pedersen, som havde ejet den fra 1927. Rasmus Dohn fik hurtigt sat skik på mølleriet. Bygningerne var forinden blevet udstyret med panneplader, som var lagt oven på det daværende træspåntag.

Det har været helt specielt for Fjellerup Mølle, at møllehjulet blev drevet af et kildevæld. Bag Møllen væltede vandet op af jorden og blev opstemmet til en stor mølledam, som i mange år bestod af det klareste kildevand. Da familien Dohn købte Vandmøllen i 1946, blev det store møllehjul endnu trukket af kildevældet, men på grund af den tiltagende forurening udviklede mølledammen sig med årene til en stinkende kloak, og da kildevældet ikke altid kunne sikre den nødvendig mængde vand, valgte Rasmus Dohn at fylde dammen op og lade en elektromotor på 8 hk trække kværnen på Møllen.

I 1952 blev det gamle udtjente møllehjul taget op under stor bevågenhed fra byens borgere. Dohn undgik dog problemer med, hvad han skulle gøre ved det kæmpestore hjul for byens borgere fjernede træet Det var åbenbart ikke mere råddent, end det kunne anvendes.

I 1959 døde Rasmus Dohn og Marie Dohn opgav at drive Møllen videre.  Den blev i 1972 solgt til Ingeborg og Søren Sloth, som ombyggede Møllen, så den kunne fremstå som en moderne bolig. De koncentrerede sig i første omgang om at give bygningen et nyt stråtag, som passede til de gamle bygninger. I dag bor Ingeborg Sloth stadig på Fjellerup gamle mølle. Bygningerne er nu istandsatte og af det oprindelige mølleinventar findes kun en svingbom til kværnen.