Začetki Kmetijskega inštituta Slovenije segajo v leto 1898, ko je cesarsko-kraljeva Kranjska kmetijska družba ustanovila Kmetijsko-kemijsko preskuševališče za Kranjsko v Ljubljani. Ustanovitveno listino je izdal takratni ljubljanski župan Ivan Hribar, gmotno pa je podprl ustanovitev tudi Deželni odbor Vojvodine Kranjske, na čelu z deželnim glavarjem Otonom pl. Detelo. Za prvega ravnatelja so ustanovitelji imenovali kemika in agronoma, Škofjeločana dr. Ernesta Kramerja. Prvih pet let sta vsa dela opravljala ravnatelj in laborant, leta 1903 pa je bil za prvega asistenta imenovan inženir tehnične kemije Jakob Turk.
V prvem obdobju je preskuševališče opravljalo predvsem kontrolne analize. Prvo leto so analizirali 100 vzorcev, pet let kasneje 2500, leta 1909 že več kot 6000. Med analiziranimi vzorci so prevladovala semena, živila (moka, sladkor, loj, mleko, med) ter pijače (žganje, pivo, mošt, predvsem pa vino). Pri vinu so na primer določali količino alkohola ter skupnih in hlapljivih kislin, izdajali so navodila za predelavo in svetovali o izboru trt. Leta 1905 so prvič odbrali in namnožili čiste vinske kvasovke ter jih ponudili vinogradnikom za uravnavanje vrenja in izboljševanje kakovosti vina. Poročila navajajo tudi analize vzorcev prsti, mineralnih gnojil, žveplenega prahu, vode in determinacijo rastlinskih škodljivcev. Pred prvo svetovno vojno je bilo preskuševališče edini raziskovalni laboratorij na Kranjskem, opravljal pa je kemične, fiziološke, bakteriološke in mikroskopske analize za potrebe kmetijstva, živilstva, industrije in obrti.
Prvo poskusno postajo je nova ustanova prevzela od Kranjske kmetijske družbe leta 1898, na posestvu Martina Peruzzija v Lipah na Ljubljanskem Barju. Temu so sledile še druge poskusne postaje na Barju, vse do leta 1931, ko se je poskusništvo preselilo na posestvo Bokalce. Pridelovalni poskusi (z žiti, krompirjem, sladkorno peso in travno-deteljnimi mešanicami) ter gnojilni poskusi so bili v začetku predvsem demonstracijskega značaja. Poskusne rastline v sortnih poskusih so bile krompir, fižol, krmna pesa, pšenica, ječmen in soja. Načrtno selekcijsko in žlahtnjiteljsko delo se je pričelo tik pred drugo svetovno vojno, intenzivneje pa nadaljevalo po njej, ko je inštitut vzgojil vrsto kakovostnih sort krompirja, trav, detelj, fižola, zelja in drugih vrtnin in poljščin.
Še leta 1917 je zavod zaposloval le tri ljudi, leta 1930 jih je bilo sedem, leta1940 pa najmanj deset redno zaposlenih. Širitvi delovnih nalog in rasti števila zaposlenih je inštitut prilagajal svojo organiziranost ter lokacije delovanja. Leta 1922, ko je imel sedež v stavbi Zadružne zveze, je bil razdeljen v štiri oddelke. Leta 1938 se je preselil v namensko zgrajene prostore na Hacquetovi ulici, kjer je še danes.
V petdesetih letih prejšnjega stoletja je delo potekalo v sedmih oddelkih (zavodih) in skupnih službah ter v dislociranih poskusnih poljih (Prevoje, Jablje, Moste pri Komendi). Takratni direktor Adamič je posodobil organizacijo dela, razširil področja dela (raziskave, strokovno delo, razvojno-pospeševalno delo in servis), postavil Kmetijski pospeševalni center kot posebno organizacijsko enoto, ki je kasneje postopoma prerasla v Republiški center za pospeševanje kmetijstva. Leta 1954 je dobila ustanova sedanje ime, Kmetijski inštitut Slovenije, in bila leta 1958 registrirana kot raziskovalna oziroma znanstvena ustanova.
Po letu 1959, ko je število zaposlenih preseglo 100, je inštitut pridobil oddelka za kmetijsko ekonomiko in kmetijsko tehniko ter informativni center. Poglobil je raziskovalno delo in začel z razvojem programa ter organizacijo kmetijske pospeševalne službe v Sloveniji. Bil je tudi med pobudniki ponovne ustanovitve Zadružne zveze Slovenije.
V 80. in 90. letih preteklega stoletja je bil zgrajen nov laboratorij, obnovljeni in dograjeni so bili raziskovalni, pisarniški ter proizvodni prostori na skupaj 5000 m2, nabavljena je bila analitska in računalniška oprema.
V svojem drugem stoletju delovanja se inštitut prilagaja potrebam sodobnega časa. Posodablja raziskovalno opremo, zavzema se za dvig izobrazbene ravni zaposlenih in širi področje svojih aktivnosti. Ustanovil je Oddelek za kmetijsko ekologijo in naravne vire, s pripojitvijo Centra za razvoj kmetijstva in podeželja Jable pa je pridobil dodatne kapacitete za razvoj in prenos sodobnih tehnologij v kmetijsko prakso.
Danes javni raziskovalni zavod Kmetijski inštitut Slovenije zaposluje 189 delavcev in je med petimi največjimi raziskovalnimi inštituti v Sloveniji. Znanstveno in strokovno odličnost na področju kmetijskih ter sorodnih ved krepi z vlaganjem v znanje in raziskovalne kapacitete, pri čemer sodeluje z domačimi ter mnogimi uglednimi evropskimi in svetovnimi inštitucijami.