Het eerste kasteel werd gebouwd in 1361, gevolgd door de eerste kerken in het begin van de 15e eeuw. De stad groeide snel en een eeuw later was het al een gerespecteerde stad met welgestelde kooplieden en vakmannen.

Op 20 mei 1463 werd door Kazimieras Jogailaitis de stadsrechten vernieuwd en uitgebreid. Ter ere van deze gelegenheid wordt ieder jaar op deze dag feest gevierd: Stadsdag van Kaunas.

Al zeer lang wonen er mensen in het gebied waar tegenwoordig Kaunas ligt. Dit is de plaats waar de rivier Neris en Nemunas samenkomen. De eerste beschrijvingen over dit gebied dateren uit 1361. Aan het einde van de 13e eeuw werd een stenen kasteel gebouwd, om Kaunas te beschermen tegen de aanvalsdriften van de kruisvaarders. Nadat groothertog Vytautas (machthebber van 1392 tot 1430) in 1410 de Maagdenburg rechten aan Kaunas had verleend, werd de stad autonoom en begon de stad sterk te groeien. Tevens nam de handel met de West Europa sterk toe. In 1440 werd een akkoord met de Hanzesteden getekend, waarna kooplieden een kantoor openden. Ook verschillende Nederlandse steden waren in die tijd aangesloten bij deze handelsorganisatie.

Aan het einde van de 16e eeuw ontwikkelde Kaunas zich tot een van de sterkste steden in Litouwen, maar na deze periode volgde een mindere tijd. In 1665 viel het Russische leger de stad binnen. De zweden kwamen in 1701 en verwoesten een groot deel van Kaunas en Litouwen. In 1731 en 1732 werd Kaunas getroffen door grote branden.

Aan het einde van de 18e eeuw herstelde de economie van Kaunas zich weer. Dit duurde totdat in 1812 het leger van Napoleon de rivier Nemunas overstak, nadat het leger zichzelf terugtrok vanuit Rusland. De stad werd tot twee maal toe grotendeels verwoest. Het Oginsky kanaal, dat de rivier Nemunas verbind met de Dnieper, werd aangelegd. In 1862 werd een spoorverbinding gebouwd tussen Duitsland en het Russische rijk. Zowel industrie als handel trokken hierdoor flink aan. Tot 1919 werd Kaunas bestuurd door vele overheden van verschillende nationaliteit. Toen in 1919 Vilnius werd bezet door de Russen, werd de regering van Litouwen verplaatst naar Kaunas. In 1920 werd Kaunas de tijdelijke hoofdstad van Litouwen. De stad groeide, de industrie bloeide. Vele belangrijke gebouwen werden hersteld en er kwamen nieuwe bruggen over de rivieren Neris en Nemunas. Vanaf 1924 reden de eerste bussen door de stad.

Na de tweede wereldoorlog werd Vilnius opnieuw de hoofdstad van Litouwen. Kaunas, dat grotendeels verwoest was tijdens de oorlog, werd de tweede stad van het land. De stad werd herbouwd, maar de Sovjetbezetters begonnen alle monumenten en beelden die herinnerde aan het onafhankelijke Litouwen te slopen of vernietigen.

Een van de eerste vormen van publiek protest tegen de Sovjet-Unie vond plaats in 1972, toen een student, Romas Kalanta, zichzelf in brand stak op het plein tegenover het muziektheater. Er is een monument geplaatst, om deze daad te blijven herinneren.

In 1988 kwam er meer vrijheid in Litouwen en werden vele namen van straten, pleinen en musea weer in ere hersteld.