От новокаменната епоха датират най-старите следи от живот, открити в землището на Карлово. На мястото на днешната Карловска община през различните епохи са възниквали, процъфтявали и загивали, без да оставят ясни следи в историята, селища и крепости. Периодите на римското владичество се характеризират с мащабно строителство в цялата Карловска долина на пътища, пътни съоръжения, крепости. Северно от Карлово е минавало трасето на Подбалканския римски път, свързващ Черноморието със Сердика. За охрана на този път са били построени много крепости / кале/. Една от тях е Карловското кале, а другата е Сушицкото кале, което е продължило да изпълнява функциите си и през ХІІ – ХІV в.
В близост до днешно Карлово са открити няколко следновековни селища (в местностите Света Троица и Свети Пантелеймон). Запазили са се оброчища и останки от средновековни манастири и църкви, възникнали вероятно върху развалините на стари езически светилища. Открити са средновековен некропол и намиращия се  до самия балкан средновековен манастир „Свети Спас”. Средище на долината бил укрепеният град Копса (Копсис), чието видоизменено име Гьопса се е съхранило като второ име на река Стряма. След смъртта на Георги Тертер ІІ в 1322 г. градовете от Сливен до Копсис станали владение на Войсил, който образувал княжество под върховенството на Византия. Главен град на княжеството станал Копсис. Конфликтите между Войсил и законния български владетел Михаил ІІІ приключили с бягство на Войсил при своите покровители и присъединяване на подбалканските земи към българското царство. Хрониките не казват нищо повече за съдбата на Копсис до момента на турското нашествие.

Най-вероятният приемник на града и център на областта е селището Сушица.През 70-те години на ХІV век Карловската долина е завладяна от османските турци. В края на ХV в. султан Баязид  ІІ дарява на османския военачалник Карлъ Али бей с. Сушица  и принадлежащите му земи като феодално владение.
През 1485 год. Карлъ Али бей построява с материали от разрушения манастир „Свети Спас” Куршум джамия, която е най-старият архитектурен паметник в града.
Името Карлово се налага постепенно в по-късно време и вероятно произлиза от фамилното име на Карлъ бей : Карлъ’ова – земя на Карлъ.
Въраждането поставя нов етап в развитието на града – настъпва икономически и духовен подем. Развиват се занаятите : отглеждане на маслодайна роза и производство на розово масло изнасяно в Англия, Франция, Цариград; леярски работилници; кована мед – казанджийство, медни домакински съдове, отличаващи се с художествен усет, калаени съдове за ракия и павури; обущарство /папукчии/, дюлгерство; железарство; стъкларство; производство на барут; златарство; 24 еснафски сдружения; шивачи; самарджии ; копринари; арабаджии /колари/; тепавичари; мутафчии /тъкачи на изделия от козя вълна/; грънчари; кафтанджии /шивачи на горни мъжки дрехи/; астарджии /тъкачи на платна/.
В средата на ХІХ в. са положени основите на две големи църкви – „Св. Николай” и „Св. Богородица”. Училището в Карлово възниква около 1810 год. Епоха в образователното дело в града е дейността на учителя и преводача Райно Попович. В Карлово е роден д-р Иван Богоров - публицист, преводач, издател на първия български вестник „Български орел”.  Бележит учител, книжовник, публицист и общественик Ботьо Петков - баща на великия поет и революционер Христо Ботев – също е роден в Карлово.
На 11 май 1861 год. карловци основават читалището в града, което става средище на просвета и революционни идеи. Безспорен принос в духовното пробуждане и развитието на девическото образование в града има Женското дружество, създадено на 14 септември 1869 год.
Карлово дава на България забележителни и щедри дарители – двамата най-изтъкнати братя Евлоги и Христо Георгиеви дарили средства за най-големия университет в България „Св. Климент Охридски” в София, както за болници, църкви и училища.