欧洲人到来之前，北卡罗来纳地区的原住民是印第安人，这些印第安人在北卡的大西洋沿岸平原的森林中狩猎和捕魚，并与周边部族有贸易往来，但这些印第安人并未发展出封建社会，其经济活动和社会组织水平仅仅处于新石器时代末期。
1580年代英國人計劃向該地區海岸外的羅恩諾克島移民，但在数年之后，当补给船抵达时整个殖民地空无一人，而且没有战斗的痕迹，表明殖民地并不是被印第安人攻击而毁坏的，史称罗厄诺克事件。
1629年卡羅萊納省脱离弗吉尼亚殖民地后建立，1663年這片土地成為查理二世「卡羅萊納贈地」的一部份。「卡羅萊納」名稱源自拉丁字（Carolus，即查理），是為了紀念英國國王查理一世（Charles I），所以用查理的拉丁化命名。
1684年蘇格蘭人在此地區建立了一處不長久的殖民地，以斯圖爾特鎮為中心，兩年後就被西班牙人趕走。此后多个欧洲国家都试图在卡罗莱那海岸殖民，但受制于运输能力和人口太少，当地很难建立起长久的殖民地。英国移民因为临近已经成熟的新英格兰和新泽西殖民地而能够控制该地区。同时英国人发现卡罗来那地区的气候很适合种植当时在欧洲十分昂贵和稀缺的烟草，因此有大批人口前来。
1691年命名为北卡罗来纳，与南卡罗来纳区分开来。原因之一就是卡罗来纳殖民地的海岸线太长，仅靠一个总督及其行政机构无法有效控制和开发殖民地。与此同时，为了扩大烟草种植，英国人将非洲人作为奴隶贩卖至此。
由于经济的发展和人口激增，1712年北卡罗莱纳被英国政府改组为专有殖民地，1729年改组成为英國皇室行省。但即便是行省，北卡罗莱纳的行政机构也是自治的，其议会议员是民选的，只有总督是由英国委派的。
1789年成為原北美十三殖民地中第12個批准聯邦憲法的州。由于其经济是以劳动力密集的种植业为核心，北卡罗来纳没有废除奴隶制。相反，北卡罗来纳一直允许其境内的种植园主购买奴隶。
由于1860年大选后强烈反对奴隶制的林肯当选总统，北卡罗来纳民众担心其奴隶财产被剥夺，因此倾向于脱离联邦。1861年梅克倫堡宣言發布後脫離聯邦，随后加入美利坚联盟国。
内战期间北军很快就将战线推进到北卡罗来纳州。同时北方对南方进行了严密的海上封锁，北卡的烟草和棉花无法出口，经济受到重大打击。1865年南方战败，国家重新统一，北卡廢除蓄奴制。
1868年重新加入聯邦。
由于相对于北方各州优越的自然地理条件，北卡远离欧洲也缺少煤铁资源，其经济一直是以农业为主，棉花及其相关行业一直是北卡重要的经济支撑。
二战后，由于交通运输条件的改善，加上有众多大学的支撑，北卡州中部逐渐将高科技产业作为自身发展的重点。1990年后，北卡的首府罗利和德罕、教堂山三座城市被誉为东岸硅谷，形成了一个高科技三角区。