錦衣衛原稱儀鸞司，其職責是幫助君主管理儀仗。1382年，明政府撤銷親軍都尉府與儀鸞司，設置“錦衣衛親軍都指揮使司”，錦衣衛制度正式產生。關於它的設置，《明實錄》中曾記載:“洪武十五年四月，改儀鸞司為錦衣衛，秩從三品”。明朝初年，朱元璋實行衛所制，“自京師達於郡縣，皆立衛所”，“系一郡者設所，連郡者設衛”。外邊由都司統轄，內邊由五軍都督府管理。除此以外，他還設置“上十二衛”，他們是君主的私有軍隊，職責是保證君主的人身安全，直接聽命於皇帝，而錦衣衛就是其中之一。
錦衣衛由“錦衣衛都指揮使”負責管理，由君主任命其信任的人擔任。錦衣衛下設置十七所、南鎮撫司和北鎮撫司，以後兩者最為重要，其中“南理本衛刑名及軍匠，而北專治詔獄”。即南司負責管理刑名和軍籍，北司職責是專管詔獄，因此北司權勢要比南司大。1387年，朱元璋認為錦衣衛存在隨意任用手中權力的弊端，將它暫時廢除。明成祖即位後，為了使明政府國家機器高效運轉，又重新設置。此後，錦衣衛一直存在，直到1661年南明永曆帝時錦衣衛指揮使馬吉翔與掌衛使任子信被殺才正式被廢除。
明朝皇帝為什麼要設置錦衣衛？原因有二：
其一，為了加強中央集權和皇權
皇權與相權、中央與地方的矛盾是貫穿中國古代社會的一對基本矛盾，在明朝時期這對矛盾表現得十分突出。從中央與地方來看，當時在北方，元朝“引弓之士不下百萬眾也，歸附之不下數千裡也，資裝凱杖尚而耐用也，馱馬牛羊尚全而有也”。不甘心失敗的蒙古軍事貴族不斷伺機南下侵略，對明朝北部邊疆構成嚴重威脅。在南方，貴族佔有許多土地，中央政府控制的土地不斷減少，這嚴重影響了政府的稅收，使中央出現了財政危機。從君臣關係來看，一方面，宰相不斷擴大權勢，嚴重威脅皇權，特別是胡惟庸當政時，皇權與相權的矛盾達到了不可調和的地步;另一方面，許多功臣擔任高級官職，他們居功自傲，為了自己的利益不擇手段，對皇帝構成嚴重威脅。在這種情形下，朱元璋廢除了宰相，權分六部，並規定以後不得再設丞相，同時也裁撤中書省，在地方上設承宣布政使司、提刑按察使司、都指揮使司以加強皇權和中央集權。雖然廢除丞相和中書省使大權完全掌握在皇帝手中，但是明太祖日理萬機，精力有限，為了幫助其分擔政務，處理案件，朱元璋於1382年建立了錦衣衛。
其二，明朝皇帝多疑性格的影響
明朝大多數皇帝性格多疑，特別是明太祖。他出身貧農，當其稱帝時，南方的一些地主和平民由於他出身低微而對其拒不承認。同時他年少時目睹了地主階級的殘暴，由此對地主階級產生一種厭惡之情。當王朝統治秩序穩定下來後，過度的猜忌和疑心使他認為功臣是他及其後代統治的最大威脅，為此他設立錦衣衛，嚴密監視功臣貴族，以各種藉口誅殺他們，“胡藍之獄”便是他誅殺功臣的有力證明，“獨至明祖，藉諸功臣以取天下，及天下既定，即盡舉取天下之人而盡殺之，其殘忍實千古所未有。……懿文死，孫更羸弱，遂不得不身後考慮，是以兩興大獄，一網打盡”。
錦衣衛設立之初主要職責是保護君主的安全，因此其最原始的性質為軍事機關。由於明初政府對錦衣衛軍士的待遇極高，在他們之中出現了一些豪軍悍徒，錦衣衛軍士中的弊端越來嚴重，再加上一些功臣不斷擴大自己的權勢，嚴重威脅朱氏王朝的統治。同時地方上的反叛勢力發動起義，這一切都使新興的明王朝動盪不安。為了穩定統治秩序，加強中央集權，朱元璋又賦予錦衣衛偵查和緝捕之權，錦衣衛便具備了特務機構的性質。由於宰相制度的廢除，朱元璋親自處理各種事務，漸漸力不從心，一些官員趁機貪贓枉法，吏治腐敗十分嚴重，朱元璋為了減輕其負擔和懲治腐敗，又讓錦衣衛參與監察和司法審判，錦衣衛又進一步發展成為司法機關。雖然1387年朱元璋以錦衣衛權力太大為由將其暫時取消，但朱棣即位後又恢復錦衣衛的所有權力，此後其各種職能一直延續至南明。總而言之，錦衣衛是集軍事、特務和司法多種性質於一體的軍事化管理機構。
軍事機構是錦衣衛最原始的性質。明初在兵制上實行衛所制，錦衣衛就是其中一種特殊的衛，它由皇帝直接統領，負責君主的安危。《明史》中曾記載“凡朝會、巡幸，則具滷薄儀仗，率大將軍(共一千五百七員)等侍從扈行。宿衛則分番入直。朝曰、夕月、耕藉、視棲，則服飛魚服，配繡春刀，侍左右”。這些都是接近皇帝身邊的任務，而它們由錦衣衛負責執行，因此它成為一個重要的軍事機構。
在明朝以前，就已存在具有特務性質的組織，如西漢時期的“繡衣直指”，三國時期的“校事”以及宋代的“皇城”等。錦衣衛與這些機構的性質類似，其職務主要是逮捕罪犯，並對他們進行秘密審訊。從其職能來看，它和特務的任務大同小異。此外，由於君主直接管轄錦衣衛，只要秉其旨意，它有權逮捕全國任何人，並且可以不用通過司法機關直接對犯人進行審判，由此便成為一個龐大的特務機關。
錦衣衛在皇帝的授權下，可以對任何人進行偵查和逮捕，被抓之人往往被送進錦衣獄，在錦衣獄中，錦衣衛官員會對犯人進行嚴格的審訊，甚至嚴刑逼供，凡是被審訊之人，十之八九會死於獄中。除了執行稽查、逮捕和審訊等任務之外，錦衣衛也執行法司會審任務，其過程是“錦衣衛使亦得與法司午門外鞠囚，及秋後承天門外會審，而大審不與也。每歲決囚後，圖諸囚罪狀於衛之外垣，令人外省”。從這些活動來看，錦衣衛雖然還不是國家設置的正式司法機構，但事實上已具備了司法機構的性質。
