Lietuvos ypatingasis archyvas išaugo iš 1993–1995 metais veikusios Lietuvos archyvų departamento prie Lietuvos Respublikos Vyriausybės Ypatingos reikšmės archyvinių dokumentų tvarkymo darbo grupės. Darbo grupė veikė Vilniuje, Gedimino pr. 40/1, buvusiuose KGB rūmuose.
Lietuvos archyvų departamento 1995 m. spalio 10 d. įsakymu Nr. 50 buvo įsteigtas Lietuvos ypatingasis archyvas. Archyvas įsikūrė Vilniuje, Gedimino pr. 40/1 esančio pastato patalpose. 1995 m. lapkričio 23 d. Lietuvos archyvų departamento direktorius patvirtino Lietuvos ypatingojo archyvo nuostatus, kurie apibrėžė archyvo statusą, uždavinius, funkcijas, teises, darbo organizavimo principus ir archyve kaupiamų dokumentų sudėtį. Archyvas saugo ir kaupia TSRS valstybės saugumo komiteto (KGB) LTSR padalinio, LTSR vidaus reikalų ministerijos (VRM), Lietuvos komunistų partijos (LKP), LTSR įstaigų, įmonių ir organizacijų pirmųjų skyrių ir lietuvių tautos antisovietinio bei antinacinio pasipriešinimo dokumentus.
Vadovaujantis Ypatingos reikšmės archyvinių dokumentų perdavimo ir priėmimo nuostatais, patvirtintais Lietuvos Respublikos Vyriausybė 1993 m. liepos 14 d. nutarimu Nr. 526 (Žin., 1993, Nr. 30-699), 1995 m. lapkričio – 1996 m. vasario mėn. speciali Buvusio KGB LTSR padalinio archyvinių dokumentų perdavimo komisija perdavė valstybiniam saugojimui Archyvui visą išlikusį buvusio LSSR valstybės saugumo komiteto (KGB) archyvą (apie 787000 saug. vnt.).
Vadovaujantis Lietuvos Respublikos Ministro Pirmininko 1997 m. lapkričio 6 d. potvarkiu Nr. 505 „Dėl Vidaus reikalų ministerijos ypatingos reikšmės archyvinių dokumentų perdavimo“, 1997 m. balandžio mėn. buvo pradėtas Lietuvos Respublikos vidaus reikalų ministerijos žinioje esančių buvusios LSSR vidaus reikalų ministerijos 1940–1941, 1944–1991 metų dokumentų perėmimas valstybiniam saugojimui. Iki 1997 m. pabaigos Archyvas iš Vidaus reikalų ministerijos perėmė daugiau kaip 1 mln. 242 tūkst. saug. vnt. Perėmus LSSR vidaus reikalų ministerijos dokumentus, Archyvo saugomų bylų skaičius padidėjo beveik dvigubai, – 1998 m. pradžioje Archyve buvo sukaupta jau daugiau kaip 2 mln. 111 tūkst. saug. vnt. Perimtiems VRM dokumentams saugoti ir tvarkyti buvo įsteigtas naujas struktūrinis padalinys – VRM dokumentų skyrius. Skyrius įsikūrė naujame, specialiai archyvui statytame pastate, esančiame Vilniuje, O. Milašiaus g. 23.
skyriaus pastatas (O Milašiaus g. 23, Vilnius)
Lietuvos archyvų departamento generalinio direktoriaus 2000 m. lapkričio 21 d. įsakymu Nr. 36 2001 m. sausio 1 d. Lietuvos visuomenės organizacijų archyvas reorganizuotas, į Lietuvos ypatingojo archyvo struktūrinį padalinį. Lietuvos archyvų departamento generalinio direktoriaus 2000 m. lapkričio 21 d. įsakymu Nr. 36 taip pat patvirtinti nauji Archyvo nuostatai. Juose nurodyta, kad LYA saugo ir kaupia buvusios LTSR KGB, LKP, VRM, kitus su okupacinėmis represinėmis struktūromis, gyventojų genocidu ir rezistencija susijusius dokumentus.
Lietuvos archyvų generalinio direktoriaus 2005 m. balandžio 21 d. įsakymu Nr. V-42 buvo patvirtinta nauja Lietuvos ypatingojo archyvo nuostatų redakcija (Žin., 2002, Nr. 106-4784; 2005, Nr. 53-1826). Juose nurodyta, kad Archyvas saugo ir kaupia Lietuvoje veikusių TSRS specialiųjų tarnybų, Lietuvos SSR vidaus reikalų ministerijos, Lietuvos komunistų partijos struktūrų, kitų susijusių įstaigų ir organizacijų veiklos dokumentus, pasipriešinimo (rezistencijos) okupacinėms valdžioms dokumentus, taip pat nevalstybinių organizacijų, privačių juridinių ir fizinių asmenų perduotus dokumentus.
Lietuvos Respublikos Vyriausybės 2011 m. vasario 17 d. nutarimu Nr. 197 „Dėl valstybės archyvų nuostatų patvirtinimo“ (Žin., 2011, Nr. 23-1104) patvirtinti nauji Lietuvos ypatingojo archyvo nuostatai. Pagal naujus nuostatus, Archyvo savininkė yra valstybė. Archyvo savininko teises ir pareigas (išskyrus sprendimų dėl Archyvo reorganizavimo, likvidavimo ir buveinės pakeitimo priėmimą) įgyvendina Kultūros ministerija. Pagrindinis Archyvo veiklos tikslas – atlikti viešąjį administravimą, susijusį su archyvų ir dokumentų valstybinio valdymo sritimi. Archyvas teisės aktų nustatyta tvarka kaupia, saugo, tiria ir populiarina: Lietuvoje veikusių TSRS specialiųjų tarnybų, Lietuvos TSR vidaus reikalų ministerijos, Lietuvos komunistų partijos, TSRS gynybos ministerijos padalinių, kitų susijusių įstaigų ir organizacijų veiklos dokumentus; pasipriešinimo (rezistencijos) TSRS ir Vokietijos okupaciniams režimams struktūrų dokumentus; privačių juridinių ir fizinių asmenų perduotus dokumentus; iš kitų valstybių gautus susijusius dokumentus ar jų kopijas; kitus priskirtos Nacionalinio dokumentų fondo dalies dokumentus.