1.客体要件
本罪的客体是国家的保守秘密制度。本罪的犯罪对象仅限于属于国家绝密级和机密级的秘密的物品。根据《中华人民共和国保守国家秘密法》规定，国家秘密的密级分为"绝密"、"机密"、秘密"三级。"绝密"是最重要的国家秘密，泄露会使国家的安全和利益遭受特别严重的损害；"机密"是重要的国家秘密，泄展会使国家的安全和利益遭受严重的损害；"秘密"是一般的国家秘密，泄露会使国家的安全和利益遭受损害。非法持有秘密级国家秘密的行为也具有一定的社会危害性，应当予以法律制裁，但从其社会危害性的程度来看，尚不到犯罪的程度，不应以犯罪论。
2.客观要件
本罪在客观方面表现为非法持有属于国家绝密、机密的文件资料或者其他物品，拒不说明来源与用途的行为。
所谓非法是指根据国家保密法律、法规和具体的规章制度，不属于接触、保管国家秘密文件的人员而持有属于国家绝密、机密文件、资料、其他物品，或者虽属于保密工作人员，但其持有该绝密、机密文件、资料、物品没有合法根据。比如根据保守国家秘密法的规定，绝密级的国家秘密文件、资料和其他物品，非经原确定密级的机关、单位或其上级机关批准，不得复制、摘抄;收发、传递、外出携带，应由指定人员把任等。对一般人员而言，持有国家秘密本身即为非法，对于有保密人员身份的人，有关机关未曾批准复制、摘抄，行为人却持有复制件、摘抄件;有关机关未指定或者不属于有关机关指定人员而持有绝密、机密文件、资料、物品等就属于非法。总而言之，行为人没有合法根据而持有国家绝密、机密文件、资料、其他物品即为非法。
所谓持有，是指以占有的意思实际支配。不论是行为人随身携带，或者隐藏、存放于其住处、工作场所，寄存在他人之处等，只要行为人明知是国家绝密、机密文件、资料、物品而置于自己控制之中即为持有。如夹藏在目己的行李、邮件当中，虽然并不亲自持有，但行李、邮件最终仍然要回到自己手中，并未脱离自已的控制，仍为持有。根据国家安全法的规定，持有包括两类，即不应知悉国家秘密的人员携带、存放属于国家秘密的文件、资料和其他物品;可以知悉某项国家秘密的人员，未经办理手续，私自携带、留存属于该项国家秘密的文件、资料和其他物品。
在行为人非法持有国家绝密、机密文件、资料、其他物品的既定事实下，当有关机关调查时，行为人拒不说明其来源与用途。所谓拒不说明，既包括根本就不予配合，什么也不说，又包括未能说明。如编造谎言、借口或者提供的来源与用途经查不实或无法查证的。
3.主体要件
本罪的犯罪主体为年满l6周岁，具有刑事责任能力的自然人，包括中国公民、外国人、无国籍人。一般来说，行为人身份如何不影响成立本罪。但是，如果行为人是间谍组织成员或者接受了间谍组织及其代理人的任务的人员，符合间谍罪构成特征的，则应以间谍罪论处，不构成本罪，
4.主观要件
本罪行为人主观方面表现为直接故意。从其主观方面的认识因素来看，行为人只须认识到自己无权持有国家秘密文件、资料、其他物品，认识到自己持有的文件、资料、物品属于国家秘密即可，无须确切地认识该国家秘密属于什么密级，从其主观方面的意志因素来看，行为人持有本身就意味着其希望该国家秘密处于自己的支配之下，因而不存在间接故意。
实际占有国家秘密的人员有说明其来源与用途的义务，如果行为人能够说明自己占有国家秘密的来源与用途，且能够证明自己确实不知其为国家秘密，那么其实际占有行为不是本罪的“持有”，可以根据其实际来源与用途，依法处理，比如系盗窃所得，行为人不知为国家秘密而窃取，应以盗窃论，又比如行为人系捡得且不知其为国家秘密的，不构成犯罪等等，