在90年代后期，对于企业领导来说，将项目放到整个企业的运作中统一管理的需要变得越来越明显，PMO随之大量地出现。PMO最早出现于20世纪90年代初期。当时PMO仅提供了很少的服务和支持工作，而更多被企业用来“管制”项目经理，而不是为他们提供项目管理的方向和指导。伴随着项目管理理念的深入和项目管理价值的日益凸现，管理层逐渐认识到项目管理对提高企业经济效益和利润将产生非常巨大的有利影响，越来越多的企业以项目为单元进行企业的战略分解与任务执行。
第一级: 项目控制办公室:
这通常是一个处理大的、复杂项目的办公室（例如Y2K项目），它通常针对于一个项目，但是该项目太大并且太复杂以至于需要多重进度计划，这些进度需要整合为一个整体的项目群进度。
项目控制办公室可能有多个项目经理，每个项目经理独立地对每个项目进度负责，并且按照那些进度计划，其相关的资源需求、相关的成本都被整合到了整体的项目群进度中。
一位项目群经理或者一个项目总经理（项目总监）对于整合所有的进度计划、所有的资源需求和成本负责，以便保证项目群可以作为一个整体以满足其最终期限、里程碑和可交付成果。
第二级：部门项目管理办公室
部门级项目管理办公室可能还被要求对单个项目提供支持，但是其挑战是需要整合大量的不同规模的多项目，从短期的需要两个资源的动议到需要许多资源、大量资金和复杂技术整合的几个月或几年的项目。
第二级项目管理办公室的价值在于它开始在组织一级来整合资源，因为在组织层级，资源控制开始对于项目管理体系的回报提供较高的价值在第一级或者是单个项目层级，项目管理的应用对于项目产生显著的价值是因为项目开始有了可重复性：项目的进度计划、项目计划成为了在项目团队成员之间以及组织管理层之间的沟通工具。在第二级以及更高层级，项目管理办公室同样具有这些作用，但是它也开始在管理跨项目的资源时提供更高的效率。
当多个项目争夺一个系统设计师时，第二级PMO通过建立项目管理体系以解决对于公共资源需求的冲突并且确定项目的相对优先级，因此高优先级的项目得到他们所需的资源而低优先级的项目或者被延期或者取消。
第二级项目管理办公室使得组织可以确定何时存在资源短缺，并且有足够的信息以便决定是否雇佣额外的资源。
第三级：企业项目管理办公室
很多组织有跨部门的项目需求。IT部门可能牵头一个开发项目，但是这个开发项目需要其他业务部门如销售、市场和生产部门的输入。所有这些需求都需要统筹考虑，否则很多情况下就会在部门之间造成资源冲突。
公司级项目管理办公室用来解决相互竞争的资源需求，同时尽力需求可以在公司范围内共享的公共资源。例如，在公司的多个部门可能都有机械工程师，企业一级的项目管理办公室可以使得对这些全公司范围内的资源的跟踪成为可能。
PMO是在组织内部将实践、过程、运作形式化和标准化的部门，是提高组织管理成熟度的核心部门，它根据业界最佳实践和公认的项目管理知识体系，并结合企业自身的业务和行业特点，为组织量身定制项目管理流程、培养项目经理团队、建立项目管理信息系统、对项目提供顾问式指导、开展多项目管理等，以此确保项目成功率的提高和组织战略的有效贯彻执行。
公司一级的项目管理办公室在管理企业项目组合方面也担任重要角色，允许高层管理者通过一个中心的来源获得整个企业的所有项目活动的完整印象。企业项目管理办公室可以从公司角度为项目
设立优先级。