PMO最初起源于那些需要对项目经理提供行政和管理支持的大型项目，企业管理层主要利用PMO来“管制”项目经理，监控项目的绩效，PMO更多的扮演着企业内“项目监理”的角色。那么如何建立PMO呢？
第一步，建立PMO的准备，这一步工作主要是了解组织的现状，明确建立PMO的目标，及整体的规划。这个步骤的工作主要有以下几项：
(1) 评估当前所处的环境：了解组织在项目管理方面的相关资源（员工技能、资金、项目管理工具等）现状，组织（企业文化、组织支持等）状况以及目前组织的管理模式等。
(2) 建立PMO的愿景（vision）和使命，包括：组织的授权，PMO的模式，运作政策和执行的方法。
(3) 明确PMO在组织内实施的目标和目的。
(4) 开发PMO的商业模式，包括：PMO的需求，执行的战略，进展计划以及费用预算等。
第二步，开发PMO的战略和操作计划，这一步的工作中主要是建立PMO的组织，明确组织的流程和项目管理体系和管理制度。其主要的工作包括：
(1) 定义PMO的组织结构和招募员工的要求。
(2) 定义项目管理的方法论框架。
(3) 定义PMO的运作流程。
(4) 建立检查的流程和绩效评估标准。
(5) 开发培训需求。
第三步、建立PMO
(1) 招募员工。
(2) 选择或开发项目管理的方法论，包括：项目管理的流程、组织设计、项目管理的方法论、项目管理的制度等。
(3) 执行PMO的流程和程序
当按照上面的步骤建立起了组织的PMO后，并不是说就保持不变了，通常情况下，还会根据组织的运行情况，再次重复执行1～3步的过程，以进行PMO的改进，这个周期可以在6～12个月左右。
在选择PMO的组织模式时，我们通常会选择从第一种模式（支持式PMO）作为起点，当发展到一定程度时（运作的成熟、项目管理价值的认可，模式限制的显现等），再进行改进，扩展其职能，升级PMO的组织模式。如果组织的决策层对于项目管理的重视程度非常高，给予PMO的权限也足够，也可以直接采用第三种模式（管理式PMO），但直接采用这种模式会对组织产生比较大的冲击，碰到的阻力也会很大。
对PMO所需员工的数目及技能要求，将根据PMO在组织中扮演角色和职能不同而发生变化。在支持式PMO中，方法论专家或一个项目助理将是足够的。在一些复杂的模式下，可能还需要加入一些项目经理和行政人员。在一些大型的组织中可能会有几十个的项目经理直接或间接隶属于PMO，但PMO的大小一般会在5～20人的范围内。
在某些情况下，当难以由专职的专家组成时，也可以采用一些虚拟的组织（间接隶属于PMO的专家）来执行某些功能，如：项目管理方法论的开发和选用，项目的审批等。
PMO必须是灵活适合当前的组织结构，除非有很强大的资源，充裕的时间和巨大的支持来改变当前的组织结构。
在建立好了PMO之后，就需要让PMO能够按照预定的权限和流程进行运作，在运作的过程中，应该注意以下事项：
* 应该使项目管理在组织内部具有连贯性和稳固性，不能够只是作为口号的宣传或者是阶段性的工作突击。
* 能够向组织的决策层、职能经理及员工展示项目管理的价值。这些人是PMO运作的利益关系者，只有这些人的真正支持，才能够配合PMO的运作，达到PMO的作用。
* 能够在项目经理和决策层之间，站在中立者的角度，客观的来审视项目。