随着项目管理理念的深入和项目管理价值的日益凸现，管理层逐渐认识到项目管理对提高企业经济效益和利润将产生非常巨大的有利影响，越来越多的企业以项目为单元进行企业的战略分解与任务执行。中小企业，又称中小型企业或中小企，它是与所处行业的大企业相比在人员规模、资产规模与经营规模上都比较小的经济单位。此类企业通常可由单个人或少数人提供资金组成，其雇用人数与营业额皆不大，因此在经营上多半是由业主直接管理，受外界干涉较少。在中小企业内部，不同阶段的PMO有着不同的管理任务和职责。
第一阶段，提出概念，成立组织
万事开头难，很多组织结构的改革由于面临着权力的重新分配而困难重重。如果我们一开始就要建立一个全面管理项目的PMO，恐怕会遭到大家的一致反对。而且也没有那么多的合格的项目经理来让大家信服。所以，应该低调开始，提出建立PMO的概念，把PMO建立起来再说。此时的PMO，不干涉任何项目，也不需要增加人员，而使用现有人员兼职。这样，阻力会非常小，那此时的PMO，又有什么用呢?
下发给各部门，所有的对外文档，在交付客户的同时，都要由PMO存底备份，这样，会对以后规范项目流程打下坚实的基础。
财务比较宽松的公司，可以请专业的讲师对目前实际担任项目经理工作的人员进行培训，财务相对紧张的公司，可以找本企业项目管理实际经验丰富，理论也较强的员工对其他人进行培训，这样，可以提高全体的项目管理水平，同时，为PMO下一步发展在思想上铺平道路。
注意，此时仅仅是核算，而不是对项目进行考核，对项目考核可能每个公司都有考核方案，不要随便改变，这里，仅仅是对项目真正的成本和收益进行核算，总结出核算办法。 通过这个阶段的PMO运作，至少可以产生几个方面的影响，文档齐全并且不怕人走把知识也带走，大家的项目管理水平有了提高，总经理能够了解到项目的成本和效益。
这阶段的PMO，经理最好由总经理或总工担任，人员可以抽调原有的行政人员负责文档收发、保存等工作，抽调项目管理水平较高的人员进行模版制作，培训，成本核算等工作。此时，PMO虽然已是正式机构，但没有正式人员，也无所谓办公场所，条件简陋，但可以让大家感觉到他对公司的项目起到了一定的作用。容易获得大家的支持和认可。有些规模较小的公司做到这一步其实就可以了。
第二阶段，建立项目管理流程，监控及辅助项目进行
有了第一阶段的基础，PMO就可以进入第二阶段。这时，应该建立相应的办公场所，固定部分办公人员，由于中小型企业中熟悉项目管理的人员较少，而且往往都担任着重要职务，例如技术部经理或市场部经理等，或者在管理着比较重要的项目，所以，此时不能将他们变为PMO的固定人员，而应该让他们继续兼职但实际是PMO的核心人员。
在这一阶段，PMO的主要职能包括以下几个方面：
1、规范项目管理的流程，在总结众多项目的基础上，提出适合自己公司的项目管理流程，下发给各部门，但此时，不一定要求强制执行。二是让大家参考流程进行项目管理，同时提出问题及意见。由于文档模版是按流程设置的，所以，在执行过程中，不会与流程有太大的偏差，但同时又有灵活性，便于修改。
2、项目管理工具培训，挑选适合企业的项目管理软件，培训各项目经理，让他们能够使用该软件。可以从单机版过渡到网络版，例如，Pro