历史延续下来的养老保险体制，城市与农村、城市内部机关事业单位与企业截然不同，是“双二元结构”体制。改革就是要打破这种“双二元体制”，建立更加公平、可持续、全国统一的养老保险体制。
其一，城市养老保险体制改革。目前，城市养老保险“二元体制”，在养老金来源上，企业和职工要按时缴费，计入养老金个人账户；机关、事业单位和个人均不需要缴费，也没有个人账户。在养老金发放上，企业职工退休后按比例领取，养老金替代率一般在50％—70％不等；机关和事业单位，按参加工作时间确定养老金领取比例，养老金替代率一般在75％—100％不等。本来机关、事业单位与企业之间的工资率就存在着较大差距，养老金替代率又相差很大，造成机关、事业单位与企业之间退休金差距过大，有失社会公平，必须改革。《决定》指出，“坚持社会统筹和个人账户相结合的基本养老保险制度，完善个人账户制度，健全多缴多得激励机制，确保参保人权益，实现基础养老金全国统筹，坚持精算平衡原则。”按照这样的要求破除城市养老保险“二元体制”，企业是进一步改革和完善的问题，而机关和事业单位，则要另起炉灶，建立起符合要求的养老保险体制机制。
不过，需要弄清楚的是：向哪条轨道“并轨”？许多人以为是机关事业单位向企业“并轨”，只需将企业运行的一套养老体制移植到机关事业单位就行了。目前企业的一套养老框架具有参考价值，但是养老金积累分配失衡、个人账户名不符实、激励机制软弱无力等，都需要按照上述要求进行改革。“并轨”是向着符合改革要求、所要建立的新的养老体制并靠。这就牵涉到改革的方向、思路和目标，所要建立的新的养老保险体制“准轨”的框架和实质。
改革所要建立的新的养老保险体制，应是“积累补充型”的养老保险体制。即养老金积累主要由两部分组成：一部分是基本养老保险基金，由个人和所在单位（机关事业单位、企业），按照确定的养老金缴纳比例（缴纳额／原工资）按月定期缴纳。基金全部记入个人账户，为退休后领取养老金的唯一凭证。另一部分是补充养老保险基金，由个人、单位自主决定缴纳等级并按规定等级金额定期缴纳。政策上给予特别优惠，可以实行缴纳养老金部分不缴纳个人所得税，并且保证多交能够累进式多得。设立补充养老保险基金账户，按照个人、单位缴纳比例合理分配领取份额，形成补充养老保险积累机制。参照过去经验并通过精算，合理确定养老金替代率和缴费年限；完善养老金管理和监督体制机制，确保养老金保值、增值。
改革所要建立的积累补充型养老保险体制，与现行“社会统筹＋个人账户”体制既有联系，又有较大区别。联系在于，将个人养老金账户升级为个人养老基金积累账户，成为退休后领取养老金的唯一凭证。区别在于，目前国家机关、事业单位没有个人养老金账户，要制定个人养老金征缴的细则，建立起新的个人养老基金账户；企业的个人账户也有一定的虚数，要适度做实养老金个人账户空账。最终实现养老保险基金积累余额与养老金给付的直接挂钩和对接，保证养老基金的可持续运行。
其二，农村养老保险体制改革。建立全国统一的积累补充型养老保险新体制，农村养老保险无疑要纳入其中。2009年开始的新型农村养老保险试点迅速扩大，目前已经覆盖全国，为实施新的体制改革打下了基础。有鉴于此，“新农保”升级改革应是重点。依据由辽宁大学领导牵头对辽宁、北京、江苏、安徽、四川、甘肃等20个省区市农民养老经济条件及养老状况的调查，参保人员的满意度比较高。比较满意占39．0％；一般占30．0％；非常满意占17．0％。三项合计，占到86．0％，居绝大多数。非常不满意仅占2．0％，不太满意占9．0％，两项合计占11．0％。这说明广大农民群众对这件新鲜事物是拥护的、欢迎的。