而在张亚勤调回总部的两年，微软中国的研发汇报系统也出了些问题。李开复在自传《世界因你不同》中如此写道：“在张亚勤调回总部后，微软的研发汇报系统完全紊乱了，所有在中国的研发部门都要分别汇报给总部的18个部门。”
 
回国前，张亚勤没有忘记先向总部要资源：“当时，我就定下战略目标：要在中国建微软亚太研发集团，并要在中国投资盖楼，所以回来前，我和比尔、史蒂夫、公司CFO、董事会都做了很充分的沟通。”
 
“一开始，我们的战略需要得到公司高层、董事会的长期承诺，包括比尔、史蒂夫，这一点相当重要。第二，我们还是要找一些champains（冠军），在微软这么多的产品部门，总有一些是对中国不了解的，还有一些是反感中国的，但总有一些很支持中国，所以要先把这些（支持中国）的人找到，找到之后，和他们先拿到项目。比如工程院刚开始成立时，第一个项目是李开复给的，是做语音识别方面的；另外一个项目是张亚勤给的，是做移动的。另外，要和公司的CFO搞好关系，我们要在北京、上海建园区，就需要CFO支持。”
 
2006年1月，张亚勤回国，他开始忙于将微软亚洲研究院、微软亚洲工程院这些机构以及一些产品研发部门整合成微软中国研发集团，张亚勤出任集团主席，这也是微软除美国之外最大的研发基地。
 
不久，张亚勤还把公司的CFO请到了中国，“我把他带到上海、北京，看地块，告诉他未来我们将在这里建造微软中国的研发基地。看完后他表态说支持我。”
 
2008年5月，微软中国研发集团总部在北京中关村破土动工，仅园区建设投资就超过20亿元人民币。这也是微软第一次在中国置地盖楼。
 
一个月后，在美国西雅图，作为唯一的华人，张亚勤参加了比尔·盖茨的告别晚会。“我代表微软中国的全体同仁和自己向比尔送了两件礼物：一本《比尔在中国》的影集，记录了从1991 年起比尔十多次中国之行的精彩瞬间。我自己则送给比尔中国古代乐器埙篪各一件，取意诗经“伯氏吹埙, 仲氏吹篪”，埙篪相和，如兄弟之睦，如君子之交。”
 
今年1月，鲍尔默在美国宣布，总部设在北京的微软中国研发集团更名为微软亚太研发集团，包括日本、澳州在内的地区研发机构都向北京汇报（印度除外）。鲍尔默还表示：未来三年，将在中国投入10亿美元的研发资金，主要用于人力资源和硬件配套设施。两个月后，微软中国上海科技园区一期工程竣工并正式启用，该园区总投资近7 亿人民币，全部建设完毕可容纳7000 多人。
 
陈永正离开后，张亚勤曾担任过一年多时间的代理CEO，其间有数次直接接手的机会，但他都拒绝了。如今，身兼数职的张亚勤仍表示，研发还是他的兴趣所在，“现在中国研发集团占微软全球的研发比例大概是10%，我希望通过我和团队的共同努力，把这一比例进一步扩大。”