作为给经济发展保驾护航、稳定百姓生活与治安的警察一支，张汉卿尤为看重。当时不像后世，警察分为许多门类。由于是新生事物，警察在中国诞生后就一直身兼多职：治安、民政、缉私、交通、消防、武装平叛。特别是武装平叛的职责，让警察队伍拥有一支可观又合法的武装部队。
关内警察的诞生可以追溯到清朝末年黄遵宪在湖南新政时建立的保卫局，首开了中国近代警察的先河。1902年时，袁世凯被慈禧谕令为署理（即代理）直隶总督兼北洋大臣并为庚子事变擦屁股时，由于天津处于西方列强的霸占之下，驻地本应在天津的直隶总督只能呆在保定上任。
上任后的老袁要做的第一件事就是交涉撤销洋人的“都统衙门”及归还天津。因为《辛丑条约》规定清政|府不得在天津租界周围20公里内有中国驻军，这可是洋人玩的一个大花招：不许在天津驻兵，市区内的治安无人维持，租界的外国驻军则可以名正言顺地“维持治安”了。这样即使天津归还清政|府，依然是在洋人的控制之下。
袁世凯的聪明才智在这时充分体现了出来：他从北洋六镇中抽调出服役即将满的3000名老兵，在从山东、上海等地高薪聘请的租界退休的外国警察的强化训练下，一支新的兵种诞生了。这些人原本主浊北洋老兵，有着较高的军事素质和服从精神，很快就掌握了警察的技能和知识。
老袁又派精通外交的唐绍仪和列强交涉，郑重提出：八国的都统衙门一日不撤销，外国军队一日不撤出天津，他就一日不迁往天津，自然，所有的“善后事宜”也就无从办理。为了进一步吞食胜利果实，列强总算妥协了一把，把都统衙门正式交给了清政|府，但表示如果中国政|府不能保障洋人的安，列强的军队还是会再度重来的。
早有准备的袁世凯迅速接收天津。当这支3000人的中国警察整齐地开进天津后，在津的洋人们看得是目瞪口呆，这实在是出乎他们的意料了，中国居然还有警察？开始还以为是用正规军来充数的，但袁世凯很客气地请各国领事、武官到街上考察中国警察后，他们便哑口了。
因为这些中国第一批的巡警们用非常娴熟的手势指挥着街上的交通、或者很有礼貌地盘问路上可疑的行人，充分表现出极高的专业素养，让老外也不得不服。没有理由挑刺了，天津城也就顺利地被收复。这样，天津成为近代中国“巡警”第一个巡逻的地方，也使天津成为当时国治安最好的城市，“有六个月不见窃盗者，西人亦叹服”。
效果显著，于是慈禧太后下了一道谕旨，要求国各地都要效仿袁世凯建立警察制度，于1905年10月8日期清政|府设立巡警部，尚书徐世昌，侍郎赵秉钧。从这个意义上说，袁世凯在中国现代警察成立这件事情上是有眼光、有功劳的。
不过虽然政|府主张建立警察制度，京师以及各地虽然也积极尝试探索，但警政建设长时间没能走入正轨，各省有各省的搞法。关外因为先后被日、俄插手，又有胡子作乱，这警察制度建设得更差。再加上张作霖起家后把警察与地方保安之职都交给汤玉麟这个大老粗，能搞出什么名堂来自然可以预见了。
二十七师的老兵油子们，没少插手警察的事务，趁机做些动动民脂民膏的事。特别是汤玉麟兼任司令的省城密探队，集警察、特务的职责于一体，在奉天“一枝独秀”，影响十分恶劣。警察是一个特殊的部门，既有国家暴力机器的一面，也是政|府与百姓之间的一道桥梁。汤玉麟一个大老粗，指望他带的人能有“服务”的意识？考虑到东北胡子传统，没有明目张胆地警匪勾结就已经不错了。
张汉卿的军警改革的第一个举措，便是解散密探队，收回警察权。
军警分离已经在许多场合放过风了，所以在失去警察管理权也是意料中事，只是张汉卿的动作太快了，来不及交待后事。而解散密探队就要了汤玉麟的老命了，他之所以自诩奉天城里张作霖老大、他排第二，除了旅长之位，在政界靠的就是警察和密探队这两样。现在一朝权力尽失，这样搞，人们怎么看老汤在奉天、在张作霖心中的地位！
古往今来改革的最大阻力都是既得利益者，这一点在奉天军警改革之时表现得极为明显。在军队里已经举足轻重的汤玉麟旅长不接受张汉卿的理论，他向张作霖表示反对：“密探队为大哥立下汗马功劳，不能说解散就解散！而且把警察交给别人管，大哥就放心吗？再说我的几百个弟兄的衣食怎么办？他们乱起来可不得了！”