从1995年至2002年的七年时间里，针对李登辉访美制造“两个中国”、公开抛出“两国论”以及陈水扁鼓吹“一边一国论”，党中央领导全国人民，并团结海内外华人华侨，同“台独”分裂势力进行了三场针锋相对的斗争，直接打击了“台独”分裂势力的气焰。

作为这个时期的台办主任，陈云林担子相当沉重。中央台办、国务院台办担负起阻击“台独”分裂势力及其活动的艰巨任务，汇聚各方面力量，坚定地、毫不妥协地同“台独”势力进行坚决的斗争，并取得了一次又一次的胜利。

促成连战、宋楚瑜来访

2005年春夏，中共中央和胡锦涛总书记高瞻远瞩，决定邀请中国国民党主席连战和亲民党主席宋楚瑜来大陆访问，就两党结束过去、面向未来、为中华民族的伟大复兴共同努力交换意见。胡总书记的邀请是通过陈云林接受新华社记者采访的方式发出的。4月1日，连战主席对此正式表示感谢和欣然接受。4月26日，陈云林受中央委托，赶赴南京禄口机场迎接连战一行。那一天艳阳高照，万里无云，连先生出现在飞机舱口的那一刻，全世界的目光在这里聚焦，海峡两岸同胞、海内外华侨、华人以无比兴奋的心情，目睹了连战先生代表的中国国民党跨出的穿越60年历史风云的重要一步。5月5日，陈云林又赴西安机场迎接亲民党主席宋楚瑜一行。事非经过不知难，为了这一刻，陈云林和他的同事们曾经历过无数紧张、充满波折的日日夜夜，终于以善意和诚意，换得了双方的行动。为了这一刻，连战先生、宋楚瑜先生克服种种干扰，展现了对中华民族负责的坚定信念和超人勇气。

4月29日下午和5月12日下午，胡锦涛总书记在北京人民大会堂福建厅先后与连战、宋楚瑜举行正式会谈，发表新闻公报和会谈公报，双方确立了反“台独”、坚持“九二共识”两大共同政治基础，并从政治、经济、文化、军事、对外关系等方面向两岸同胞揭示了和平发展、互利双赢的前景。他们求同存异，为遏制“台独”、维护两岸同胞利益、推动两岸关系向着和平稳定的方向发展所举行的“历史性握手”，奏响了两岸关系以和平发展为主题的新时代序曲。

在此期间，在中央有关部门授权下，陈云林宣布了给予台湾农产品零关税待遇、赠送台湾同胞一对大熊猫、对在大陆高校就读的台湾学生按照大陆学生标准同等收费等惠台政策。在台办主任任上，陈云林推动出台了63项有利于扩大两岸交流、增进两岸同胞利益的政策措施。这些措施，都是在广泛听取台湾各界人士的建设性意见后适时推出的，用行动向台湾民众展现了祖国大陆改善和发展两岸关系的诚意。

在接待连、宋来访的过程中，有许多鲜为人知的感人细节：在有关方面的大力支持下，台办找到了连战的祖父连横恢复中国国籍的户籍薄和宋楚瑜家族的族谱，协助连、宋二人寻找、修缮先人故迹、家族墓地，这一切使他们深受感动。

大陆同胞自发的热情的欢迎场面贯穿了连、宋来访的每场公开活动。连战拜谒中山陵时，现场早已聚集了大批自发前来的南京市民。连战抵达后，现场掌声雷动，中山陵392级台阶两旁都站满了人，场面壮观。本来十分钟就可以走完的路，足足用了半个多小时。在参观夫子庙、夜游秦淮河时，连战沿途受到南京民众的夹道欢迎。一些台湾记者不相信群众都是自发来的，就钻入人群到处询问，最后他们感慨地说：“这样的同胞情谊和感人场面，我们在台湾已经很多年没有见到了。”宋楚瑜是个爱动感情的人，一路上在热烈的氛围下控制着自己的情绪，当他回到湘潭老家祭祖时看到田头、房顶上那么多陌生而又亲切的面孔时，再也忍不住眼中的泪水。

连战和宋楚瑜的出身、经历、性格虽然有着明显不同，但是他们都是台湾岛内在两岸关系上深具前瞻眼光、充满政治勇气的政党领袖，都有深厚的民族情怀和对两岸关系和平发展历史潮流的深刻把握。他们来访后，国共两党构建了交流平台。迄今为止，两岸领导人已举行了三次会晤，举办了五届两岸经贸文化论坛，两党基层组织全方位开展了对口交流。这些成果，有效地遏制了“台独”活动，为日后两岸关系的转折奠定了坚实的基础。