复旦大学历史地理研究所教授葛剑雄说：“上海是西方列强进入中国的一个桥头堡，也是中国各种势力要寻求得到国外的影响或者支持的这样一个基地，所以这样独特的地位就决定了革命党想要取得革命的胜利，就充分利用上海包括在上海制造舆论，培养干部，扩大影响，以及通过上海寻求国际上的影响和支持。实际上西方列强对中国的影响很多都是通过上海进行的，曾经把上海称之为中国现代化的一个实验室。辛亥前后，蔡元培之所以很多活动在上海进行，就是因为上海能够客观上推行他的理念，实践他的理念，影响也比较大。”

1902年4月，蔡元培与蒋观云、章太炎等创办了中国教育会，他本人担任会长。同年11月下旬，上海南洋公学因压制学生思想言论自由，发生了200多名学生的退学风波。

蔡建国说：“当时南洋公学有一个教员姓郭，郭教员禁止学生读新书，引起了学生的不满。有一次，一个学生误置墨水瓶，把墨水瓶放在了郭老师的位置上，这个学生被郭教员开除，引起了大家的抗议，大家相约退学，有人认为这件事情是蔡元培平时在南洋公学提倡平等权力、民权、平等权利的结果。”

出于对当局的不满，蔡元培愤然退出了南洋公学，着手创办爱国学社、爱国女校。在中国教育会、爱国学社和蔡元培的革命活动中，最引人注目的，影响也最大的，是著名的“张园演说”。张园，是无锡人张叔和的花园，位于现在南京西路泰兴路附近，不收门票，是大众休息之处，也是当年上海开各种集会的场所。

1903年春，拒俄拒法运动兴起，中国教育会和爱国学社在张园集会声援这一运动。蔡元培发表演说指出：“上海应设国民公会以议论国事，如东三省、广西等重要问题。”张园会后，中国教育会和爱国学社就组织了义勇队，蔡元培也和师生们一起同受军训。在后来的一幅照片中，蔡元培剪短头发，身穿军装和爱国学社的学生一起参加军训。

蔡元培非常注重提倡男女平等和妇女教育。1900年，蔡元培原配妻子王昭去世，在面对续弦的问题上，他提出了五点要求。

第一，女子不缠足；第二，女子需识字；第三，男子不娶妾；第四，男子死后女子改嫁；第五，夫妻不合可离婚。条件提出之后，媒人们个个退避三舍。

他在爱国女校开学典礼演说中阐述办学的宗旨时就强调：“无论其为男为女，均应提倡，而以教育为根本。故女校有爱国女校，男校有爱国学社。”

爱国女校除了培养女子革命人才以外，还成为蔡元培和各地来上海的革命人士接洽和联络的机关。1904年，蔡元培与同乡陶成章等商定，将原来的“军国民教育会暗杀团”改组扩大为光复会，他当选了光复会会长，并吸收徐锡麟、秋瑾为光复会骨干。1905年10月，孙中山接见并委任蔡元培为同盟会上海分会负责人。

在多年从事革命活动中，蔡元培逐渐意识到：对知识分子来说，必须用新的思想、新的知识武装自己。1907年5月，蔡元培前往德国莱比锡大学留学，并研究心理学、美学、哲学诸学科知识。

葛剑雄告诉记者，“当时蔡元培年纪已经很大了，还到外国去留学，学习新知识，而且他有很多教育观念是很超前的。他不是把教育仅仅看成是学习知识，传授知识，其中也包括人格、美学以及各方面的培养，他看到好的就带回来。”

辛亥革命爆发后，蔡元培从陈其美处得到消息，马上取道西伯利亚回国。随着中华民国临时政府在南京成立，蔡元培就任南京临时政府教育总长。次年1月19日，蔡元培颁布了《普通教育暂行办法》，强调要把中学和大学建设成健全国民的学校，并主持制定了中国史上最初的《大学令》和《中学令》。