我国高等教育法第五条规定，高等教育的任务就是培养具有创新精神和实践能力的高级专门人才，发展科学技术文化，促进社会主义现代化建设。因此，在高等教育中，就有两方面的工作需要同步进行。
    首先是需要有一支强大的高水平的师资队伍作保证。钱伟长认为师资水平的提高需要科学研究做支撑，教师在做好教学工作的同时必须进行科学研究。对此，钱伟长有一句名言，“你不上课，就不是老师；你不搞科研，就不是好老师。教学是必要的要求，不是充分的要求，充分的要求是科研。科研反映你对本学科清楚不清楚。教学没有科研作为底子，就是一个没有观点的教育，没有灵魂的教育。”只有进行科学研究的人、参加科学创新的人，才有条件理解在当今快速发展的科学战线上的创新精神，从而在教学工作中培养具有创新精神的人。钱伟长经常与教师们座谈，鼓励教师确立远近结合的科研目标。首先是“近”，也就是能解决当前社会生产中碰到的若干紧迫问题。我国目前的情况是有大量这种性质的问题，对此处理得当，有很好的结论，就会对国家有贡献。但这个方面不能一天到晚地做，同时，还必须考虑到“远”，也就是远期科研目标。这样，有远大眼光的人做远期工作，可以使教学科研都搞好，队伍也能成长起来，达到四个现代化的要求。
其次，高等教育培养的人才应该是全面发展的人，其中首要的是要培养爱国精神。他经常给学生们举这样一个例子，一个地质学家为了采取一些标本来进行自己的研究，竟把国宝——北齐四年的石刻“经石峪”给炸掉了，给国家和人民造成了不可估量的损失，自己最终也身陷囹圄。他得知这个消息后，痛心疾首：“你看，一个专家，没有文化，他根本不晓得北齐是什么，这个石刻是多么重要的东西，多么值钱的东西，他不晓得他光学了地质，没有学历史”。因为，精通中国传统文化的他深深明白，这是传统文化遗产中不可再生的稀世珍宝。他认为，大学生的文化素质是必须涵盖社会科学和自然科学两大方面的，专业技术与人文科学素养缺一不可，这样可是使他们更好地理解科学知识，增加创新因素，更重要的是，可以对他们的世界观、人生观和价值观产生重大影响。假如一个受过高等教育的大学生，仅仅为了自己的研究，就罔顾对国家和社会应有的责任感，这样只是考虑自己的小的利益的人，如何能担起跨世纪的重任，更何谈为祖国和人民做贡献？因此，他将能否培养具有爱国主义精神的人才看作是我国高等教育成败的重要标志，认为，“个人、家庭是私，……但大公更重要，要考虑整个民族和国家。如果学生不能很好理解这一条与做到这一条的话，我们的教育是失败的”。为此，钱伟长总是通过各种机会与学生、学生干部见面、谈话、做报告，从各种途径教育学生要热爱祖国，做有志气、有担当的中国人，担负起建设祖国的重任。
    钱伟长著名的“拆四垛墙”思想就是为了培养全面发展的人才而提出的。自20世纪80年代初出任上海工业大学校长后就多次强调要要“拆四垛墙”，即：拆“学校与社会之间的墙”，适应社会的变化，密切“校”“社”关系，为社会服务；拆“各学院与各专业之间的墙”对本科生实行基础教育和通才教育，立足培养宽口径、厚基础的复合型人才；拆“教学与科研之间的墙”，实行“两个中心，一支队伍”，培养同时具有科研与教学能力以及创新能力的教师队伍；拆“教与学之间的墙”，提倡教学相长，培养有敢于探索、敢于战胜自我、具有创新精神、实践能力和自学能力的学生。为此，他不遗余力地推动教学改革，以“敢为天下先”的勇气迈出了我国高等教育史上的“教改的第一步”——实行著名的“学分制、选课制和短学期制”(简称“三制”)，力图引进国际先进教学经验，以创新的教育理念和教改措施，构建培养创新人才的良好学术生态环境，实现“因材施教”的人才培养观。其中的短学期制(即一年三个学期加一个实践学期)在我国是属于首创。当时全世界也只有少数几所大学实行“三学期制”：美国三所(其中的斯坦福大学是目前美国最好的大学)，加拿大三所(其学校状态和当时的上海大学现状差不多)。“用短学期制来克服学生负担过重的问题”是钱伟长先生教育实践中的最大闪光之处，其对创新人才培养的意义是非常深刻的，一方面“考的内容又比从前少，学生可以经常注意自己的学习”，能够减轻学习负担，有利于学生去积极主动地学习，并进行社会调查和到工厂实践；另一方面削减了课程内容，促使教师讲课更为精练，有利于提高教学质量，把着重点转移到培养学生的创新能力上来。
    在20世纪80年代的中国，借鉴和引进短学期制，从传统的两学期制到三学期制的改革，没有过人的胆识与勇气是决不可能实现的。钱伟长却以对国家和人民高度负责的心态和自强不息、坚忍不拔的精神做到了这一点。这些重大改革活跃了学校的学术空气，活跃了学生的学术思想，使上海大学这所我国较早进行实质性合并办学的地方普通高校，一跃成为华东地区规模最大，学科齐全，特色鲜明的综合性大学。学校改革的成功经验在20世纪90年代获得广泛认同。时任国务院副总理的李岚清于1994年、1999年两次来校视察，高度赞扬学校取得的改革与发展成果，给予了充分肯定：“上海大学搞这个是对的”。此后还撰文指出，“20世纪90年代初期,一些地方按优势互补的原则对当地高校的布局结构进行了调整，出现了由多所高校合并重组的南昌大学、上海大学、扬州大学、广西大学、延边大学等合并办学的好典型”，因此，要“认真总结了他们的经验，并加以肯定和推介”。