上海文庙建筑采用群体组合方式，简称建筑群体。它是中国古代建筑群的典范之一。
上海文庙
在整体布局上，上海文庙严格按照两条纵轴线展开。其中一条为祭祀线，包括棂星门、泮池、大成门、大成殿、崇圣祠。而大成殿前东、西两庑殿，则在纵轴线两边，以衬托大成殿的恢宏壮丽。另一条为学宫线，内有学门、仪门、明伦堂、尊经阁。而明伦堂前东、西两侧建有听雨轩和杏廊，它们都在纵轴线两旁作明伦堂的陪衬。此外，还有一条庙园线，在这条线上建有魁星阁、天光云影池和儒学署。在文庙东北部还有一条上海最大的街坊式图书二渠道（民营）批发市场——上海文庙书刊交易市场；逢星期日在文庙大成殿前庭院中开设临时搭建的“上海文庙星期日旧书集市”，成为市民淘书的乐园。这个书刊市场和旧书集市，在当今海内外文庙或孔庙中都是没有的。
上海文庙旧书集市
上海文庙建筑群体中的主要建筑有6处：大成殿、明伦堂、尊经阁、魁星阁、儒学署和崇圣祠。它们都是儒家文化的载体和象征。换句话说，儒家文化精神贯穿于文庙建筑，是文庙建筑的生命和灵魂。反之，儒家文化精神又通过富有表现力的建筑语言和人文景观展示出来。这也就是上海文庙建筑艺术特色。
大成殿是上海文庙的主体建筑，面积为260平方米，高14米，面阔三间，是由一个矩形和一个大三角形组成，使人感到稳重、端庄，而歇山重檐式的大屋顶又易使人感到沉重和压抑，幸好大成殿屋脊生动的弧线和两边的飞檐翘角却如振翅欲飞的大鹏，化解了这份沉重和压抑，尤其是屋顶上装饰着奔走跳跃的狻猊、辟邪等动态十足的小动物，使庄严肃穆的大成殿又充满了生命的气息，强烈地表现出东方建筑艺术的个性魅力。
文庙主体建筑大成殿
四个砖刻大字“海滨邹鲁”，镶嵌于大成殿屋脊正中，十分显眼。此四字是由清代禁烟大官林则徐所书，寓意如申城的孔子学府。在大成殿正面的双重飞檐中间竖有一块上书“大成殿”三字的涂金匾额，为清雍正皇帝墨迹。大成殿檐下悬有一块上书“万世师表”的金色大匾，为清康熙皇帝墨迹。
大成殿内正中靠北墙处，置有用香樟木雕成的孔子涂金像等设施，表达了历代对孔子的尊敬和缅怀。殿中四根大柱上都悬有抱柱联，在孔子神龛前一副为“气备四时与天地鬼神日月合其德，教垂万世继尧舜禹汤文武作之师”；第二副为“觉世牖民诗书易象春秋永垂道法，出类拔萃河海泰山麟凤莫喻圣人。”这两副楹联都是颂扬孔子的功绩和为人的高尚。
此殿的东、北、西三面壁间镶嵌有沪上著名书法家刘小晴书写的楷书《论语》全文，刻于青石上的石碑。这在全球孔庙中是个首创。在大殿梁间置有三块金字大匾：一为清代道光帝墨迹：“圣集大成”，取自《孟子》：“孔子之谓集大成也”；二为“圣协时中”，语出《中庸》：“君子之中庸也，君子而时中”句，也为清道光帝墨迹；三为“德齐帱载”，选自《左传》：“如天之无不帱也，如地之无不载也”句，字为清咸丰帝手迹。
在孔子神龛前东、西两侧，还置有钟、鼓等祭祀用品，其中以在文庙出土的一套青铜编钟最为名贵。这套编钟铸于清同治九年（1870），由上海江南制造局承造，外形呈圆桶式，钟纽为半圆形，大异于北方编钟的外形呈扁圆形，钟纽为直柄式。敲击时发出的五种音阶，准确而又亮丽。据说，这套完整的编钟在抗日战争时期，文庙管理者为防日侵略军掠去制造军火而将它埋藏于地下。1982年，在文庙大成殿月台前挖防空洞时发现并出土，今成为上海文庙的镇庙之宝。
孔子塑像
大成殿前月台（又称石露台）上，置有孔子立式佩剑青铜像，高1.80米，大理石基座正面镌刻有周谷城教授的题词：“先哲，伟大的教育家孔子铜像”。月台东南部置有一口大成钟，钟高1.80米，直径1.10米，重达1.50吨。此钟工艺精湛，图案生动，钟纽为一对首尾相缠的蒲牢（相传龙生九子，蒲牢为九子名之一），呈现高吼之状；钟肩铸有12条春秋龙纹围绕，下沿铸有4对相向的双龙戏珠；钟灵处镶嵌有上海市花白玉兰图案；钟腰上下两圈共铸有24辆顺向排列的孔子出游马车图；钟镇上直铸“大成钟”三个大字，其相向北面铸有铭文，两侧还铸有135名捐资铸钟者名单。撞击此钟时发出的声音洪亮、圆润、悠扬、祥和，声波可持续3分钟之久，为各地孔庙钟声之最。
文庙里的大钟
东、西庑殿在大成殿前两侧，为大成殿的配殿，硬山式建筑比较低矮。昔为祭祀孔子三千弟子中七十二贤的地方，今在其壁间镶嵌有300副明、清文人自撰自书的楹联碑刻。其中有清康熙、雍正、乾隆皇帝的楹联，有民族英雄史可法、林则徐的手迹，也有八大山人、扬州八怪、江南才子的墨迹，具有很高的文物价值和艺术价值，被誉为“联语大观”。
明伦堂为上海文庙学宫线上的主要建筑之一。堂为古代宫室建筑之一，用于进行讲学、演讲的场所，是儒家思想文化的宣扬之地。堂名“明伦”，语出《孟子》：“学则三代共之，皆所以明人伦也。”人伦是指父子有亲，君臣有义，夫妇有制，长幼有序，朋友有信这五伦。
上海文庙的明伦堂
明伦堂为古代饱学之士讲述“四书”（《大学》《中庸》《论语》《孟子》）、“五经”（《诗经》《书经》《礼经》《周易》《春秋》）之地。在明伦堂屋脊上置有“诗礼垂训”四个大篆书。
明伦堂曾做过小刀会起义军的总指挥部，又做过“国民救亡歌咏协会”成立大会会场，是具有革命纪念意义的地方。
尊经阁是一座二层楼的阁式建筑，宽敞、高爽。原是贮存六经、御制诸书及百家子史之地。这里曾是上海特别市最早的一家市立流通图书馆。其上层为重要贵宾接待室，内悬一幅由著名人物画大家戴敦邦创作的《孔子问道》图，描写孔子向老子虚心求教的场面。孔子对老子十分尊敬，曰：“鸟，吾知其能飞；鱼，吾知其能游；……至于龙，吾不能知其乘风云而上天。吾今日见老子，其犹龙邪！”老子也一再告诫孔子说：“君子得其时则驾，不得其时则蓬累而行”，暗示孔子的政治主张在当时是难以行得通的。这便是此画的潜在含意。
上海文庙尊经阁
此阁前面有个宣廊，廊内置有“上海县籍进士名录碑”，上面刻有自元朝至清末荣登进士的279人姓名、考中日期和被任命官职。其中有元至正四年（1344）甲申科进士秦裕伯，官至福建省郎中，死后被明朝开国皇帝朱元璋敕封为上海县城隍老爷；另一是徐光启，官至礼部尚书兼东阁大学士、文渊阁大学士，他将西方科学技术引进中国，著有《农政全书》等科学著作。
魁星阁是上海文庙古建筑群中的建筑艺术珍品，共三层，高约20米，外观呈六角型，阁内六根金丝楠木柱，自底层直通阁顶却没有一根铁钉。从前登临此阁可以俯瞰老城厢全景。此阁始建于清雍正八年（1730），原供奉奎星神。
上海文庙魁星阁
据古籍记载，奎星乃二十八宿之一，为西方白虎之首，有星十六颗，“屈曲相钩，似文字之画”。故有奎主文章之说，后人遂将奎星演化为文官之首，说孔子乃是天上奎星，所以文庙中必建奎星阁。至于奎与魁通用，原出于顾炎武著的《日知录》：“神像不能象奎，而改奎为魁”。魁星神头部像鬼，一脚向后翘起，如魁字中的大弯勾；一手捧斗，如魁字中的斗字，一手拿一株如椽朱笔，意在用笔点中应试人的姓名。现阁内悬有两幅魁星图，供人瞻仰。
儒学署在风光秀美的天光云影池北侧，为一幢两层小楼。旧时，此署为掌管文庙祭祀和生员教育的场所，其官员称教谕。上海县学首任教谕为上海镇学创办人、教育家唐时措。今天，此署底楼为历代茶具陈列室，二楼为文庙会议室。署前右侧有听雨轩，三面临池，边置吴王靠，中置石桌石凳，供人憩息，小巧玲珑，清幽雅致。轩名取自古诗句：“秋阴不散霜正晚，留得枯荷听雨声”。十分贴切。
儒学署在风光秀美的天光云影池畔
崇圣祠在大成殿之后，为一座四合院式的悬山式建筑。前为门墙，中为庭院，东、西两厢，后为大厅及耳房，为供奉孔子父母等五代祖宗的祠堂。今作为庙办公之用。
