浓厚的欧洲建筑风格随着第一批殖民船队的到来深深扎根于悉尼，并成为了这座城市占据主导风格的建筑形式。而悉尼建筑与欧洲大陆建筑最大的不同在于对于本地材料的需求。在远离当时世界中心的澳洲大陆，“就地取材”成为了打造新殖民地的基础。由于近海岸的地址构成并不利于农耕，殖民者们转而在岸边采石，用于在切割打磨之后建造房屋。于是，悉尼最早的砂石建筑群就拔地而起。作为全澳洲最早的定居点，这里被命名为“岩石区”（The Rocks）。

由于没有建筑师、建造者以及有用的建造工具，悉尼最早期的建筑群经常需要大规模的维修；另外因为早期殖民社会的不稳定和资源的匮乏，那时的悉尼也没有恰当的规划方案，城市布局几乎没有合理性可言。但这座城市在1810年随着Macquarie州长的上任走上了正轨，他对殖民地的全局进行了系统的调查，并发现悉尼的建筑群处于极度破败的状态。因此，他颁布了最早期的建筑规范，要求新建成的建筑必须达到一定的标准，也就是从那时开始，新建筑在开建之前必须由政府通过设计和建造计划。这一时期的建筑风格以哥特风格为主，最知名的建筑包括海德公园的St James Church以及Windsor的St Matthews教堂。

St James Church

St Matthew's

人口增长和自由贸易的发展让悉尼在接下来的20年里迎来了繁荣的经济，也迎来了可能是澳洲历史上第一次“地产热潮”（Housing Boom），大批仿照英国本土建筑风格的房屋被建起。由于早期的澳洲居民强烈渴望与英国本土更紧密的联系，照搬英国建筑风格也成了那时澳洲建筑在设计上的唯一目标，全然不顾英国与澳洲截然不同的气候。倒是不少低成本的建筑因为经济原因无法照搬英国本土的风格，反而更好地通过因地制宜的设计让建筑用户获得了更优异的使用体验。St Andrews Cathedral和Elizabeth Bay House都建于这一时期。

St Andrews Cathedral

Elizabeth Bay House

随着城市财富的积累，悉尼的建筑愈发强调外形上的气派。从1860年代开始，早期殖民地时期遗留下来的简约建筑风格慢慢被维多利亚风格的建筑所取代，最知名的例子要数悉尼大学的四角楼（Quadrangle Building）。另外，the Australian Museum，the General Post Office等地标建筑也都建于这一时期。

悉尼的建筑在经历了几乎一个世纪的繁荣发展之后，遭遇了1930年代的大萧条和紧随其后的2战。资源和劳动力的不足让全澳洲都面临了严重的住房供不应求的情况，银行要求购房者支付50%首付的规定则让情况变得更糟。这些因素让澳洲战后的建筑成本足足上升了600%！面临这样的困境，澳洲的建筑师们决定回归源头，摒弃奢华和气派，将简约风格和实用性作为建筑设计的主旨。这个时间段也见证了一座定义澳洲的建筑物的诞生：悉尼歌剧院。

进入1980年代之后，越来越多的摩天大楼从悉尼市中心拔地而起，尤其是如今仍是悉尼最高建筑的悉尼塔（Sydney Tower）。而在住宅楼的设计上，悉尼也开始了更多地向现代主义和其他现代设计风格的摸索和学习。在多元文化上的发展、澳洲本地设计师的飞速成长，正在让这座城市见证越来越多的建筑杰作的诞生。