日本在加拿大第一个公使是亲王德川家正，从1929年到1934年。加拿大在日本第一个公使是赫伯特·迪斯·马勒（英语：Herbert Meredith Marler），从1929年到1936年。
两国的外交关系在1941年太平洋战争开始之后便中断。在战争期间，加拿大在通过战时措施法（英语：War Measures Act）后开始为了“国家安全”的目的而囚禁日裔加拿大人。日裔加拿大人被剥夺了众多权利，包括工作与私有财产的权利。
两国间的直接战役发生在太平洋战争中，日本和加拿大军队在珍珠港事件的8小时后在香港保卫战中正式交战。该战役最终导致香港被日本占领。
广岛与长崎yuanzidan爆炸之后，1946年加拿大代表在日本向盟军无条件投降后返回东京。1951年日本也在渥太华开设外交事务处，准备未来恢复外交关系。日加关系的正式全面恢复是在旧金山和约签订后的1952年。
加拿大驻日公使馆升级为大使馆，罗伯特·梅休（英语：Robert Mayhew）也出任第二次世界大战后第一任加拿大驻日大使。日本也在渥太华开设大使馆，井口贞夫成为第一任日本驻加拿大大使。
加拿大以各种方式协助日本返回国际社会。由于加拿大的倡议，日本获接纳为科伦坡计划的会员国，并参与1954年在渥太华召开的会议，同年间两国也签署了关于商业的双边协议。加拿大支持日本加入关税及贸易总协定（GATT），当日本加入GATT时，加拿大是少数给予其最惠国地位的国家之一。
日本以加拿大作为后盾，在1956年提名加入联合国，并于同年成功加入。同样地在1963年，加拿大也强烈支持日本加入经济合作与发展组织（OPEC），日本并于次年成功加入OPEC。
象征着日加关系的正式恢复，其中最值得关注的事件是当时皇太子明仁亲王在1953年拜访加拿大。次年，加拿大总理路易·圣洛朗和日本首相吉田茂互相进行国是访问。
自从1950年代起，日本与加拿大缔结了一系列关于渔业、贸易、航空、邮政、原子能与文化的双边协定。日本首相与加拿大总理也互相进行了多次访问。在1960年代后，日本首相岸信介、池田勇人、田中角栄、大平正芳、铃木善幸、中曾根康弘、竹下登、海部俊树、村山富市、桥本龙太郎、小渊惠三、森喜朗、小泉纯一郎皆有拜访加拿大。而加拿大总理约翰·迪芬贝克、皮埃尔·特鲁多、查尔斯·约瑟夫·克拉克、马丁·布赖恩·马尔罗尼、金·坎贝尔、让·克雷蒂安、保罗·马丁皆有拜访日本。
在此期间，加拿大总理马尔罗尼在下议院对在第二次世界大战期间针对日裔加拿大人的不公平待遇而道歉。作为对日裔加拿大人囚禁的回应，1988年总理马尔罗尼和日裔加拿大人全国协会zhuxi亚特·美纪（Art Miki）签署了补救协议以解决过去遗留的历史问题。
在2008年，总理哈珀在东京皇宫受接待，标志着加拿大和日本之间的正式外交关系80周年。在2009年7月，明仁天皇与皇后美智子对加拿大进行了国是访问。
同韩国的关系