フーリエ解析と数論が深い関係にあることは専門家の間では常識。
「フーリエ解析（調和解析）と数論」で検索してみれば
多くの論文や洋書が出てくるはず。
ジョン・テイトの学位論文の標題が
"Fourier analysis in number fields and Hecke's zeta functions"
これは今で言う「岩澤-テイトの方法」に関するもの。

単にガウス和でも2通りのフーリエ変換があるということは
他の分野でも「隠れた対称性」があっても不思議はない。
数学における未解決問題というのは、結局そのような
未知の対称性を探しているのかもしれない。