黎曼1859年在他的论文中提及了这个著名的猜想，但它并非该论文的中心目的，他也没有试图给出证明。黎曼知道ζ函数的不平凡零点对称地分布在直线s = ½ it上，以及他知道它所有的不平凡零点一定位于区域0 ≤ Re(s) ≤ 1中。 1896年，雅克·阿达马和Charles Jean de la Vallée-Poussin分别独立地证明了在直线Re(s) = 1上没有零点。连同了黎曼对于不非凡零点已经证明了的其他特性，这显示了所有不平凡零点一定处于区域0 < Re(s) < 1上。这是素数定理第一个完整证明中很关键的一步。 1900年，大卫·希尔伯特将黎曼猜想包括在他著名的23条问题中，与哥德巴赫猜想一起组成了希尔伯特名单上的第8号问题。
同时黎曼猜想也是希尔伯特问题中唯一一个被收入克雷数学研究所的千禧年大奖数学难题的。希尔伯特曾说，如果他在沉睡1000年后醒来，他将问的第一个问题便是：黎曼猜想得到证明了吗？[1] 1914年，高德菲·哈罗德·哈代证明了有无限个零点在直线Re(s) = ½上。然而仍然有可能有无限个不平凡零点位于其它地方（而且有可能是最主要的零点）。后来哈代与约翰·恩瑟·李特尔伍德在1921年及塞尔伯格在1942年的工作（临界线定理）也就是计算零点在临界线Re(s) = ½上的平均密度。 近年来的工作主要集中于清楚的计算大量零点的位置（希望借此能找到一个反例）以及对处于临界线以外零点数目的比例置一上界（希望能把上界降至零）。
