卡罗尔在纽约布鲁克林长大，二战期间曾在驻扎于中国的美国海军陆战队服役，之后从康奈尔大学和哈佛法学院毕业。他曾在美国国税局工作，1957年加入Davis Polk，当时这家律所仍要求所有合伙人必须戴帽子——当时还没有女合伙人。他称自己是自由派，是律所少数几个反对越战的成员之一。他曾一度考虑离开律所，去为反战人士乔治·麦戈文(George McGovern)1972年的总统竞选团队工作。“他会跑到我的办公室说，‘我们一起吃午饭吧’，他想出了各种形容非刑事犯罪的妙词，比如‘二级小罪’等等，”卡罗尔的同事M·卡尔·弗格森(M.Carr Ferguson)说，“我超爱他。”
卡罗尔成为公司法方面的杰出先驱。他帮助推进了开放北海石油开采，发明了一种名为“货币互换”的金融工具，现在已成为每天交易额达2万亿美元的市场。卡罗尔对这项成就轻描淡写。有一本书把发明货币互换归功于他时，他写了一封口气调侃的信解释这件事，说尽管他在伦敦参加了诞生这个想法的头脑风暴会议，但他只不过是“一个参加大部分会议主要是为了蹭吃蹭喝的外国人”。他列举了另外5人，称这项发明应该更多归功于他们。大约在1980年，卡罗尔接到一位客户、麦克德莫特公司的税务总监查尔斯·克劳斯(CharlesKraus)的电话，这家建筑和工程巨头在建造海上石油钻井平台方面的业务正蓬勃发展。在整个1970年代，由于阿拉伯石油禁运和伊朗革命，全球油价高涨，使得该公司从印度尼西亚到沙特阿拉伯的拖船船员和焊接工人都忙得热火朝天。
