阿贝尔在美国一住多年，直到一九五五年才返回苏联，小住数月，领受新任务。那时阿贝尔供职的所属机构，已经更名为克格勃。当时，克格勃领导鉴于阿贝尔成绩卓著，拟为他派去助理，以便更好地完成任务，于是，克格勃报务员海翰嫩（Reino Häyhänen）奉命前往。熟料，海翰嫩是个立场极不坚定的侦察员，他经不住美国生活方式的诱惑，在价值观上发生动摇，有时，他甚至不仅不协助阿贝尔完成任务，而且还拖后腿，迟滞工作进展，克格勃很快得知海翰嫩的表现，决定让它返回莫斯科。可是，就在海翰嫩离职返国前夕，突然向美国国家安全机构自首，供出了克格勃搜集美核武器研发的秘密情报计划，还将阿贝尔及其下线全部出卖。
阿贝尔于一九五七年，在纽约“拉塔姆”酒店（ Latham Hotel），被美国联邦调查局便衣逮捕。苏联不仅从此失去了一位优秀国际侦察员，而且赫鲁晓夫那时还对外宣称，说苏联从来不搞国际间谍活动，因此，阿贝尔在美国被捕，对苏联政权而言，不啻于自打耳光。再说阿贝尔被捕后，一直隐瞒其真名费舍尔，坚称他的本名就是阿贝尔，这是他与克格勃临行前的秘密约定，他想以此证明，尽管被捕入狱，也未出卖组织，背叛苏联。跟据后来美国所披露的档案，阿贝尔被捕后，不仅拒绝承认其在美的间谍行为，而且还拒绝了美方间谍机构的利诱。
阿贝尔被捕，是美国反间系统取得的重大成果，美方一直将他关押在单人牢房，严加看管，直到当年，即一九五七年，法庭宣布判处他三十二年监禁之后，才将其押解至亚特兰大联邦监狱看管。入狱服刑后的阿贝尔，不仅钻研数学问题和艺术理论，而且还从事油画创作。苏联前克格勃主席谢米恰斯特内（Владимир Семичастный），曾经透露，阿贝尔所画的肯尼迪肖像，是为这位美国总统的最爱，他向阿贝尔求画，阿贝尔欣然允诺，肯尼迪获赠后十分开心，并将此画悬挂在美国总统椭圆形办公室。
