随着前进号缓慢地移动，日子一天一天地在过去，冬去夏来，已过了一年多了，在第二个冬天到来时，南森向船员们提出这样一个想法，由他带一个助手离开前进号，用冰屐、滑雪鞋、狗拉雪橇和兽皮船从冰上直奔北极，然后再从北极向南走，那样也和前进号的目的一样，只不过不再是被动地靠洋流，而是主动地靠人自己，他还向船员们说明了原因：他曾放下长达1000英的测深线，然而未能触到北冰洋的海底，这样的话，北冰洋就要比估计的深多了，那实际洋流也要比原先指望的弱得多，而风的影响则较大，并且他更为前进号的速度纳闷，虽然船的航向一直朝着西北，但船的移动时快时慢，时停时续，甚至倒退向南走，这样一来，原来估计的2～5年很有可能拖长到7年或者8年，而且船最后还可能偏离北极。南森为此忐忑不安，曾在日记中流露：“这样无忧无虑地生活，消极被动的生存，使我感到气憋，唉！边灵魂也会冻结，我宁愿选择去拼搏，去冒险，即使只给我一天片刻。”于是他有了这么一个大胆的计划。
他的计划得到大家的赞同，好几个人自愿要求陪同南森前进，南森最后只选定了一个预备役海军军官约翰逊做助手。南森决定在2、3月份出发，因为上一年他曾观察过，这时冰面最平坦，最适于狗拉雪橇行走，而到了5月，冰原将开始融化为一块块浮冰，前进将会受阻。
1895年3月14日，南森和约翰逊离开前进号，踏上征程，在临行前，南森作了认真细致的准备，他们先到冰上试着生活一阵，试用了各种鞋具、衣服、食物、帐篷和睡袋，检查了雪橇和拉雪橇的狗，尽量做到万无一失。在他们离开前进号时，距离北极只有350英里，这在历史上还是一个记录，以前从未有一只船这样靠近过北极呢。
南森和约翰逊在一望无际、似乎可以一直通到北极的平坦的冰原上疾驰。最初几天，他们往往每天可以前进14多英里，如果能保持这个速度，不久即可大功告成。然而好景不长，他们很快就陷入了由无数冰脊组成的迷宫：一堆堆冰砾布满了冰脊之间的通道，雪橇经常翻车，因而不得不花大力气把它们扶起来，甚至有时还要抬着它们翻越冰包，狗有时拉着沉重的雪橇翻越高耸的冰脊显得特别吃力，他们只得从雪橇上下来帮狗一起拉，在这连绵不断的冰石流中前进，连神话中的巨人也会被累垮，他们经常在滑行中睡着，脑袋一沉，猛地撞在自己的滑雪鞋上才被惊醒，他们根本都没时间去欣赏这白色大理石的星球呈现的难以言状的诡异的美了。
他们汗湿的衣服在晚上便被冻凝成铁衣甲胄，举手挪步，毕剥作声；南森说如果能把衣服脱下来放在冰上，一定也能笔挺挺地站着不倒。他的腕部甚至被冻硬的袖口磨出了深深的血口子。这段时间里，白天融化成的一潭潭冰水一到夜间便结成冰，并且冰情还有越来越坏的趋势，南森又开始疑惑了，他们似乎没有向北极靠近，而只是在原地打转，虽然他们每天都向前跑了几英里，但到晚上对照星座一测量，发现仍停留在昨晚的位置，原来他们像是在踩踏一只巨大的转磨，他们拚命向北跑，而浮冰却向南移，两者一抵消，他们便只得在原地不动了，这个一向善于利用自然力的科学家，终于发现了自然力的伟大和人类的渺小了。
于是他们再度改变自己的计划，决定掉头向南退却而放弃了向北极挺进的想法，这个时候，他们已在北纬86°14′，从离开“前进号”起的26天内，他们一共走了124英里，离北极只差224英里了，这也是前人从未达到过的一个记录，带着遗憾，他们于4月9日掉头朝南面大约400英里的法兰士——约瑟夫地群岛出发，南森回头向北极方向深情地看了一眼，嘴里喃喃地自言自语：“不知什么时候还能再来一趟。”他的愿望被后来美国一个探险家皮尔里实现了，但那已经是十几年后的事了。
在回去的路途上，他们仍得与同样的冰原打交道了，每当他们看到面前的冰原是一个杂陈着无数冰脊、冰巷、冰砾和巨冰块的走不通的迷宫时，他们的心都凉了，认为看到的是无数突然冻了的巨浪，看起来除非是插上翅膀才可以前进，值得庆幸的是最后总还是能找到一条路。时间进入5、6月，北极区短暂的春天开始了，随着午夜的太阳在天上越升越高，气温也越来越高，可是麻烦却越来越多，覆盖在冰上的新雪由于气温升高都化为深可及膝的雪浆，使行进更加艰难。在缓慢移动的冰块之间，有时会出现数英里长的裂缝，继之又冻结成冰，它的厚度不足以支持雪橇的重量，却能把兽皮船割成碎片，他们只有望之兴叹，无可奈何地绕道而行。食物逐渐缺乏了，饿狗开始啃吃所有能吃的东西，南森只好把一些弱狗杀掉，给其余的狗充饥，直到只剩最后3头，不久出现了一些好的征兆，有时可以在冰上发现北极熊的足迹，甚至还可以打死一头北极熊来补充食物储备。
入夏以后，海鸥和其他水禽更是经常地在头顶翱翔，这给南森和约翰逊带来了福音——陆地就在不远了。但由于他们两人在行进时忘了给手表上发条，又没有其他掌握正确时间的方法，也无法计算出自己的位置，再加上他们的位置又很接近磁北极，指南针的偏差很大，以至于他们不知道自己的位置，也找不到本来只有400英里距离的目的地，直到7月24日，即在他们向南走了3个半月后，才在远处地平线上看到一个海岛。这就是他们所要寻找的法兰士——约瑟夫地群岛，到8月7日，他们才从冰原上到达海边，他们改乘兽皮船驶向这个海岛，9月登上这个海岛。他们在各个海岛上进行勘测，收集地质标本；当他们踩着坚实的岩石，看到岩缝中盛开着罂粟花，心里不知有多高兴，他们忽然觉得，大地是那么的宝贵，在再坚实的冰块上，也会感到不踏实，他们不禁暗暗替前进号上的伙伴们担心。
他们不得不在这个荒无人烟的岛上度过他们在北极区的第三个冬天。他们两个在岛上避风的地方盖了一座石砌的小房子，用苔藓堵塞壁缝，用不透水的厚海豹皮做屋顶。他们又去捕猎海豹，用海豹皮做遮风御寒的衣料，用海豹的膏油做燃料，他们还去捕猎北极熊，解决了一冬的食物和用作垫褥的熊皮，他们就在这里安心地度过了好几个月，没有风时，他们就出去打猎，在雪地上散步，或者欣赏北极光和流星的精彩表演，而当狂风怒号，大雪纷飞时，他们就呆在小房里，偎着油炉而睡，由于整日无所事事，而吃的尽是营养丰富的熊肉汤和煎熊排，结果他们都长胖了，南森发现自己的体重增加了23磅，而约翰逊则增加了13磅多，慢慢地冬尽春来，1896年的2月25日，他们看到了第一批候鸟从南边飞来，都欣喜若狂，在经过漫长的寂寞的等待之后，终于迎来了“生活的第一声问候”。他们高呼：“吉祥的鸟儿啊，欢迎你们！”