在父亲的影响下，洛克菲勒很小就表现出了自己的商业才能。七八岁时，他在外面看到树林里面有一群小火鸡，便把它们弄回家，精心养大，然后把它们卖掉，做成了第一单生意。这时的他就有了一个记账本，详细地记录着自己都参加了哪些劳动，以此作为向父亲要求报酬的依据。12岁开始，他用积攒起来的钱作为资本，贷给邻居，从中收取一定的利息。
洛克菲勒14岁的时候，经常会在放学后到码头上闲逛，看商贩做生意，学习他们讨价还价的技巧和做生意的窍门。
1855年，离高中毕业还有两个月的时候，因为父亲的原因，学习成绩不错的洛克菲勒不得不放弃学业。在随后的3个月里，他听从了父亲的建议，到克利夫兰的商业学校学习了簿记和一些商业贸易的基本知识。这使洛克菲勒受益匪浅，成为其人生中的宝贵财富。
他在克利夫兰的街上跑了几个星期，终于在伊特-塔特尔公司做了一名复式簿记员，每周工资是4美元。
在休伊特-塔特尔公司，洛克菲勒工作兢兢业业，认真刻苦，而且练就了对数字敏锐的洞察力，他的账簿做得条理清楚，毫无差错，让老板另眼相看。洛克菲勒除了做好本职工作外，还经常为公司的经营出谋划策。有一次，公司高价购进一批大理石，但是，当货物运到后，打开包装时发现石材上竟有大颗的杂色，影响使用和销售。面对即将蒙受的经济损失，公司老板垂头丧气，无计可施。这时，洛克菲勒给老板提出建议，把责任归结到货物运输上，向负责此次运输的3家运输公司分别提出赔偿要求。这样一来，公司得到的赔款比原来高出2倍，不赔反赚。洛克菲勒的才能颇得老板赏识，加薪也就在情理之中了。
第二年，洛克菲勒仍然做原来的工作，但月薪已经涨到25美元。洛克菲勒并没有满足这样的待遇，而是抓紧时间学习各方面业务及与公司业务相关的文书工作，为以后的发展做积极有效的准备。
休伊特-塔特尔公司是一家相对较大的公司，业务范围广且多，经常进行各种各样的谈判和交易。同时，老板和各级主管都是在办公室里面讨论公司事务，制订工作计划，做出经营决策，而洛克菲勒则会一直在现场旁听，并不时地参与其中。这是一个难得而且重要的学习机会，也为他以后的发展打下了良好的基础。
洛克菲勒的直接上司是公司的总簿记员，第一个财政年度结束就离开了公司，洛克菲勒因为表现优秀，受命接任了文书和簿记工作，年薪500美元。
由于在公司处理递送账单、收租金、处理索赔之类的工作，使洛克菲勒有机会接触到各种各样的人，也就促使他必须学会怎样和不同阶层的人打交道，并使其与公司保持良好的关系。正如他回忆所说：“在我的印象中，我从来没有和承运人有过任何纠纷。”
在公司工作的第三年，19岁的洛克菲勒做了一件令全公司轰动的事情。一个偶然的机会，他在无意中听到了一则关于英国即将发生饥荒的新闻。具有敏锐商业头脑的洛克菲勒立即意识到这是一个难得的商机，决心抓住它，但是公司的老板等上层领导却不以为然。于是，洛克菲勒自作主张，大量收购粮食及食品储存起来，为此老板极为不满。但没过多久，那则新闻得到了证实，英国真的发生了饥荒。由于洛克菲勒已经囤积了大量的粮食及食品，公司迅速组织货运，第一时间将这些货物销往英国，给公司创造了巨额的利润。洛克菲勒在当地声名鹊起。
洛克菲勒的年薪由此提到600美元，但是他并不满意。洛克菲勒向公司提出年薪800美元的要求，结果遭到拒绝。他断然离开这家公司，自谋出路。
当时，克利夫兰有一个叫克拉克的年轻英国商人，比洛克菲勒年长10岁左右，手头有2000美元的资金，想寻找合伙人开一家公司。洛克菲勒成为他的第一人选，因为当时的洛克菲勒在当地家喻户晓。得到这个消息的洛克菲勒很振奋，他非常想和克拉克合作，但克拉克希望合伙人也能提供2000美元作为投资，而此时的洛克菲勒只积攒了七八百美元。于是，洛克菲勒找到父亲。父亲告诉他说，他为每一个孩子都准备了1000美元，但是需要等到21岁时才能交给他们，如果洛克菲勒想现在拿这笔钱的话也可以，但是在满21岁前，必须向他支付10%的利息。在当时，10%的利息远远高出银行的贷款利率。但急需这笔钱的洛克菲勒欣然接受了父亲的条件。他成为了新公司的合伙人。
新成立的公司叫克拉克-洛克菲勒公司，主要经营谷物和肉类。这是洛克菲勒生平所办的第一家公司。公司的两个合伙人分工明确，合作默契，克拉克-洛克菲勒公司成立的第一年就做了4。5万美元的生意，第二年净赚1。2万美元，洛克菲勒分得6000美元。
1858年8月，德雷克成功找到石油，大批有着发财梦的投机者迅速涌入宾夕法尼亚地区，一时间，当地井架林立，原油产量飞速上升。尽管洛克菲勒在后来对石油业有极度的狂热，可在一开始也没能充分认识到它的发展潜力和商业价值。
他分析，原油的产量大幅飙升，而石油需求有限，油市的行情必定下跌。事情的发展果然不出洛克菲勒所料，由于疯狂地开采，供大于求，导致油价一跌再跌，相当多的“钻油先锋”无力支撑下去，纷纷落败。
出乎意料的是，在3年后，原油再次暴跌的时候，洛克菲勒却逆势而进，大举投资石油。他与克拉克共同投资4000美元，和当时在炼油厂工作的安德鲁斯合伙开设了一家炼油厂。安德鲁斯是一位技术型搭档，他采用新技术提炼煤油，使得油厂的发展十分迅速。
当时的照明主要是靠松脂和鲸油，但是由于美国内战的爆发，南北方成了敌对的两大阵营，南方由此中断了对北方的松脂供应；同时，战争还带来了一个直接影响，就是打击了捕鲸业，致使鲸油的价格成倍增加。而从石油中提炼的煤油刚一问世，便很快得到广泛地使用，成为紧俏的商品。
1863年，新建的铁路线使克利夫兰在这一行业中处于有利的竞争地位，铁路线沿途鳞次栉比地建起了多家炼油厂，其中就有洛克菲勒公司建立的一家。不到一年的时间，洛克菲勒的炼油厂创造了丰厚的利润，使他改变了初衷，决心加大在石油行业的投资力度。
但是此时，洛克菲勒与克拉克之间出现了越来越严重的意见分歧。这种分歧不但表现在两个人的性格上，而且还表现在对事业的看法上。克拉克为人直率，脾气急躁，显得很不检点，抽烟、喝酒、随口说脏话等等。同样，克拉克也瞧不起洛克菲勒账本不离身的做法。在他看来，洛克菲勒也就是一个目光短浅、行事刻板的小职员，没有什么过人之处。
最为严重的是洛克菲勒与克拉克对石油业的前景和公司的未来存在极大的分歧。南北战争期间，受到战况变化以及供求关系的影响，石油价格波动很大。洛克菲勒和安德鲁斯都主张借此机会举债以扩大生产，克拉克却主张采取保守的做法，相时而动。
1865年，25岁的洛克菲勒向克拉克摊牌。两个人组织了一场别开生面的拍卖活动，价高者得公司。最后洛克菲勒买下了公司，与克拉克握手言别。
后人评价说：“那次握手标志着现代石油业的开始，并使宾夕法尼亚近乎疯狂的繁荣所造成的混乱状况出现了秩序。”这种秩序的代表形式即美孚石油公司，它开创了一个崭新的时代。
1865年，洛克菲勒正式与克拉克决裂，并与安德鲁斯成立洛克菲勒-安德鲁斯公司这一克利夫兰最大的炼油厂，从此搭上亿万富翁的特快列车。