恩格斯对马克思的贡献有一个形象的评价：“摩尔（指马克思）的一生，要是没有国际，便成了挖去了钻石的钻戒.”
这个评价中的“国际”，就是指国际工人协会，它是世界各国工人之间加强团结、建立紧密联系、相互支援的一个国际组织.马克思为了国际工人协会的建立和发展，耗费了许多心血.
说到国际工人协会，就要从波兰起义说起.
1863年，波兰爆发了反对沙俄专制统治的民族独立起义，起义民众遭到俄国军队的血腥镇压.英国、法国等工人掀起了声援波兰人民的运动，英国全国工人组织——“工联”举行群众集会，要求英国政府对俄国镇压波兰的无耻行为施加压力.英国首相帕麦斯顿借口要法国也赞同才行，拒绝了工人的要求.于是英国工人就产生了与法国工人联合行动的想法，而且通过与法国工人的几次联系，起草了一份《英国工人致法国工人书》.起草者是英国工联的首领，制鞋工人奥哲尔.
同情工人运动的激进派知识分子、伦敦大学教授比斯利将《英国工人致法国工人书》译成法文，寄到了巴黎.法国工人对这封信非常重视，由工人托伦代表法国工人写了《法国工人致英国兄弟》的回信.同时，英国工联又与一些流亡在英国伦敦的德国、意大利、波兰、爱尔兰的工人运动组织加强了联系，筹备建立一个各国工人联合行动的组织——国际工人协会，最后决定在1864年9月28日召开国际工人协会成立大会，地点是伦敦的圣马丁堂.
到了9月28日那天，圣马丁堂内挤满了各国工人代表，洋溢着节日气氛.德国工人特意组成合唱队，唱着工人歌曲.大会执行主席比斯利教授宣布开会：“全世界劳动民众联合起来，反对各国政府的侵略政策，为实现正义而团结奋斗.”
然后是英国工联首领奥哲尔宣读《英国工人致法国工人书》：“法兰西、意大利、德意志、英格兰、波兰和所有愿为争取人类幸福决心团结合作的国家的代表们，聚在了一起……我们坚信暴君的势力终将被削弱……让我们首先为争取波兰的自由而联合，共同奋斗.”
在掌声和欢呼声后，法国工人代表宣读了《法国工人致英国兄弟》的回信：“全世界工人们，我们必须团结起来，筑成一道坚不可摧的堤坝，抗拒把人类分成两个阶级——愚昧饥饿的平民和脑满肠肥的官吏——的害人制度.我们要团结起来自己救自己……”
又是一阵掌声和欢呼声.
在参加会议的德国工人代表中，有位一头浓密黑发，络腮胡须，看上去神色庄重又精力充沛的壮年男子，他就是马克思.马克思是特地被邀请来参加大会的，而且原先还想让他代表德国工人发言.但马克思推荐他的战友，在伦敦的制衣工人埃卡留斯发言，并帮他准备了发言稿.埃卡留斯一直积极参加工人运动.他曾拿着一把磨得锋利的剪刀，准备在参加宪章运动游行时，做反击警察的武器.他因流亡生活的折磨，患了肺病，如今大病初愈，身体虚弱，可对工人运动仍忠诚无比.
大会顺利地进行着.法国工人吕贝在会上宣读了法国工人代表提出的国际工人协会组织方案，英、意、法、德等国工人代表均发言赞同.于是，代表们选举产生了临时中央委员会，包括马克思在内的三十多人当选为委员；然后又成立了国际工人协会的成立宣言和章程的起草小组，马克思被推举为这个小组成员之一.
起草小组先后写的两篇成立宣言和章程的草案，都不符合要求.因此，第三次决定由马克思动笔写.因为患病，马克思没参加前两次讨论.第三次他也是抱病参加的.
这个成立宣言和章程并不好写，因为参加国际工人协会的各国工人组织，对科学社会主义认识不一，受各种激进思潮影响较深，要他们立即接受马克思、恩格斯写的《共产党宣言》是不现实的.为此，马克思带病花了七天时间，终于用委婉的语言，写出了成立宣言和章程，既从当时欧洲工人组织实际水平出发，同时又坚持了原则.它用文字表明了国际工人协会要在国际主义原则指导下，成为真正的工人阶级战斗组织，引导工人从经济斗争走向政治斗争，最后夺取政权，通过消灭阶级统治和实现劳动资料归社会支配，达到工人阶级的彻底解放.在成立宣言最后，马克思同样用了“全世界无产者，联合起来”这句《共产党宣言》的口号.
国际工人协会顺利通过了马克思写的成立宣言和章程.国际工人协会后来又被称为第一国际，马克思尽管只是第一国际的总委员会的一个委员，却是第一国际事实上的灵魂.他团结周围的第一国际的领导成员，在建立第一国际各国支部，把各国工人组织起来，支援世界各民族独立解放事业和克服许多非无产阶级的社会主义派别影响等方面，做了大量的工作.第一国际的宣言、决议和文件，几乎都是马克思撰写的.第一国际对当时世界发生的重大问题作出的决策和措施，差不多也都是由马克思所倡议的.
马克思含辛茹苦的努力，第一国际发现和培养了不少无产阶级的优秀战士，后来这些人成为世界各国无产阶级政党建设中的骨干力量.