L'événement qui amena la fondation de l'Association Internationale des Travailleurs fut la rencontre entre d'un côté l'activité de Karl Marx épaulé par Friedrich Engels, de l'autre le développement du mouvement ouvrier anglais et français, qui tissèrent des liens.

Une réunion eut alors lieu à Londres au St Martin's Hall, une petite salle utilisée par les ouvriers et les démocrates. Étaient présents des ouvriers anglais et français, ainsi que des prolétaires et des démocrates de l'émigration, qui ensemblent fondirent, le 28 septembre 1864, l'Association Internationale des Travailleurs (AIT).

Karl Marx ne fut nommé que dans le comité directeur, qui devint le conseil central, puis le conseil général, n'en étant donc pas le dirigeant ; cependant, il était le moteur de l’initiative. C'est d'ailleurs lui qui prit en main la rédaction tant de l'adresse inaugurale que des statuts de l'AIT.

Cela veut dire que Karl Marx était en mesure de tenir en échec tant le courant anglais qui avait une perspective syndicale-réformiste internationale, que le courant français qui visait la mise en place de prêts sans intérêts à l'échelle internationale et de coopératives. A cela s'ajoute un courant italien, se situant dans la tradition de la révolte des peuples de 1848.

Les statuts avaient d'ailleurs connu un brouillon écrit par Ludwig Wolf, un partisan de Mazzini ; Karl Marx n'en garda que le nom de l'AIT, et c'est lui qui eut l'idée d'ajouter une adresse inaugurale à l'annonce de la formation de la nouvelle organisation.

Le premier novembre 1864, le comité directeur avalisa les documents et le 22 mars 1864, Karl Marx proposa au conseil général que les syndicats anglais (les trade-unions) adhèrent de manière collective à l'AIT. Cela se réalisa notamment grâce au militant Robert Shaw ; en janvier 1865, cela permit aux ouvriers anglais de soutenir des réformes électorales de la bourgeoisie radicale.

Dans une lettre du premier mai 1865 à Friedrich Engels, Karl Marx considère alors que :

« Si cette réelectrification du mouvement politique de la classe ouvrière anglaise réussit, alors notre association, sans faire d'histoires, a déjà plus contribué à la classe ouvrière européenne qu'il aurait été possible d'une quelconque autre manière. »

Karl Marx œuvrait ainsi dans le sens d'une politisation de la classe ouvrière, d'une prise en compte des enjeux, avec un besoin d'évaluation et de positionnement. En voici un exemple avec le message de l'AIT à Abraham Lincoln, à la fin de l'année 1864 :

« Nous complimentons le peuple américain à l’occasion de votre réélection à une forte majorité.

Si la résistance au pouvoir des esclavagistes a été le mot d’ordre modéré de votre première élection, le cri de guerre triomphal de votre réélection est : mort à l’esclavage.

Depuis le début de la lutte titanesque que mène l’Amérique, les ouvriers d’Europe sentent instinctivement que le sort de leur classe dépend de la bannière étoilée. La lutte pour les territoires qui inaugura la terrible épopée, ne devait-elle pas décider si la terre vierge de zones immenses devait être fécondée par le travail de l’émigrant, ou souillée par le fouet du gardien d’esclaves ?

Lorsque l’oligarchie des trois cent mille esclavagistes osa, pour la première fois dans les annales du monde, inscrire le mot esclavage sur le drapeau de la rébellion armée ; lorsque à l’endroit même où, un siècle plus tôt, l’idée d’une grande république démocratique naquit en même temps que la première déclaration des droits de l’homme qui ensemble donnèrent la première impulsion à la révolution européenne du 18ème siècle, alors les classes ouvrières d’Europe comprirent aussitôt, et avant même que l’adhésion fanatique des classes supérieures à la cause des confédérés ne les en eût prévenues, que la rébellion des esclavagistes sonnait le tocsin pour une croisade générale de la propriété contre le travail et que, pour les hommes du travail, le combat de géant livré outre-Atlantique ne mettait pas seulement en jeu leurs espérances en l’avenir, mais encore leurs conquêtes passées.

C’est pourquoi, ils supportèrent toujours avec patience les souffrances que leur imposa la crise du coton et s’opposèrent avec vigueur à l’intervention en faveur de l’esclavagisme que préparaient les classes supérieures et « cultivées », et un peu partout en Europe contribuèrent de leur sang à la bonne cause.

Tant que les travailleurs, le véritable pouvoir politique du Nord permirent à l’esclavage de souiller leur propre République ; tant qu’ils glorifièrent de jouir du privilège d’être libres de se vendre eux-mêmes et de choisir leur patron, ils furent incapables de combattre pour la véritable émancipation du travail ou d’appuyer la lutte émancipatrice de leurs frères européens.

Les ouvriers d’Europe sont persuadés que si la guerre d’indépendance américaine a inauguré l’époque nouvelle de l’essor des classes bourgeoises, la guerre anti-esclavagiste américaine a inauguré l’époque nouvelle de l’essor des classes ouvrières.

Elles considèrent comme l’annonce de l’ère nouvelle que le sort ait désigné Abraham Lincoln, l’énergique et courageux fils de la classe travailleuse, pour conduire son pays dans la lutte sans égale pour l’affranchissement d’une race enchaînée et pour la reconstruction d’un monde social. »