التحق بالخدمة العسكرية في الجيش المصري وشارك في التصدي للعدوان الثلاثي الإسرائيلي الفرنسي البريطاني على مصر في حرب السويس. وفي عام 1956 مُنح عرفات رتبة ملازم في الجيش المصري.
وفي 1958 شكل عرفات الذي كان وقتها يعمل مهندسا في الكويت مع مجموعة صغيرة من المغتربين الفلسطينيين الخلية الأولى لحركة التحرير الوطني الفلسطيني (فتح) التي تبنت الكفاح المسلح وسيلة لتحرير فلسطين. ومن ابرز الذين شاركوه تأسيس فتح: صلاح خلف (أبو إياد) وخليل الوزير (أبو جهاد) .
وكشف عرفات في ما بعد عن قيامه في ذلك الوقت بجمع بنادق من مخلفات الحرب العالمية الثانية من الصحارى المصرية لتسليح حركته.
وفي 31 كانون الأول 1964 نفذت حركة فتح أول عملية مسلحة في الاراضي الاسرائيلية عبر محاولة نسف محطة مائية وقام عرفات شخصيا بتسليم بيان تبني العملية إلى صحيفة "النهار" اللبنانية.
وفي 28 أيار 1964 تشكلت منظمة التحرير الفلسطينية تحت رعاية مصر، وترأسها احمد الشقيري. واعتمدت المنظمة ميثاقا وطنيا يطالب بحق تقرير المصير للفلسطينيين ويرفض قيام دولة اسرائيل.
وفي حزيران 1967: انتقل عرفات الى العمل السري، تحت اسمه الحركي "أبو عمار". وفي تموز توجه سراً إلى الضفة الغربية المحتلة حيث أمضى أربعة أشهر قام خلالها بتنظيم خلايا حركة فتح.
وفي 4 شباط 1969 انتخب عرفات رئيسا للمنظمة التي أصبحت ممثلا للشعب الفلسطيني. 1959: أسس عرفات في الكويت مع حركة التحرير الوطني الفلسطيني "فتح".
اكتسب عرفات أثناء خدمته بالجيش المصري خبرة في العمليات العسكرية واستخدام المتفجرات أهلته لقيادة الجناح العسكري لحركة فتح الذي عرف باسم "العاصفة"، وبدأ عملياته