عُين رابين سفيرًا لدى الولايات المتحدة في 1968. وخلال فترة توليه هذا المنصب التي دامت خمس سنوات، كان رابين يسعى إلى تعزيز العلاقات الثُنائية ولعب دورًا هامًا في دفع التعاون الإستراتيجي مع الولايات المتحدة والذي تمخض عن مساعدة عسكرية أمريكية كبيرة الحجم لإسرائيل.
وعاد رابين إلى إسرائيل في 1973 قبيل نشوب حرب يوم الغُفران وأصبح عضوًا ناشطًا في حزب العمل وانتُخب عضوًا في الكنيست في الانتخابات العامة التي جرت في كانون الأول ديسمبر 1973. وبعد هذه الانتخابات عُيّن رابين وزيرًا للعمل في الحكومة التي شكّلتها غُولْدا مِئير في آذار مارس 1974. واستقالت هذه الحكومة بعد تشكيلها بفترة وجيزة وفي الثاني من حزيران يونيو 1974 صوّتت الكنيست على إبداء الثقة بالحكومة الجديدة برئاسة يتسحاق رابين.
كان أسلوب القيادة الذي استتخدمه يتسحاق رابين وهو أول رئيس وزراء من مواليد البلاد ينطوي على الصراحة والكلام المباشر غير المزخرف إلى حد الفظاظة أحيانًا. ولم يكن يتعين على رابين إعادة تأهيل جيش الدفاع الإسرائيلي وحل قضايا اجتماعية وتحسين الأوضاع الاقتصادية فحسب، وإنمّا كان يتوجب عليه أيضًا إعادة بناء ثقة الجمهور في القيادتين العسكرية والمدنية على حد سواء. وجعلت فضائح داخلية وعدم الاستقرار في قطاع الصناعي ونزاعات شخصية في الحكومة جعلت تنفيذ هذه المهمة أكثر تعقيدًا.
وفي 1975 أنجز رابين الاتفاق المؤقت مع مصر، والذي أدى إلى انسحاب إسرائيل من قناة السويس مقابل حرية الملاحة للسفن الإسرائيلية في القناة. ونتيجة لهذا الاتفاق تم توقيع أول مذكّرة تفاهم بين حكومة إسرائيل والولايات المتحدة. وضمّنت هذه المذكّرة تأييدًا أمريكيًا للمصالح الإسرائيلة في الساحة الدولية واستئنااف تقديم المساعدات الأمريكية.
في تموز يوليو 1976، أمرت الحكومة بقيادة يتسحاق رابين جيش الدفاع بالقيام ب"عملية عَنْتِيبي" لإنقاذ ركاب طائرة إير فرانس التي اختطفها إرهابيون إلى أوغندا. وتم خلال هذه العملية الجريئة، والتي نُفذت في مكان يبعد عن البلاد آلاف كيلومترات، تم تحرير الرهائن ونقلهم جوًا بآمان إلى إسرائيل. وقُتل قائد العملية ليفتينانت كولونيل يُونَتان ِنتَنياهو خلال القتال في مطار عَنْتيبي.
أدى تصويت بحجب الثقة عن الحكومة إلى سقوط حكومة رابين وإجراء انتخابات جديدة. وانتخب حزب العمل رابين لرئاسة الحزب وقيادته في المعركة الانتخابية، ولكنه بعد كشف حساب مصرفي يعود لعقيلته في الولايات المتحدة مما اعتُبر انتهاكًا لأنظمة العملة الأجنبية، استقال رابين من رئاسة الحزب قبل الانتخابات في 1977، والتي أدت إلى انتصار زعيم المعارضة مِناحِيم بِغين.