Sau đó ông chuyển sang công tác chính quyền và Đảng vụ, làm Phó Bí thư rồi Quyền Bí thư tỉnh uỷ kiêm Chủ tịch Ủy ban Kháng chiến Hành chính tỉnh Hà Đông (tháng 5 năm 1949 – tháng 5 năm 1951); Ủy viên Đảng Đoàn và Ủy viên Ủy ban Kháng chiến hành chính Liên khu 3, Bí thư Đảng ủy các cơ quan của Liên khu (1949–1954).
Tháng 9 năm 1945 về công tác tại Bộ Quốc phòng, làm Bí thư cho Đại tướng Võ Nguyên Giáp ; sau đó giữ chức vụ Chánh Văn phòng Quân uỷ Trung ương, Bí thư đảng uỷ các cơ quan Bộ Quốc phòng và Tổng tư lệnh (1947–1949).
Ông lãnh đạo cướp chính quyền tại Nam Định (tháng 8 năm 1945).
Từ năm 1954, ông chuyển sang công tác trong ngành ngoại giao và lần lượt đảm nhiệm các chức vụ Chánh văn phòng Bộ Ngoại giao (1954–1956), Tổng lãnh sự nước Việt Nam Dân chủ Cộng hòa tại Cộng hòa Ấn Độ (1956–1960); Thứ trưởng Bộ Ngoại giao và Ủy viên Đảng đoàn Bộ Ngoại giao (tháng 8 năm 1960 – tháng 5 năm 1979); Quyền Trưởng đoàn Đoàn đại biểu Chính phủ Việt Nam Dân chủ Cộng hòa tại Hội nghị Genève về Lào (1961–1962); Thứ trưởng Bộ Ngoại giao phụ trách công tác đấu tranh chống Mỹ (từ 1964).
Ông là trợ lý cho Cố vấn Lê Đức Thọ trong đàm phán với Mỹ (1972–1973) đưa đến việc ký kết Hiệp định Paris về Việt Nam; Trưởng đoàn đại biểu Việt Nam Dân chủ Cộng hòa tại Hội nghị Bộ trưởng Bộ Ngoại giao các nước không liên kết tại Peru (1975); Đặc phái viên của Chính phủ thăm các nước Ả Rập, Tây Âu, Bắc Âu và ASEAN (1976–1980); Trưởng đoàn đại biểu Việt Nam tại Hội nghị Bộ trưởng Bộ Ngoại giao các nước không liên kết tại Colombo (Sri Lanka), New Delhi (Ấn Độ), Luanda (Angola) (1979–1986); Trưởng đoàn đại biểu Việt Nam dự Đại hội đồng Liên Hợp Quốc tại New York (1979–1991).
Tháng 5 năm 1979, ông làm Quốc vụ khanh Bộ Ngoại giao (hàm Bộ trưởng), rồi Bộ trưởng Bộ Ngoại giao từ tháng 1 năm 1980; Phó Chủ tịch Hội đồng Bộ trưởng kiêm Bộ trưởng Bộ Ngoại giao (tháng 2 năm 1987 – 1991).
Ông là Ủy viên Ban chấp hành Trung ương Đảng từ tháng 12 năm 1976 đến 1991, Ủy viên dự khuyết Bộ Chính trị từ năm 1982, Ủy viên chính thức Bộ Chính trị khoá VI (1986–1991), phụ trách Ban Đối ngoại Trung ương Đảng.
Ngày 29/9/1990, Bộ trưởng Ngoại giao Nguyễn Cơ Thạch đã được cử đi thực hiện nhiệm vụ quan trọng là gặp gỡ Bộ trưởng Ngoại giao Hoa Kỳ James Baker tại New York, bắt đầu việc đàm phán bình thường hóa quan hệ với Hoa Kỳ[1].
Sau khi thôi chức Bộ trưởng Bộ Ngoại giao, ông tham gia nghiên cứu Tổng kết công tác ngoại giao, nghiên cứu kinh tế thế giới và chiến lược đối ngoại (tháng 10 năm 1991 – 1998).
Ông còn là đại biểu Quốc hội khoá VII (1981–1987) và khoá VIII (1987–1992).
Ông đã được tặng thưởng Huân chương Hồ Chí Minh.
Ông mất ngày 10 tháng 4 năm 1998 tại Hà Nội, hưởng thọ 77 tuổi.
Ngày 15 tháng 1 năm 2007, ông được Chủ tịch nước truy tặng Huân chương Sao Vàng. Bà Phan Thị Phúc, vợ ông đại diện cho ông nhận phần thưởng này.