Đảm trách cương vị lãnh đạo cao nhất của Đảng trong giai đoạn tình hình trong nước và quốc tế có nhiều biến động. Và khi đó điều đáng lo ngại là không ít cán bộ, đảng viên phai nhạt lý tưởng cách mạng, tha hóa về phẩm chất, đạo đức; sức chiến đấu của một bộ phận tổ chức cơ sở đảng suy yếu. Trước tình hình đó, Tổng Bí thư Lê Khả Phiêu đã có nhiều quyết sách quan trọng và kiên quyết trong lãnh đạo, chỉ đạo, nhất là trong công cuộc xây dựng, chỉnh đốn Đảng. Đáng chú ý là sự ra đời của Nghị quyết Trung ương 6 lần 2 khóa VIII với tên gọi "Một số vấn đề cơ bản và cấp bách về công tác xây dựng Đảng hiện nay".

Ông Nguyễn Giáp Dần - Thư ký của nguyên Tổng Bí thư Lê Khả Phiêu cho biết: Điều đầu tiên cụ nói với chúng tôi thế này, bây giờ được Đảng, nhân dân tín nhiệm, bầu làm Tổng Bí thư, thì điều đầu tiên là phải làm gì cho dân, cho Đảng, đó là tư tưởng thứ nhất;  hai là rất ủng hộ những mô hình làm ăn kinh tế sản xuất giỏi, thu hút được lao động, giải quyết được công ăn việc làm cho người lao động.

Khi giữ cương vị cao nhất của Đảng hay sau này lúc đã nghỉ, nguyên Tổng Bí thư Lê Khả Phiêu vẫn luôn đau đáu trăn trở về công việc của Đảng. Trước những công việc lớn, hệ trọng hay những hiện tượng tiêu cực, ông luôn bày tỏ rõ thái độ với mong muốn đóng góp ý kiến để xây dựng và chỉnh đốn Đảng.

Bám sát tư tưởng Hồ Chí Minh về công tác xây dựng và chỉnh đốn Đảng, cùng với thực tế nhiệm vụ của Đảng trong giai đoạn đổi mới, đồng chí Lê Khả Phiêu đã thúc đẩy tự phê bình và phê bình trong chủ trương đổi mới sinh hoạt đảng. Tổng Bí thư Lê Khả Phiêu khi đó đã yêu cầu phải chấn chỉnh sinh hoạt Đảng "cho ra sinh hoạt Đảng chứ không phải sinh hoạt câu lạc bộ". Từ đây, những cuộc kiểm điểm phê bình và tự phê bình trong Đảng được tiến hành một cách nghiêm túc, thẳng thắn và quyết liệt, từ Bộ Chính trị, Ban chấp hành Trung ương lan tỏa tới các Đảng bộ, chi bộ cơ sở. Những tồn tại, khuyết điểm của từng cá nhân và từng tập thể cũng được làm sáng tỏ. Nhiều vụ án lớn cũng được đưa ra xét xử.

Tổng Bí thư, Chủ tịch nước Nguyễn Phú Trọng khẳng định: Dù ở cương vị công tác nào, đồng chí cũng luôn tuyệt đối trung thành với Đảng, với Tổ quốc và Nhân dân, kiên định mục tiêu lý tưởng của Đảng, gương mẫu giữ gìn phẩm chất đạo đức cách mạng của người đảng viên Cộng sản, không ngừng học tập, tu dưỡng, rèn luyện, phấn đấu hoàn thành xuất sắc mọi nhiệm vụ được giao.

Một cán bộ trưởng thành từ cơ sở, một vị tướng dày dạn kinh nghiệm trận mạc và trở thành người đứng đầu Ban Chấp hành Trung ương Đảng, ở đồng chí Lê Khả Phiêu đã hội tụ đầy đủ những phẩm chất cao quý “bộ đội Cụ Hồ”, phẩm chất của người cộng sản kiên trung, hết lòng vì sự nghiệp cách mạng của Đảng. Hơn 70 năm đứng trong hàng ngũ của Đảng, không chỉ là một đảng viên ưu tú mà những đóng góp của ông đã góp phần trực tiếp xây dựng Đảng ta ngày càng trong sạch, vững mạnh, khẳng định sức mạnh và ưu thế của một đảng cầm quyền.