Sejarah awal PENS dimulai pada tahun 1984. Japan International Cooperation Agency (JICA), sebuah badan kerjasama internasional yang didirikan oleh pemerintah Jepang pada tahun 1974 untuk membantu pembangunan negara-negara berkembang, berencana untuk membangun pendidikan politeknik di Indonesia dan memberikan hibah untuk pengembangan politeknik. .

Hibah dan kerjasama dari JICA ini sempat ditawarkan ke beberapa kampus, namun tidak langsung diterima karena tidak memiliki lahan yang cukup. Pada akhirnya, bantuan dan hibah masuk ke Institut Teknologi Sepuluh Nopember (ITS) Surabaya yang bersedia menyediakan lahan 10 hektar untuk pembangunan politeknik.

Sebelum memilih ITS, diskusi dicetuskan oleh Sekretaris Dirjen Dikti saat itu, Ir. Oetomo Djajanegara, bersama Kepala Departemen Teknik Elektro FTI ITS, Ir. Syarifuddin Machmud Syah, M.Si., yang saat itu ditugaskan untuk mengelola program akselerasi insinyur di Dikti. Dia menceritakan kepada Pak Syarifuddin tentang rencana JICA untuk pembangunan politeknik dengan memberikan hibah sebesar 2,5 miliar yen, namun dengan syarat universitas harus menyediakan lahan untuk pembangunannya.

Pak Syarifuddin kemudian menyampaikan kepada Rektor ITS saat itu, Ir. Hariono Sigit, BS. Ia pun langsung menyambut positif dan bersedia menerima hibah pembangunan politeknik di ITS dengan menyediakan lahan 10 hektare. Ia juga langsung menunjuk Pak Syarifuddin untuk mengawal rencana pembangunan politeknik tersebut.