Paul Daniel Frehley nació el 27 de abril de 1951 en el Bronx (Nueva York). Su padre, Carl Daniel Frehley, era originario de Pennsylvania e hijo de inmigrantes alemanes; mientras que su madre, Esther Anna Hecht, era natural de Carolina del Norte y descendiente de indígenas cherokee. Frehley y sus hermanos mayores; Charles y Nancy, crecieron en un ambiente musical debido a que sus padres eran pianistas y pronto aprendieron a tocar este instrumento y la guitarra acústica. Durante su infancia el músico cantó con el coro de la iglesia local y a los 13 años recibió como regalo de Navidad una guitarra eléctrica Zimgar.
Tras recibir su nuevo instrumentos y con Pete Townshend, Jeff Beck o Jimi Hendrix como influencias, pronto aprendió a tocar sin recibir clases. En su adolescencia formó parte de varias bandas, como por ejemplo The Exterminators o Cathedral, y cuando con esta última empezó a ganar dinero, abandonó el instituto, Sin embargo, el guitarrista retomó sus estudios debido a la presión de su novia y su familia. Tras su graduación trabajó como cartero, mensajero, repartidor de una licorería, transportando muebles y hasta como pipa del batería de The Jimi Hendrix Experience Mitch Mitchell.
Después de la disolución de Cathedral, Frehley pasó por varias agrupaciones; entre ellas, Molimo, con la cual grabó un álbum en 1971, pero que nunca fue puesto a la venta.