Saat ia tumbuh dewasa, Van Halen beralih ke drum dan kemudian gitar, awalnya bermain bersama ayah dan saudara laki-lakinya di pesta pernikahan dan bar mitzvah.

Setelah dewasa, Van Halen membentuk Van Halen pada awal 1970-an di Los Angeles. Dia adalah gitaris, saudaranya Alex adalah drummer, David Lee Roth adalah penyanyi dan Michael Anthony sebagai bassis.

Van Halen dikatakan sebagai penulis lagu utama di balik album debut band yang eponim, dirilis pada tahun 1978. Album ini melesat ke nomor 19 di tangga lagu Billboard, menjadi salah satu debut paling sukses dalam dekade ini.

Namun kesuksesan terbesar Van Halen datang dengan album keenam mereka, 1984, yang membuat Van Halen fokus pada synth daripada gitar. Itu menghasilkan satu-satunya single nomor satu band, Jump, dan favorit MTV Hot For Teacher.

Jump juga menjadi hit band terbesar di Inggris, mencapai nomor tujuh pada tahun 1984.

Selain itu, gitaris itu mungkin juga terkenal di Inggris karena memainkan solo pada hit tahun 1983 milik Michael Jackson, Beat It. Dilantik ke dalam Rock and Roll Hall of Fame pada tahun 2007, Van Halen menerima pujian besar untuk bagian gitarnya yang khas di banyak lagu hits band, dari Ain't Talkin '' Bout Love hingga Panama.