Im Alter von zwölf Jahren startete der „Bebop-Rocker“ seine Laufbahn als Gitarrist. Stern studierte am renommierten Berklee College of Music in Boston, dort entdeckte er seine Liebe zum Jazz. Stern wurde auf Empfehlung von Pat Metheny, bei dem er in Berklee studiert hatte, Mitglied der Jazz-Rock-Formation Blood, Sweat & Tears, mit denen er zwei Alben veröffentlichte. Er spielte eine Zeitlang in der Gruppe des einflussreichen Drummers Billy Cobham. Als Teil der Band um den Jazz-Trompeter Miles Davis ist er auf dessen Live-Album "We Want Miles" zu hören.

Weitere wichtige Musiker mit denen Mike Stern in den 1980er- und 1990er-Jahren zusammen spielte waren: Jaco Pastorius mit seiner Band Word Of Mouth, David Sanborn, John Scofield, Bill Frisell, Dave Weckl, Jack DeJohnette, Dennis Chambers, die Fusioncombo Steps Ahead von Mike Mainieri und Michael Brecker und 1992 die Brecker Brothers.

Seit dem Debüt "Neesh" von 1983 hat Mike Stern weitere Alben veröffentlicht, die zunächst von Jim Beard produziert wurden. Seine Alben "Who Let The Cats Out?" (2006) und "Big Neighborhood" (2009) wurden beide jeweils für einen Grammy in der Kategorie Best Contemporary Jazz Album nominiert. 2012 erschien sein Album "All over the Place". Für das jüngste Album "Electic" holte er sich Eric Johnson mit an Board.

Als einer der größten Jazzgitarristen seiner Generation verfügt Mike Stern über die einzigartige Fähigkeit, mit der Finesse und Lyrik eines Jim Hall, dem treibenden Swing eines Wes Montgomery und der turbulenten, übersteuerten Attacke von Jimi Hendrix zu spielen. Aufgewachsen in der Gegend von Washington, D.C., verehrte Stern alle drei dieser unsterblichen Gitarristen, zusammen mit so starken Blues-Gitarristen wie Albert und B.B. King. Aspekte dieser bahnbrechenden Einflüsse sind in seinem Spiel auf den 18 Aufnahmen zu hören, die er als Leader oder in seiner gefeierten Arbeit als Sideman für Miles Davis, Billy Cobham, die Brecker Brothers, Jaco Pastorius, Steps Ahead, David Sanborn, Blood, Sweat & Tears, Joe Henderson und der All-Star-Band Four Generations of Miles veröffentlichte.

Sterns jüngste Veröffentlichung bei Concord Jazz, Eleven, ist eine Begegnung mit dem Grammy-prämierten Keyboarder, Komponisten und Produzenten Jeff Lorber. Koproduziert von Bassist Jimmy Haslip, der zuvor mit dem Gitarristen auf dem 2008er Album Lifecycle der Yellowjackets zusammengearbeitet hatte, zeigt diese lebhafte Zusammenarbeit Stern auf dem Höhepunkt seines Könnens und folgt auf das 2017er Album Trip, seine triumphale Rückkehr zu Aufnahmen nach einem verrückten Unfall, der seine Karriere zu beenden drohte. Der mehrfach für einen Grammy nominierte Gitarrist wollte am 3. Juli 2016 vor seiner Wohnung in Manhattan ein Taxi rufen, als er über versteckte Bauschuttreste auf der Straße stolperte und sich bei dem Sturz beide Oberarmknochen brach. Stern musste sich einer Reihe von Operationen und anschließender Physiotherapie unterziehen, bevor er die Kontrolle über seine nervengeschädigte Zupfhand wiedererlangen konnte, da die Nerven in seiner rechten Hand so stark geschädigt waren, dass er nicht einmal mehr die einfachsten Aufgaben ausführen konnte. Und während Trip ein starkes Comeback darstellte, legt der unerschrockene Gitarrist auf Eleven noch eine Schippe drauf.

Seit seinem Durchbruch mit Miles Davis’ gefeierter Comeback-Band in den frühen 1980er Jahren gehört Stern zu den besten Gitarristen des Jazz und hat sich den Respekt von Kolleg*innen und Kritiker*innen gleichermaßen verdient, während er gleichzeitig einen überragenden Einfluss auf eine ganze Generation aufstrebender Musiker*innen ausübt. Als Gitarrist mit einer beein druckenden Technik verblüfft und inspiriert er die Liebhaber des Sechssaiterspiels mit seiner nahtlosen Mischung aus Bebop-Können, glühender Rock-Intensität und ungewöhnlicher Lyrik. Jon Chappell vom Guitar Magazine bemerkte: „Stern ist nicht nur ein Magier auf dem Griffbrett, sondern auch ein tiefgründiger und reifer Komponist”. Durch die Kombination des Legato-Ansatzes von Jazz-Saxophon-Größen wie John Coltrane, Sonny Rollins und Joe Henderson mit ein paar Einflüssen aus dem Rocklager (z.B. Verzerrer und Delay-Pedale zusammen mit einigen dringenden Saitenbeugungen, die er seinen Blueshelden B.B. King und Buddy Guy zu verdanken hat), hat Stern erfolgreich eine einzigartige Stimme geformt, die sowohl in der Rock-als auch in der Jazzwelt zu Hause ist.