Portland Trail Blazers

Er wurde 1996 von den Portland Trail Blazers an 17. Stelle gedraftet. Dort begegnete er mit Arvydas Sabonis, Rasheed Wallace und Clifford Robinson starker Konkurrenz auf seiner Position.

Bei seinem NBA-Debüt war er 18 Jahre, einen Monat und 22 Tage alt. Damit war er der damals jüngste Spieler, der je in der NBA eingesetzt wurde. Diese Marke wurde später von Andrew Bynum unterboten. In vier Saisons mit den Blazers konnte er sich nicht durchsetzen, da er stets starke Konkurrenz auf seiner Position hatte.

Indiana Pacers

Im Jahre 2000 wechselte er im Tausch für Center Dale Davis zu den Indiana Pacers, die sich gerade im Umbau befanden. In seinen ersten Playoffs verloren die Pacers 1:3 gegen Allen Iverson und die Philadelphia 76ers. Im Jahr 2002 wurde O’Neal erstmals ins All-Star-Team berufen. Außerdem wurde er zum Most Improved Player gewählt. Bei der FIBA-Weltmeisterschaft kamen er und das Team der USA nur auf Platz sechs.

Der Power Forward/Center erzielte während der regulären Saison 2003/04 im Schnitt 20 Punkte und 10 Rebounds. Dadurch verlängerte sich nach der Saison sein Vertrag für sieben Jahre und über 120 Millionen US-Dollar bei den Pacers. Aufgrund einer Verletzung musste O’Neal die Teilnahme an den Olympischen Spielen in Athen absagen.

Beim als Spitzenspiel angekündigten Duell am 19. November 2004 kam es eine Minute vor Ende der Partie zu einer der spektakulärsten Szenen der NBA-Geschichte, der später als „Malice at the Palace“ bekannt wurde. Nach einem harten Foul von Defense-Ass Ron Artest an Ben Wallace kam es zu einem von Wallace ausgelösten Handgemenge. Daraufhin wurde Artest von einem Zuschauer mit einem Plastikbecher abgeworfen. Er stürmte die Tribüne und löste eine heftige Massenschlägerei aus, bei der auch mehrere Zuschauer involviert waren.

O’Neal, der dabei ebenfalls mitmischte, wurde daraufhin zu 25 Spielen Sperre verurteilt, die aber im Nachhinein auf 15 reduziert wurden. Nach seiner Rückkehr erzielte er unter anderem 55 Punkte gegen die Milwaukee Bucks. Nach dem Auftritt beim All-Star Game in Denver hinderte ihn eine Schulterverletzung an einem guten Saisonabschluss. In 44 Spielen in der Saison 2004/05 kam er auf einen Karrierebestwert von 24 Punkte pro Spiel.

2005/06 galt die nun vollzählige Mannschaft als Favorit auf die Meisterschaft. Aber Verletzungen und interne Querelen führten zu schwachen Leistungen. O’Neal verletzte sich so schwer an der Leiste, dass er fast zwei Monate aussetzen musste. Auch das All-Star-Game fiel für ihn aus. Nachdem er kurz vor den Playoffs wieder fit war, zeigte er beim Aus gegen die Nets eine gute Leistung.

In der Spielzeit 2006/07 konnten O’Neal und die Indiana Pacers sich erstmals in 11 Jahren nicht für die Playoffs qualifizieren. Jermaine wurde von den Coaches der NBA ins All-Star-Team des Ostens berufen, zum sechsten Mal; ein Rekord der Indiana Pacers. Im Schnitt verbuchte er in dieser Saison 19 Punkte, 10 Rebounds und einen Karriererekord von 2,6 Blocks pro Spiel. Nach 69 verpassten Spielen in den letzten beiden Saisons blieb O’Neal in dieser Saison von Verletzungen (und Sperren) größtenteils verschont und verpasste nur 13 Spiele, konnte jedoch nach dem All-Star-Break nicht mehr mit der Mannschaft mittrainieren, da er sein lädiertes Knie für die Spiele schonte. Dennoch verloren die Pacers 11 Spiele hintereinander und waren damit im Kampf um die Playoffs gescheitert.

Toronto Raptors

Am 25. Juni 2008 beschlossen die Pacers, O’Neal von den Pacers zu den Toronto Raptors zu traden. Bei diesem Trade wurden O’Neal, Forward Maceo Baston und der Pacers-Draft-Pick im NBA-Draft 2008 (41. Stelle) für Torontos Point Guard T.J. Ford, Center Radoslav Nesterovič und den 17. Pick der Raptors getradet. Dort schwankten seine Leistungen, er harmonierte nicht recht mit Franchise-Player Chris Bosh und hatte in einer schwachen Saison der Raptors viele Verletzungsprobleme.

Miami Heat

Am 13. Februar 2009 wurde er von den Raptors gegen Shawn Marion nach Florida zu den Miami Heat getradet. Neben O’Neal transferierten die Raptors zusätzlich Jamario Moon und einen Erstrunden-Pick zwischen 2010 und 2015 nach Miami. Im Gegenzug bekam Toronto neben Marion Point Guard Marcus Banks und einen Geldzuschlag. In beiden Jahren erreichte man die Playoffs, scheiterte aber in der ersten Runde.

Boston Celtics

Zur Saison 2010/11 unterschrieb O’Neal bei den Boston Celtics. In dieser Spielzeit kam Jermaine auf nur 24 Spiele. Er erzielte im Schnitt 5,4 Punkte, 3,6 Rebounds und 1,2 Blocks pro Spiel. Mit den Celtics zog er in die NBA-Playoffs ein und verzeichnete dort im Schnitt 5,8 Punkte, 4,3 Rebounds und 1,7 Blocks. Mit den Celtics schied er im Conference-Halbfinale aus. Sie mussten sich den Miami Heat um Superstars Chris Bosh, Dwyane Wade und LeBron James mit 1:4 geschlagen geben.

In der verkürzten Saison 2011/12 spielte O’Neal nur 25 Spiele für die Celtics, in denen er auf durchschnittlich 5,0 Punkte, 5,4 Rebounds und 1,7 Blocks kam. Sein letztes Spiel für die Celtics bestritt er am 20. Februar 2012. Danach fiel er wegen einer Verletzung am linken Handgelenk bis zum Ende der Saison aus. Am 20. April wurde der Center von den Boston Celtics entlassen.

Phoenix Suns

Am 15. August 2012 unterschrieb O’Neal einen Vertrag mit den Phoenix Suns. Zusammen mit Jared Dudley wurde er der Kapitän der Mannschaft. Sowohl die Suns als auch O’Neal hatten eine schwierige Saison 2012/13. Phoenix wurde letzter in der Western Conference, O’Neal musste zunächst selbst aufgrund eines Herzproblems einen halben Monat pausieren, später nahm er sich eine kurze Auszeit, da auch seine Tochter Asjia am Herzen operiert werden musste.

Golden State Warriors

Nachdem die Saison in Phoenix sehr unbefriedigend verlief und die Mannschaft im Keller der Western Conference landete, erhielt Jermaine keinen neuen Vertrag bei den Suns. Er wechselte daraufhin zu den Golden State Warriors, wo er einen Vertrag bis 2014 unterzeichnete. Am 13. Dezember 2013 erlitt O’Neal einen Bänderriss im rechten Handgelenk und musste operiert werden. Er trainierte nach der Operation am 4. Februar 2014 wieder zusammen mit den Warriors. Kurz darauf entschied er sich, nicht in der NBA-Saison 2014–15 zu spielen.