Alcalde, juntero foral y parlamentario
Ibarretxe comenzó su carrera política en 1979 afiliándose al Partido Nacionalista Vasco (EAJ-PNV). Tras cuatro años de militancia, el PNV lo presentó como candidato a la alcaldía de Llodio en las elecciones municipales de 1983, las segundas de la democracia. Obtuvo un 31,5 % de los votos y 7 concejales (frente a un 23 % del PNV en las anteriores elecciones de 1979) y accedió a la alcaldía, aun sin disponer el PNV de mayoría absoluta (7 concejales de 21 miembros de la corporación municipal), cargo que ocupó hasta 1987.
En 1987, tras la escisión de Eusko Alkartasuna (EA), Ibarretxe perdió las elecciones ante Pablo Gorostiaga, de Herri Batasuna (HB), que obtuvo 8 concejales, frente a los 4 del PNV.
Ibarretxe compaginó su cargo de alcalde con su presencia en las Juntas Generales de Álava (donde fue procurador entre 1983 y 1994, y presidente entre 1986 y 1991) y en el Parlamento Vasco, para el que fue elegido miembro en 1984.
Dos años después de su acceso al Parlamento Vasco, fue nombrado presidente de la Comisión de Economía y Presupuestos, responsabilidad que desempeñó durante tres legislaturas (II, III y IV), hasta el 4 de enero de 1995, cuando, tras las elecciones autonómicas, José Antonio Ardanza le nombró vicelehendakari de su gobierno y Consejero de Hacienda y Administración Pública (V Legislatura).
Vicelendakari
El gobierno presidido por Ardanza en la V Legislatura estaba sustentado por un acuerdo de coalición entre el PNV, Eusko Alkartasuna y el PSE-EE (PSOE) (que duraría hasta el verano de 1998). Ibarretxe fue vicelendakari hasta el final de la legislatura, en 1999. Desde 1994 había venido ocupando la presidencia de la Comisión Económica y Financiera del Consejo de la Universidad del País Vasco, a la vez que era también coordinador del seminario Euzkadi en la Unión Europea de la Fundación Sabino Arana, vinculada al PNV.
Como consejero de Hacienda y Administración Pública, Ibarretxe fue el jefe de la delegación del Gobierno Vasco en la negociación para la renovación del Concierto Económico vasco y el cálculo del cupo correspondiente (la cantidad que anualmente devuelven las Haciendas vascas a la Hacienda central para contribuir a los gastos generados por las competencias no transferidas desde el Estado y los servicios comunes, ya que la mayor parte de lo que las Haciendas vascas recaudan, la integridad de los impuestos, la destinan a financiar las competencias asumidas), entre marzo y mayo de 1997. Esta negociación, en la que tuvo enfrente al entonces vicepresidente segundo del Gobierno, Rodrigo Rato, estuvo enmarcada dentro del acuerdo entre el Partido Popular y el PNV para la investidura de José María Aznar como presidente del Gobierno en 1996. Como resultado, las Haciendas de los territorios históricos consiguieron una capacidad normativa y recaudatoria prácticamente plena sobre todos los impuestos, salvo los impuestos especiales (alcohol, tabaco y gasolina) y el IVA.
Lendakari
Ha sido lendakari durante tres legislaturas, siempre encabezando gobiernos de coalición.
VI Legislatura
La V legislatura fue la última presidida por José Antonio Ardanza, ya que decidió dejar la primera línea política y no presentarse a la reelección.
Gracias a su éxito como negociador en la renovación del Concierto Económico vasco y al apoyo de Xabier Arzalluz, máximo dirigente del PNV como presidente del Euzkadi Buru Batzar, la Asamblea Nacional del PNV designó a Juan José Ibarretxe como candidato a Lendakari en las elecciones autonómicas del 25 de octubre de 1998, siguiendo la tradición del PNV en el que la presidencia del partido y la máxima representación institucional están separadas. Las elecciones se celebraron poco después de que ETA declarase una tregua «total e indefinida» (18 de septiembre de 1998), paralelamente a la firma, seis días antes, del Pacto de Estella, acordado por diversas organizaciones políticas y sociales del País Vasco, Navarra y el País Vasco francés, entre los que se encontraban todos los partidos y sindicatos nacionalistas vascos y también Izquierda Unida (IU). En esas elecciones su partido obtuvo el 27,28 % de los votos emitidos y 21 escaños.
El 2 de enero de 1999 fue investido lendakari (el tercero de la democracia, tras Carlos Garaikoetxea y José Antonio Ardanza). Fue el primer lendakari alavés y el más joven elegido hasta la fecha (41 años). Contó con el apoyo de las formaciones de adscripción nacionalista: el propio PNV, Eusko Alkartasuna (EA) y Euskal Herritarrok (EH) (plataforma electoral constituida el 25 de octubre de 1998 por Herri Batasuna y otras organizaciones de la izquierda abertzale). En marzo se llegaba a un pacto de gobierno entre las tres fuerzas nacionalistas, formándose un gobierno de coalición entre el PNV y EA. Posteriormente, en mayo se firmó un acuerdo de legislatura con EH. En dicho acuerdo EH afirmaba renunciar a la vía armada en beneficio de la política, lo cual suponía, para algunos dirigentes políticos, como Javier Jimeno Torres, miembro de Izquierda Unida de Navarra, que por medio de ese pacto "los dirigentes abertzales quedan atados de pies y manos a la política del PNV".
El apoyo abertzale a la investidura y el posterior acuerdo de legislatura fueron posibles gracias al Pacto de Estella, que habían firmado los tres partidos. Sin embargo, ETA rompió su alto el fuego el 27 de noviembre de 1999, acusando al PNV y a EA de haber incumplido un supuesto acuerdo, negado por los responsables del PNV y EA, al que habrían llegado en junio de 1998, antes de la firma del Pacto de Estella. El 21 de enero de 2000, ETA hizo explotar un coche bomba cargado de 20 kg de dinamita en el barrio de Virgen del Puerto de Madrid, atentado en el cual fue asesinado el teniente coronel de intendencia Pedro Antonio Blanco. Ello obligó a Ibarretxe a dejar en suspenso su pacto de legislatura con EH. No fue, sin embargo, hasta después del asesinato por parte de ETA del dirigente socialista alavés Fernando Buesa y su escolta, el ertzaina Jorge Díez (22 de febrero de 2000), cuando el pacto se rompió definitivamente.
La ruptura del acuerdo parlamentario y el subsiguiente abandono de la cámara por parte de EH en septiembre (que anunció que sólo volvería al Parlamento vasco de Vitoria en «ocasiones puntuales») dejó al gobierno PNV-EA en minoría parlamentaria. Tras varios meses de precariedad parlamentaria, debido a la activa oposición de socialistas y populares y a la imposibilidad de aprobar leyes por la ausencia de apoyos parlamentarios (los presupuestos del año 2001 no pudieron aprobarse y debieron prorrogarse los del año anterior, anunció elecciones anticipadas para el 13 de mayo del 2001. La legislatura finalizada había sido la más corta del Parlamento vasco desde la llegada de la democracia, y finalizaba con altos grados de crispación política y una renovada ofensiva de la organización terrorista ETA, que sólo en 2000 asesinó a 23 personas.
VII Legislatura
La campaña electoral de 2001 fue la más dura de la historia del País Vasco, enfrentándose dos bloques políticos con propuestas claramente diferenciadas. Por un lado, la coalición nacionalista PNV-EA, con Ibarretxe como candidato a lendakari, presentaba un programa abiertamente soberanista de superación de los marcos estatutario y constitucional y favorable a la autodeterminación. Del otro, el Partido Popular (PP) (liderado por Jaime Mayor Oreja) en colaboración con el PSE-EE (PSOE) (liderado por Nicolás Redondo Terreros) propusieron un discurso común en defensa de la Constitución y del Estatuto como marco insustituible para acabar con el problema terrorista, en la creencia de que podían desalojar al nacionalismo de la presidencia del País Vasco.
En los comicios de mayo, el PNV y Eusko Alkartasuna se presentaron en coalición y obtuvieron el 42,7 % de los votos y 33 escaños (26 escaños el PNV y 7 escaños EA). El Partido Popular y el PSE-EE (PSOE) sumaron 32 escaños. Tras la ruptura de la tregua de ETA, la izquierda abertzale, representada por Euskal Herritarrok, perdió 7 de sus 14 escaños. Ezker Batua (EB) obtuvo tres escaños.
Ibarretxe fue investido Lendakari el 12 de junio de 2001, en segunda votación, con el apoyo de 35 parlamentarios (32 de la coalición PNV-EA —un diputado de EA llegó tarde a la sesión y no pudo votar— y los tres de EB). El gobierno, que comenzó con consejeros únicamente del PNV y de EA fue ampliado con un consejero de EB, Javier Madrazo, en septiembre de 2001.
La ilegalización de Batasuna (organización en la que se había refundado EH en junio de 2001) y las presiones del gobierno central en manos del PP hicieron que los últimos años de ese gobierno fueran difíciles ya que aun siendo mayoritario (alcanzaba los 36 escaños) no tenía la mayoría absoluta (38 escaños) del Parlamento. Así, los presupuestos de 2002 no pudieron aprobarse hasta el 23 de enero de ese mismo año y sólo gracias a la abstención de Batasuna (que había adoptado la denominación de Sozialista Abertzaleak en la Cámara de Vitoria). Aun así, las partidas presupuestarias se votaron una por una y los presupuestos de más de la mitad de los departamentos se rechazaron, lo que significó que se prorrogaban las del año anterior. Los presupuestos del año siguiente se salvaron de la prórroga debido al retraso del líder popular, Jaime Mayor Oreja, en llegar a la votación. Para 2004, se volvieron a prorrogar los presupuestos, al votar toda la oposición en contra, en tanto que para 2005, una equivocación de un parlamentario socialista permitió aprobar finalmente los presupuestos.
Nuevo Estatuto Político para la Comunidad del País Vasco (Plan Ibarretxe)
En cumplimiento de su programa electoral, el Gobierno Vasco propuso una reforma del estatuto de autonomía del País Vasco, con el nombre de Estatuto Político de la Comunidad de Euskadi, más conocido por el nombre de su promotor: Plan Ibarretxe.
El Plan Ibarretxe, con una propuesta soberanista basada en la «libre asociación» entre el País Vasco y España, la soberanía compartida y el derecho de autodeterminación, se presentaba como una tercera vía entre las posturas denominadas constitucionalistas del PP y el PSE-EE (PSOE) y el independentismo de EH y ETA. La propuesta se definía como una «propuesta de pacto político que se materializa en un nuevo modelo de relación con el Estado español, basado en la libre asociación y compatible con las posibilidades de desarrollo de un estado compuesto, plurinacional y asimétrico», la cual desbordaba el marco constitucional tal como existía en ese momento, al plantear la creación de un nuevo marco jurídico en el que la práctica totalidad de las competencias estarían en manos de las instituciones del País Vasco, dejando al Estado español unas funciones meramente residuales. Las principales fuerzas políticas españolas consideraron que el plan violaba tanto en los procedimientos, como en los contenidos, el marco de la Constitución Española. Para poder entrar en vigor, la propuesta, al ser una reforma de un estatuto de autonomía, debía ser aprobada por mayoría absoluta en el Parlamento Vasco y posteriormente ser admitida a trámite en el Congreso de los Diputados de España, para luego ser tramitado en el propio Congreso y en el Senado mediante ley orgánica. Ibarretxe también declaró que, en caso de que la propuesta fuese paralizada en las Cortes españolas, convocaría un referéndum en el País Vasco para que los vascos pudieran decidir su futuro.
Como respuesta, el 28 de noviembre de 2003, el gobierno de José María Aznar aprobó añadir al Código Penal un artículo por el que se consideraba un delito castigado con penas de entre tres a cinco años de prisión y entre seis a diez años de inhabilitación absoluta el que un cargo público convocase elecciones o referendos sin la autorización de las Cortes. La reforma fue tramitada rápidamente y aprobada como una enmienda del Partido Popular a la Ley Orgánica de Arbitraje, con los únicos votos a favor del PP. El resto del grupos parlamentarios del Congreso de los Diputados se abstuvieron. La reforma entró en vigor el 23 de diciembre.