Prvotní rozložení vody na kyslík a vodík pomocí elektrického proudu, dokázal již v roce 1802 Sir Davy Humphrey. Závěry jeho experimentu dokázaly zajímavý fakt, že se na elektrodách tvoří nepatrný elektrický náboj i přesto, že zdroj elektrického proudy byl již odpojen. Tento jev však nebyl schopen dostatečně vysvětlit.

Základní princip palivového článku byl objeven v roce 1838 švýcarským vědcem Christianem Friedrich Schönbeinem, který jej popsal v jedné z publikací již o rok později. Článek pojednával o objevu ozónu a o reakci kyslíku a vodíku, kdy na elektrodách lze zjistit elektrický potenciál. První fungující prototyp sestavil na základě této teoretické práce Sir William Growe, který je považován za „otce“ palivových článků. Roku 1843 tuto problematiku dále rozebírá v článku, který je zaměřen na uchovávání elektrické energie pomocí plynů.

Samotný termín „Palivový článek“ patrně použili jako první Charles Langer a Ludwig Mond až v roce 1889, kdy se pokusili vyvinout článek napájený svítiplynem. Výrobní náklady tohoto článku však byly příliš vysoké, a to i přes zlepšení Williama Jacquese, který použil jako elektrolyt kyselinu fosforečnou.

Po vynálezu dynama Wernerem von Siemensem upadl částečně palivový článek v zapomnění a až v roce 1952 první použitelný prototyp o výkonu 5 kW prezentoval jeho vynálezce Francis Thomas Bacon, kde jako elektrolyt slouží hydroxid draselný.

V 60. letech 20. století se stal palivový vodíkový článek díky kosmickému výzkumu důležitým a řešeným tématem, protože článek má proti jiným zdrojům výhodnější poměr energie/hmotnost. Byly jimi například vybaveny kosmické lodi programu Apollo, ale byly zdrojem energie i pro raketoplány, přičemž v každém raketoplánu byly umístěny tři palivové články, každý o trvalém výkonu 7 kW a špičkovém 12 kW. Jednou z velkých výhod bylo hlavně to, že odpadním produktem vodíko-kyslíkového článku je čistá voda, která mohla být ve vodním režimu raketoplánu využita.

Po druhé světové válce má německé námořnictvo zákaz používání jaderných ponorek, z tohoto důvodu hledalo náhradní řešení zdroje elektrické energie. Jako jedno z možných řešení se ukázalo použití palivových článků, kdy ve starších generacích plavidel byly používány články o výkonu 30 kW a v novějších jsou již používány články o výkonu 120 kW. V letech 2005 – 2008 byla v Norsku zprovozněna první vodíková dálnice s názvem HyNor o délce 560 km. V roce 2008 byla v USA zprovozněna ve městech Los Angeles, San Francisco a Las Vegas síť tankovacích stanic na vodík a půjčoven automobilů s palivovým článkem. Jedná se o vozidla FCX Clarity od firmy Honda s PEM palivovým článkem o výkonu 100 kW. V červnu 2009 byl České republice zprovozněn TriHyBus, jedná se o první autobus s palivovým článkem v bývalém východním bloku. V říjnu 2009 byla v Neratovicích zprovozněna první tankovací stanice na vodík v zemích bývalého východního bloku.