Bordtennisavdelningen hos Panathinaikos AO grundades 1924 av den store spelaren Nikos Mantzaroglou . Under de följande decennierna blev Panathinaikos ett av de bästa bordtennislagen i Grekland med många framgångar både för män och kvinnor.
1974 hade herrlaget sin största framgång i de europeiska tävlingarna. I ETTU Cup passerade Panathinaikos Turnerschaft Innsbruck, Centro Sportivo Milano, TTC Rot-Weiß Hamburg och nådde semifinal, där de diskvalificerades av Hertha BSC Berlin .