Το τμήμα έφτασε ένα βήμα πριν τη διάλυση το 2014, όμως, πλέον έχει μπει σε νέα ρότα
Το τμήμα της ανδρικής υδατοσφαίρισης του ΑΡΗ αποτελεί ένα από τα πλέον επιτυχημένα στην ιστορία τόσο του συλλόγου, όσο και του αθλήματος γενικότερα. Ιδρύθηκε το 1925 και μέσα στην επόμενη διετία κατέκτησε ισάριθμα πρωταθλήματα Θεσσαλονίκης, ενώ αποκορύφωμα αυτής της ξέφρενης πορείας του ήταν η κατάκτηση του πρώτου επίσημου πρωταθλήματος Ελλάδας τον Οκτώβριο του 1928, όπως και τις δύο επόμενες σεζόν (1929, 1930).
Ωστόσο, η επόμενη χρονιά αποτέλεσε μία κακή παρένθεση για τους «κίτρινους», που επανήλθαν δριμύτεροι το 1931 και κατέκτησαν τότε το τελευταίο τους πρωτάθλημα.
Το τμήμα μπήκε σε νέα τροχιά στα χρόνια που ακολούθησαν, ενώ από το 1967 έως το 1975 παρέμεινε χωρίς ουσιαστικά αγωνιστική δράση, εξαιτίας του γεγονότος ότι δεν υπήρχαν κολυμβητήρια στη Θεσσαλονίκη. Το… restart έγινε το ΄75, όταν και άνοιξε τις πόρτες του το Εθνικό κολυμβητήριο, με τον ΑΡΗ να ξεκινάει από την Γ΄ κατηγορία. Τρία χρόνια μετά ο σύλλογος πήρε το εισιτήριο της ανόδου για την Β΄ Εθνική, όπου παρέμεινε μέχρι το 1982. Μετά από μια 15ετία, το «κιτρινόμαυρο» πόλο επανήλθε στην Α΄ κατηγορία, όχι, όμως, για πολύ, αφού υποβιβάστηκε εκ νέου.
Στα χρόνια, που ακολούθησαν, η πορεία του τμήματος πόλο θα μπορούσε να χαρακτηριστεί μέτρια, ενώ το 2014 έφτασε έφτασε ένα βήμα πριν τη… διάλυση, καθώς είνια χαρακτηριστικό πως τον σύλλογο είχε μείνει μόλις ένα δελτίο αθλητή!
Ωστόσο, η δύσκολη αυτή κατάσταση συσπείρωσε παλαίμαχους του ΑΡΗ, οι οποίοι πήραν τις τύχες του στα χέρια τους, με αποτέλεσμα σήμερα οι «κίτρινοι» ν΄ αγωνίζονται στη Β΄ Εθνική, μετά την περσινή τους άνοδο, και να διεκδικούν με αξιώσεις την επιστροφή τους στην Α2.