Ιδρύθηκε στις 18 Μαρτίου 1900 από τέσσερις φίλους στο πατάρι του καφέ-μπαρ «Ανατολικές Ινδίες» στο Άμστερνταμ. Ήταν Κυριακή 9:45 το πρωί, όταν ο Φλόρις Στέμπελ, ο Κάρελ Ρίζερ και οι αδελφοί Χαν και Γιόχαν Ντάντε έδωσαν στο υπό σύσταση σωματείο το όνομα του αρχαίου έλληνα πολεμιστή Αίαντα (Άγιαξ στα Ολλανδικά) από τη Σαλαμίνα, που διακρίθηκε στον Τρωικό Πόλεμο. Ως χρώματα της ομάδας όρισαν το κόκκινο και το λευκό.
Στην αρχή αγωνιζόταν στις τοπικές κατηγορίες του Άμστερνταμ. Το 1911 έκανε το μεγάλο άλμα και ανέβηκε στην A' Κατηγορία της Ολλανδίας. Το 1917 κατέκτησε τον πρώτο του τίτλο (Κύπελλο Ολλανδίας) και την επόμενη χρονιά ήρθε το πρώτο πρωτάθλημα. Τότε αναγκάσθηκε να αλλάξει τη φανέλα με τις κάθετες κόκκινες και άσπρες ρίγες, επειδή ήταν ολόιδια με αυτή της Σπάρτα Ρότερνταμ, που κυριαρχούσε στην Ολλανδία και να υιοθετήσει τη λευκή φανέλα με την κάθετη πλατιά κόκκινη ρίγα μπρος - πίσω, που τον ακολουθεί μέχρι σήμερα.
Ο Άγιαξ συνέχισε την κυριαρχία εντός των τειχών, αλλά επιζητούσε και τη διεθνή καταξίωση, μετά τα μέσα της δεκαετίας του '50, όταν καθιερώθηκαν τα ευρωπαϊκά κύπελλα ποδοσφαίρου. Θα το επιτύχει στις αρχές τις δεκαετίας του '70, με προπονητή ένα παλιό του παίκτη, τον Ρίνους Μίχελς, που εφαρμόζει το λεγόμενο «ολοκληρωτικό ποδόσφαιρο». Στο σύστημα αυτό οι παίκτες δεν έχουν συγκεκριμένες θέσεις και τρέχουν ακατάπαυστα για να καλύψουν τα κενά που αφήνουν οι συμπαίκτες τους. Ο αμυντικός γίνεται επιθετικός και ο επιθετικός μετατρέπεται σε αμυντικό. Έτσι, η ομάδα βρίσκεται σε διαρκή κίνηση, μπλοκάροντας κάθε κίνηση των αντιπάλων της.
Τα αποτελέσματα δεν άργησαν να φανούν. Με μια πλειάδα νέων και ταλαντούχων ποδοσφαιριστών, ο Άγιαξ φθάνει στον τελικό του Κυπέλλου Πρωταθλητριών το 1969, αλλά συντρίβεται με 4-1 από τη μεγάλη Μίλαν του Ριβέρα. Θα φθάσει στην κορυφή δύο χρόνια αργότερα. Στις 2 Ιουνίου 1971 αντιμετωπίζει στο Γουέμπλεϊ τον Παναθηναϊκό και τον νικά εύκολα με 2-0. Το «Έπος του Γουέμπλεϊ», όπως το ονομάσαμε στην Ελλάδα για την επιτυχία του «τριφυλλιού», θα είναι η απαρχή θριάμβων για την ομάδα του Άμστερνταμ. Θα ακολουθήσουν δύο ακόμη Κύπελλα Πρωταθλητριών (1972, 1973), με προπονητή τον ρουμάνο Στέφαν Κόβατς, που παραμένει πιστός στη «φιλοσοφία» του Μίχελς. Ο Κρόιφ και η παρέα του θα γνωρίσουν τη διεθνή καταξίωση και το θαυμασμό όλου του φίλαθλου κόσμου. Το 1972, με νωπές της δάφνες από την κατάκτηση του πρώτου του τίτλου, ο Άγιαξ ήρθε στην Ελλάδα, αναζητώντας τις ρίζες του. Με αρκετούς αναπληρωματικούς, αγωνίσθηκε στο «ξερό» γήπεδο της Σαλαμίνας με τον τοπικό Αίαντα, τον οποίο νίκησε με 2-0.
Τα επόμενα χρόνια ο Άγιαξ θα συνεχίσει την κυριαρχία του στην Ολλανδία και θα έχει σποραδικές επιτυχίες στην Ευρώπη. Η εξαετία 1991-1997, με προπονητή τον Λούις Φαν Χάαλ, θα είναι ιδιαίτερα επιτυχημένη για τα «Παιδιά του Θεού» («Godenzonen»), όπως είναι ένα από τα προσωνύμια της ομάδας, με 3 πρωταθλήματα, 1 Κύπελλο, 1 Τσάμπιονς Λιγκ, 1 Κύπελλο ΟΥΕΦΑ και 1 Διηπειρωτικό. Το 1996 ο Άγιαξ ξαναβρήκε στο δρόμο του τον Παναθηναϊκό στα ημιτελικά του Τσάμπιονς Λιγκ. Οι «πράσινοι» νίκησαν με 1-0 στο Άμστερνταμ και βρέθηκαν κοντά στον τελικό. Στον επαναληπτικό της Αθήνας, όμως, ο Άγιαξ ανέτρεψε την κατάσταση και προκρίθηκε πανηγυρικά με 3-0.
Η ομάδα του Άμστερνταμ φημίζεται για τις ακαδημίες ποδοσφαίρου, που έχουν βγάλει πολύ σπουδαίους ποδοσφαιριστές, με κορυφαίο παράδειγμα τον Γιόχαν Κρόιφ. Αξιοποιεί, όχι μόνα τα εγχώρια ταλέντα, αλλά και νεαρούς παίκτες από άλλες χώρες, έχοντας ιδρύσει θυγατρικές ομάδες στη Νότιο Αφρική και τις ΗΠΑ.
Την ερυθρόλευκη φανέλα του Άγιαξ έχουν φορέσει σπουδαίοι ποδοσφαιριστές, όπως οι: Μίχελς, Κρόιφ, Μιούρεν, Ρεπ, Σουρμπίρ, Νέεσκενς, Χάαν, Κρολ, Χούλσοφ, Ράικαρντ, Φαν Τσιπ, Ζέεντορφ, Κλάιφερτ, Κούμαν, Φαν Ντερ Σαρ, Όφερμαρς, Βίτσκε, Βάουτερς, Βαν Μπάστεν, Μπέργκαμπ, Φαν Ντερ Φάαρτ, Μάρσιο Σάντος, Στέιπλετον αδελφοί Λάουντρουπ, Κανού, Λέρμπι, Μέλμπι, Όλσεν, Λιτμάνεν, Αρβελάτζε, Ιμπραήμοβιτς και οι σύγχρονοι Ντάβιντς και Σταμ. Στην ομάδα του Άμστερνταμ έχουν αγωνισθεί και τρεις Έλληνες: ο Νίκος Μαχλάς (1999-2002), ο Γιάννης Αναστασίου (2004-2006) και ο Άγγελος Χαριστέας (2005-2006).
Ο μεγάλος αντίπαλος του Άγιαξ είναι η Φέγενορντ, η ομάδα του μεγάλου λιμανιού της Ολλανδίας. Τα μεταξύ του ντέρμπι (Klassieker στα ολλανδικά) αποτελούν το ποδοσφαιρικό γεγονός της χρονιάς στην Ολλανδία. Οι συγκρούσεις μεταξύ των οπαδών τους είναι συχνές και βίαιες, με αποκορύφωμα τον θάνατο ενός οπαδού του Άγιαξ το 1997.
Οι αντίπαλοι οπαδοί και ιδιαίτερα της Φέγενορντ αποκαλούν τους φίλους του Άγιαξ «Εβραίους» (Joden), επειδή στο Άμστερνταμ υπήρχε προπολεμικά μια πολυπληθής εβραϊκή κοινότητα, που εξολοθρεύτηκε από τους Ναζί. Τα συνθήματα αντιπάθειας κατά του Άγιαξ έχουν συχνά αντισημιτικό περιεχόμενο. Ένα από αυτά είναι: «Hamas, Hamas, joden aan het gas» («Χαμάς, Χαμάς, οι Εβραίοι στους θαλάμους αερίων»). Οι οπαδοί του Άγιαξ από αντίδραση αναρτούν στο γήπεδο λάβαρα και πανό με το Άστρο του Δαυίδ και επευφημούν για να εμψυχώσουν την ομάδα τους με την κραυγή «Εβραίοι, Εβραίοι». Ανταποδίδουν στους οπαδούς της Φέγενορντ με το σύνθημα «Als de lente komt dan gooien wij bommen op Rotterdam» («Όταν θα έλθει η άνοιξη, εμείς θα βομβαρδίσουμε το Ρότερνταμ»), υπονοώντας το βομβαρδισμό του Ρότερνταμ από τους Ναζί κατά τη διάρκεια του Β' Παγκοσμίου Πολέμου.
