Ο Β’ Παγκόσμιος Πόλεμος αρχίζει με την επίθεση της γερμανικής Βέρμαχτ στην Πολωνία τον Σεπτέμβριο του 1939. Στις 28 Οκτωβρίου 1940, η Ιταλία, σύμμαχος της ναζιστικής Γερμανίας, επιτίθεται στην Ελλάδα. Η Ιταλία, η Γερμανία και η σύμμαχή τους Βουλγαρία καταλαμβάνουν την ηπειρωτική Ελλάδα μέχρι τα τέλη Απριλίου του 1941 και διαιρούν τη χώρα σε ζώνες κατοχής. Τα γερμανοκρατούμενα τμήματα τελούν υπό στρατιωτική διοίκηση, η οποία συνεργάζεται με μια ελληνική δωσιλογική κυβέρνηση.
Όταν η Ελλάδα χωρίζεται σε ζώνες κατοχής, η Γερμανία αφήνει μεγάλα τμήματα στους Ιταλούς και Βούλγαρους κατακτητές, αλλά κρατά υπό τον έλεγχό της περιοχές ζωτικής σημασίας για την πολεμική προσπάθεια. Η Καρυά βρίσκεται πάνω στη σιδηροδρομική γραμμή Θεσσαλονίκης – Αθήνας, η οποία διέρχεται σε μεγάλο βαθμό από την ιταλική ζώνη. Ωστόσο, οι Γερμανοί διατηρούν τον έλεγχο ολόκληρου του σιδηροδρομικού δικτύου καθώς και σημαντικών λιμανιών. Με αυτόν τον τρόπο, θέλουν να μεταφέρουν απρόσκοπτα στη Γερμανία τον ορυκτό πλούτο, καθώς και ύλες και προϊόντα που χρειάζονται για την πολεμική βιομηχανία.
Η γερμανική κατοχή στην Ελλάδα είναι εξαιρετικά βίαιη: η Βέρμαχτ λεηλατεί αδίστακτα τη χώρα. Η οικονομία καταρρέει και εκατοντάδες χιλιάδες Έλληνες πεθαίνουν λόγω της πείνας. Διαμορφώνεται αντίσταση κατά της κατοχής. Οι δύο μεγαλύτερες οργανώσεις ήταν ο κομμουνιστικός ΕΛΑΣ και ο εθνικιστικός ΕΔΕΣ. Από το φθινόπωρο του 1942, οι αντάρτες ελέγχουν μεγάλες περιοχές στα βουνά της κεντρικής Ελλάδας. Οι κατοχικές δυνάμεις αντιμετωπίζουν με σκληρότητα τους αντιστασιακούς και τους αμάχους, άντρες και γυναίκες. Συλλαμβάνουν πολίτες ως ομήρους και τους εκτελούν. Εκατοντάδες χωριά καίγονται σε αντίποινα.
Περισσότεροι από εκατό χιλιάδες μη Εβραίοι και Εβραίοι Έλληνες υποχρεώνονται να εκτελέσουν καταναγκαστική εργασία. Στις 30 Ιανουαρίου 1943, οι Γερμανοί ανακοινώνουν την υποχρεωτική εργασία (πολιτική επιστράτευση) για άνδρες ηλικίας 18 έως 50 ετών σε όλες τις ζώνες κατοχής στην Ελλάδα. Μετά από κάλεσμα των αντιστασιακών οργανώσεων τον Φεβρουάριο και τον Απρίλιο του 1943, χιλιάδες διαδηλώνουν ενάντια στα μέτρα, στις μεγάλες πόλεις. Το διάταγμα αποσύρεται. Ωστόσο, οι Γερμανοί πραγματοποιούν μεγάλες επιδρομές, συλλαμβάνουν και μεταφέρουν δεκάδες χιλιάδες κρατούμενους σε στρατόπεδα συγκέντρωσης στην Ελλάδα και στη συνέχεια τους μεταφέρουν για καταναγκαστική εργασία, μεταξύ άλλων και σε στρατόπεδα συγκέντρωσης στη ναζιστική Γερμανία.
Η πόλη της Θεσσαλονίκης αποτελεί σημαντικό θρησκευτικό και πολιτιστικό κέντρο του ευρωπαϊκού εβραϊσμού. Ανήκε στην Οθωμανική Αυτοκρατορία μέχρι το 1912. Γύρω στο 1900, ο μισός πληθυσμός της Θεσσαλονίκης ήταν Εβραίοι. Οι περισσότεροι Εβραίοι είναι Σεφαραδίτες: οι πρόγονοί τους εκδιώχθηκαν από την Ισπανία και την Πορτογαλία γύρω στο 1500. Διατηρούν την ιουδαιο-ισπανική τους γλώσσα (Λαντίνο) και τα έθιμά τους για πολλές γενιές. Μετά από κύματα μετανάστευσης, περίπου 50.000 Εβραίοι εξακολουθούν να ζουν στη Θεσσαλονίκη το 1940. Αμέσως μετά τον διαμελισμό της Ελλάδας τον Μάιο του 1941 οι Γερμανοί αρχίζουν μέτρα δίωξης κατά του εβραϊκού πληθυσμού.
Ο εβραϊκός πληθυσμός της Θεσσαλονίκης επλήγη πρώτος από τον ναζιστικό διωγμό. Οι Γερμανοί κλείνουν τα γραφεία των εβραϊκών εφημερίδων, λεηλατούν τους θησαυρούς τέχνης των εβραϊκών κοινοτήτων και υποκινούν το μίσος των Χριστιανών Ελλήνων για τους Εβραίους κατηγορώντας τον εβραϊκό πληθυσμό για την πείνα. Στα τέλη του 1942, το εβραϊκό νεκροταφείο, που υπήρχε για αιώνες, καταστρέφεται ολοσχερώς.
Στη Θεσσαλονίκη η Βέρμαχτ θέλει να επιστρατεύσει Εβραίους άνδρες για καταναγκαστική εργασία. Για το σκοπό αυτό, συγκεντρώνει πάνω από 9.000 από αυτούς, ηλικίας 18 έως 45 ετών, το Σάββατο (κατά την εβραϊκή αργία του Σσαμπάτ), 11 Ιουλίου 1942, στην κεντρική πλατεία Ελευθερίας. Εκεί αναγκάζονται να σταθούν στον ήλιο για ώρες, χλευάζονται και ξυλοκοπούνται από Γερμανούς στρατιώτες και συνεργάτες τους. Μερικές εβδομάδες αργότερα, 3.500 από αυτούς μεταφέρονται σε διάφορα μέρη της βόρειας Ελλάδας για καταναγκαστική εργασία.
Οι Γερμανοί επιβάλλουν στους Εβραίους απαγόρευση κυκλοφορίας, τους αναγκάζουν να φορούν κίτρινα αστέρια και δημιουργούν το 1943 συνοικισμούς γκέτο. Στη συνοικία Μπαρόν Χιρς κοντά στο σιδηροδρομικό σταθμό δημιουργείται ένα στρατόπεδο διέλευσης. Από τον Μάρτιο του 1943 ξεκινούν από εδώ οι μεταφορές προς το γερμανικό στρατόπεδο εξόντωσης Άουσβιτς. Ταυτόχρονα, τουλάχιστον 1.500 άνδρες μεταφέρονται για καταναγκαστική εργασία, μεταξύ άλλων στο σιδηροδρομικό σταθμό της Καρυάς.
Μεταξύ 15 Μαρτίου και Αυγούστου 1943, σχεδόν 46.000 Εβραίοι, παιδιά, γυναίκες και άνδρες εκτοπίζονται από τη Θεσσαλονίκη στο Άουσβιτς με 19 μεταφορές. Το ταξίδι διαρκεί τουλάχιστον πέντε ημέρες. Αμέσως μετά την άφιξή τους, τα SS δολοφονούν τους περισσότερους από αυτούς σε θαλάμους αερίων. Άλλοι πεθαίνουν ως αποτέλεσμα της καταναγκαστικής εργασίας, της βίας, των ασθενειών και του υποσιτισμού. Το 1944 ακολουθούν οι εκτοπισμοί από την υπόλοιπη Ελλάδα. Συνολικά, σχεδόν 60.000 Έλληνες Εβραίοι μεταφέρονται στα στρατόπεδα εξόντωσης και δολοφονούνται.
Τον Οκτώβριο του 1944, η Βέρμαχτ αποσύρεται από την Ελλάδα. Ως αποτέλεσμα της στοχευμένης καταστροφής σπιτιών, χωριών και δρόμων, καθώς και της κλοπής των ελληνικών φυσικών πόρων και εμπορικών αγαθών, η οικονομική κατάσταση είναι καταστροφική. Δεκάδες χιλιάδες Έλληνες υποφέρουν από υποσιτισμό και μολυσματικές ασθένειες. Επιπλέον, τον Δεκέμβριο του 1944 ακολουθούν νέες συγκρούσεις: οι Βρετανοί υποστηρίζουν την ελληνική κυβέρνηση, η οποία έχει επιστρέψει από την εξορία, στην προσπάθειά της να νικήσει τον αντάρτικο στρατό του ΕΛΑΣ.
Περίπου μόνο 10.000 Έλληνες Εβραίοι επιζούν από το Ολοκαύτωμα. Οι επιζώντες συνήθως υποφέρουν από τις τραυματικές εμπειρίες των διώξεων για το υπόλοιπο της ζωής τους. Η ανοικοδόμηση των συναγωγών, των καταστημάτων και των σπιτιών είναι συχνά δυνατή μόνο με διεθνή βοήθεια, όπως αυτή της Αμερικανικής Κοινής Επιτροπής Διανομής (AJDC). Λόγω των υλικών δυσκολιών, αλλά και των αντιεβραϊκών αισθημάτων, περίπου 5.000 από τους επιζώντες μεταναστεύουν στην Παλαιστίνη (Ισραήλ από το 1948) και στις ΗΠΑ μέχρι τις αρχές της δεκαετίας του 1950.
Το 1946 αποκαθίσταται η μοναρχία στην Ελλάδα. Την ίδια χρονιά, ο κομμουνιστικός Δημοκρατικός Στρατός Ελλάδας (ΔΣΕ) αρχίζει ανταρτοπόλεμο εναντίον της. Εβραίοι άνδρες αναγκάζονται κι αυτοί να πολεμήσουν στον ελληνικό κυβερνητικό στρατό εναντίον των ανταρτών του ΔΣΕ. Ο πόλεμος λήγει το 1949 με την ήττα της Αριστεράς. Περισσότεροι από 50.000 Έλληνες σκοτώνονται στον εμφύλιο πόλεμο. Οι κομμουνιστές διώκονται, μεταξύ των οποίων Εβραίοι που επέζησαν με τη βοήθεια των κομμουνιστικών αντιστασιακών ομάδων. Στις αρχές της δεκαετίας του 1950, η Ελλάδα απελαύνει στο Ισραήλ τους τελευταίους από αυτούς τους Εβραίους πολιτικούς κρατούμενους.