Осмотр городских достопримечательностей лучше всего начать с площади Гроте-Марк, в центре которой стоит собор Св. Баво. Соборная колокольня высотой 80 м видна почти из любой точки. Деревянный свод собора поддерживают 28 опор, на стене правого нефа висит старый план города. Пол покрывают надгробные плиты черного цвета. В соборе захоронено около 1100 человек, в том числе Ф. Хальс. Три корабля под сводом напоминают об участии Харлема в V Крестовом походе в XIII в. Собор украшает алтарь работы братьев Яна и Хуберта ван Эйк. Кроме того, одним из красивейших органов в мире считается орган собора. Его высота 30 м, у него 3 клавиатуры, 68 регистров, 5000 труб будучи в Харлеме, на этом органе играли Моцарт и Гендель.
На площади, севернее собора, стоит памятник Лауренсу Костеру голландцы считают, что именно он, а не Иоганн Гуттенберг, был подлинным изобретателем книгопечатания.
Также на площади расположена ратуша в так называемом Графском зале, которой можно увидеть фамильные портреты и витражи XVII в.
Одна из лучших и знаменитейших достопримечательностей Харлема - музей Франса Хальса. В XVII в. в этом здании размещалась богадельня, в которой провел последние дни жизни известный голландский художник Ф. Хальс. Музей знаменит собранием картин харлемской школы живописи XVII в. и, в первую очередь, превосходной коллекцией картин Ф. Хальса. Богатство палитры его работ отметил Ван Гог - он насчитал 27 оттенков одного только черного.
В Харлеме расположен и самый старый музей Голландии, основанный в 1778 г. Его основатель, богатый торговец Петер Тейлер ван дер Хулст (чье имя носит музей), решил выставлять разные научные и технические новинки. Со временем к ним прибавились материалы по природоведению и великолепное собрание графики: работы Микеланджело, Рафаэля, Ватто и Рембрандта.