Δυτικά της οροσειράς του Δίκαιου, διατηρούνται τα ερείπια του κάστρου του οικισμού Παλαιού Πυλί, που στέκουν αγέρωχα στο χρόνο στην κορυφή ενός βραχώδους λόφου με θέα τα παράλια της Καλύμνου και της Ψερίμου. Στα τείχη του αναγνωρίζεται η κεραμική όλων των εποχών του Χαλκού, ενώ έμεινε απρόσβλητο, πραγματικό καταφύγιο κατοίκων του νησιού, στις απόπειρες κατάκτησης από τους Τούρκους. Τα ερείπια του κάστρου αποκαλύπτουν διάφορα στάδια ανοικοδόμησης. Η κεντρική του πύλη κατασκευάστηκε στα τέλη του 11ου αι με την τεχνική της «κρυφής πλίνθου» και αποτελεί μοναδικό παράδειγμα αρχιτεκτονικής τεχνικής στα Δωδεκάνησα. Η ιστορία του σταματά περίπου το 1820 εξαιτίας πιθανόν πανώλης που αποδεκάτισε τον πληθυσμό
