Probleme mit Mieter

Guten Tag,

ich habe seit einigen Wochen ziemliche Probleme mit meinem Mieter. Dieser ist erst im Juni eingezogen und es wurde noch kein Mietvertrag ausgestellt. Gleich zu Beginn kam dieser nicht seinen Kautions- und Mietzahlungen hinterher. Zudem beschwerten sich die Nachbarn mehrere Male wegen Ruhestörung und komischen Gestalten, die ein- und ausgingen.
Daraufhin habe ich dem Mieter einen Brief geschrieben, dass er sich bei mir unverzüglich melden soll und die Wohnung innerhalb von 2 Wochen zu räumen hat. Leider kam darauf keine Reaktion. Nach Verstreichen dieser Frist wohnt er immer noch in der Wohnung reagiert aber nicht auf Klopfen oder Anrufen. Gestern habe ich ihm einen weiteren Brief geschrieben, dass er die Wohnung zu räumen hat.

Nun ist die Frage, was meine Rechte in dieser Situation sind? Wie kann ich den Mieter schnellstmöglich loswerden?

MfG

Stefan