Ich würde eine weitere If-Schleife benutzen um zu erfassen wann die 800 Zeichen erreicht wurden und dann im Umkehrschluss somit das Textfeld zu deaktivieren:

If Schleife

if (inpTextAreaLength > max) {

 alert("800 Zeichen erreicht");

  textarea.readOnly = true;  //deaktiviert das textfeld

}

Kompletter Code zum ausprobieren

function check() {

const textarea = document.querySelector("textarea");

const max = 800;

const inpTextAreaLength = textarea.value.length;

if (inpTextAreaLength > max) {

  alert("800 Zeichen erreicht");

  textarea.readOnly = true;


}
}
document.addEventListener('keyup', check)