Ernst Weiß wurde am 28. August 1882 in Brünn geboren. Seinen Vater, einen jüdischen Tuchhändler, verlor er bereits im Alter von vier Jahren; zusammen mit seinen drei Geschwistern wuchs er in der Obhut der Mutter und eines Vormunds in Brünn auf.
Nach Abschluss des Gymnasiums studierte Weiß Medizin in Prag und Wien. Danach war er in Bern und Berlin als Assistenzarzt tätig, bevor er 1911 nach Wien zurückkehrte und in der chirurgischen Abteilung des Wiedener Spitals angestellt wurde. Wegen einer Lungenerkrankung nahm er 1912 eine Stelle als Schiffsarzt an, die ihn für mehrere Monate nach Ostindien führte. Sein erster Roman Die Galeere war kurz zuvor vom S. Fischer Verlag angenommen worden und lag bereits gedruckt vor, als Weiß Mitte 1913 zurückkehrte.
Im Juni 1913 traf Weiß in Prag erstmals mit Kafka zusammen, danach in Wien im September und in Berlin im November desselben Jahres. Unmittelbar nach der Auflösung von Kafkas Verlobung mit Felice Bauer am 12. Juli 1914 — der berühmte »Gerichtshof« im Hotel Askanischer Hof in Berlin — verbrachte Kafka einige Urlaubstage mit Weiß und dessen Lebensgefährtin Johanna Bleschke (die sich später als Schauspielerin Rahel Sanzara nannte) im dänischen Ostseebad Marielyst.
Während des Ersten Weltkriegs diente Weiß als Regimentsarzt. Die freundschaftliche Verbindung mit Kafka kühlte bald ab, im April 1916 kam es sogar zu einem vorübergehenden Bruch, dessen Ursache wohl in dem — aus Kafkas Sicht — allzu fordernden und distanzlosen Verhalten Weiß’ zu suchen ist. Erst nach dem Krieg, als Weiß sich für längere Zeit in Prag niederließ, kam es wieder zu einer vorsichtigen Annäherung.
Weiß arbeitete zunächst noch als Chirurg, widmete sich dann aber völlig der Literatur. 1916 erschien sein Roman Der Kampf, 1918 Tiere in Ketten; 1919 fand in Prag die erfolgreiche Premiere seines Dramas Tanja statt. Anfang 1921 übersiedelte Weiß erneut nach Berlin, wo es auch während des halbjährigen Aufenthalts Kafkas zu freundschaftlichem Verkehr der beiden Autoren kam. Sein im Oktober 1923 erschienener Roman Die Feuerprobe gehört zu den letzten von Kafka gelesenen Büchern.
Nach dem Reichstagsbrand am 27. Februar 1933 verließ Weiß Berlin, lebte bis zum Frühjahr 1934 wieder in Prag, ging dann nach Paris. Im Exil wurde Weiß u.a. von Stefan Zweig und Thomas Mann finanziell unterstützt; ersterem widmete er seinen Roman Der arme Verschwender (Amsterdam 1936), letzterem den Roman Der Verführer (Zürich 1938). In Paris schrieb Weiß für Exilzeitschriften. Als am 14. Juni 1940 deutsche Truppen Paris besetzten, unternahm Ernst Weiß einen Selbstmordversuch; in der darauffolgenden Nacht erlag er seinen Verletzungen.