Höchstwahrscheinlich enthalten die RTFs dann Zeichen, die nicht aus dem ASCII bzw. Ansi Zeichenvorrat stammen, z.B. falsch codierte Unicode-Zeichen. Am besten die RTF's nochmal mit einem RTF-Editor (Wordpad, OpenOffice Writer) öffnen und neu abspeichern.
Wenn das nicht hilft: Ist irgendeins der RTFs public domain? Wenn ja, dann hier mit anhängen und ich schau es mir mal genauer an.
Beim HTML sind solche Fehler bei korrekter Angabe des Enkoding eigentlich nicht möglich. Normalerweise steht das Encoding oben in der HTML-Datei, bspw.:
Code:
<meta http-equiv="content-type" content="text/html;charset=utf-8">
Wenn dann exakt das Encoding/Charset in Calibre eingetragen wird und es immer noch nicht funktioniert, dann sind die HTMLs falsch enkodiert (also die Bytefolgen für die Zeichen in der Datei physikalisch anders kodiert). Also es wird bspw. UTF-8 ausgewiesen aber tatsächlich bspw. windows-1252, iso-8859-1 oder iso-8859-15 benutzt.