在 Windows 系统下，文本文件编码存在有无 BOM 的编码。BOM（Byte Order Mark），字节顺序标记，出现在文本文件头部，Unicode 编码标准中用于标识文件是采用哪种格式的编码。有文件 BOM 头的 Unicode 编码容易识别，无 BOM 文件头的要在文件中查找字节顺序来判断 Unicode 编码。 识别 UTF32、UTF16、UTF8 后，就是 ASCII 文件与简体中文编码识别。 随着信息技术的迅速发展，文本文件编码的识别变得尤为重要。在处理不同来源的文本数据时，了解和识别文本的编码格式是保证数据准确性和兼容性的基础。本篇将深入探讨文件编码识别的重要性和技术细节，重点介绍如何识别包括UTF32、UTF16、UTF8以及ASCII在内的常见文本编码，以及简体中文编码。 UTF32、UTF16和UTF8都是Unicode字符集的编码方式。Unicode旨在为世界上所有的字符提供一个唯一的编码系统，以解决不同国家和地区字符编码不一致的问题。UTF32、UTF16、UTF8是Unicode的三种主要编码形式，它们各有特点。UTF32使用固定长度的32位来表示一个字符，UTF16使用两个字节或四个字节表示一个字符，而UTF8则是一种变长的编码形式，使用1到4个字节来表示一个字符。 UTF32编码由于使用固定长度，其编码和解码过程相对简单。但是由于其每个字符占用4个字节，因此在存储上效率较低，不适用于大文件或者对存储空间要求高的场景。UTF16相较于UTF32在存储效率上有显著提高，对于大多数字符它使用两个字节进行编码，对于一些特殊的字符则使用四个字节。UTF8由于其变长的特性，对于包含大量ASCII字符的文本文件非常友好，可以在保证广泛兼容的同时尽可能节省存储空间。 ASCII编码是最早也是最简单的字符编码系统，它使用7位二进制数表示字符，只能表示128个字符，因此它只能表示英文字符和一些控制字符。由于其历史悠久，ASCII编码广泛用于各种计算机系统中。 在Windows系统下，文本文件编码的识别尤为重要，因为不同的程序和系统可能使用不同的编码。BOM（Byte Order Mark，字节顺序标记）是Unicode编码标准中用于标识文件编码格式的一个机制。具体来说，UTF-8、UTF-16和UTF-32编码的文本文件都可以在文件开头包含一个特定的BOM来表明其编码类型。 UTF-8编码的文件可能会以EF BB BF开头，UTF-16编码的文件可能会以FF FE或FE FF开头，分别代表小端字节序和大端字节序。UTF-32编码的文件可能会以FF FE 00 00或00 00 FE FF开头。如果文件中没有BOM，那么编码识别就变得更加复杂，需要依据字符编码的规则进行推断。 在没有BOM的情况下，编码的识别通常涉及到对文件中字符的字节顺序和字节模式的分析。例如，如果一个文件中大部分字节都是小于0x80的，那么它可能是UTF-8编码；如果字节模式主要为0xNN 0x00或者0x00 NN，那么可能是UTF-16编码；如果文件中出现大量连续的0x00字节，那么可能是UTF-32编码。 在进行简体中文编码识别时，要注意简体中文字符主要包含在Unicode的CJK（Chinese, Japanese, Korean）统一汉字区块中。简体中文编码的识别通常需要首先确定文件的编码方式，然后检查字符是否属于该编码所覆盖的汉字范围。由于简体中文主要使用的是GB2312和GBK编码，它们并不属于Unicode编码，因此在编码识别中需要注意区分。 由于各种编码方式的特点和适用场景不同，一个有效的编码识别程序需要具备处理各种情况的能力，并且能够准确快速地识别文件编码。编写这样的程序需要深入理解各种编码机制，并且熟悉字节序、字节模式等低级细节。在实际应用中，编码识别程序可以大大提高文本处理软件的兼容性和准确性，从而提升用户体验。 编码识别对于处理来自不同来源的文本数据至关重要。一个完善的编码识别程序能够帮助开发者和用户解决兼容性问题，并确保文本数据的准确处理。随着全球信息化的不断推进，编码识别技术将变得更加重要，成为一个不可或缺的工具。

如果很多时候我们没有约定好文件格式，我们就难以读取文件内容，此时，我们就需要一个工具来探测所读文本的编码格式，此工具可以允许用户读取诸如utf-8，gbk,gb2312一类的文件格式。内置了一些常用的探测实现类，这些探测实现类的实例可以通过add方法谁最先返回非空的探测结果，就以该结果为准”的原则。返回探测到的字符集编码。可用于检查HTML、XML等文件或字符流的编码,构造方法中的参数用于 指示是否显示探测过程的详细信息

什么是base64 Base64是一种加密方法，可将人类可读（UTF-8编码）的文本转换为base64解码格式。 结果只是一些随机字母，但是对它们进行解码后，它们又变得可读。 我为什么要使用它？ 并不是很多原因，但是有一些例子： 将“您不想被其他人找到的页面”的链接存储到txt文件中，对其进行编码，完成了。 创建密码列表并对其进行解码，以使他人无法如此轻松地读取它 请记住，知道字母垃圾是Base64的每个人都可以轻松地再次对其进行编码，因此，如果您知道谁可能会搞混的话，此方法才是安全的。 该工具的用法 很简单，看一下： b64.exe encode/decode -i=path/to/input/file -o=path/to/output/file

对各个国家的语言识别，文本文件进行编码识别和编码转换，utf-8转gb18030 , utf-8转gb2312等等，常见的编码格式都是可以转换的，使用的是ICU的库，比较权威

一个好用的文本文件编码转换器,可以实现文本文件的编码转换，支持常用编码转换，例如Unicode,utf-8,ANSI之间相互转化

rar包里直接打开exe文件,在界面批量选择文本文件,转换成你想要的编码文件,绝对的神器...

从国外网站下载的文件类，支持ASCII, UTF-8, Unicode 16 little/big endian四种格式。

支持UTF-8支持GB232支持BIG5之间相互转换带BOM

用于判断文本文件的jar包，是开源工程 juniversalchardet所用的。详见http://blog.csdn.net/u012587637/article/details/40107557

juniversalchardet 探测文本文件编码 这是JAVA用的,官网有C/C++的版本,可以自行下载