BERT增白
这是“美化的Pytorch实施。
BERT增白在文本语义搜索中非常实用,其中增白操作不仅提高了无监督语义矢量匹配的性能,而且减小了矢量维,有利于减少内存使用量,提高矢量搜索引擎的检索效率,例如,FAISS。
这种方法最早是由苏建林在他的博客中提出的 。
重现实验结果
准备
下载数据集:
$ cd data/
$ ./download_datasets.sh
$ cd ../
下载型号:
$ cd model/
$ ./download_models.sh
$ cd ../
下载数据集和模型文件后, data/和model/目录如下:
├── data
│ ├── AllNLI.tsv
│ ├── download_datasets.sh
│ └── downstream
│ ├── COCO
│ ├── CR
│
2021-08-17 15:06:24
24.01MB
Python
1