nlp_xiaojiang/AugmentText/augment_simbert/README.md
2021-09-23 13:44:23 +08:00

791 B
Raw Permalink Blame History

Augment Simbert

预训练模型-UMILM

使用BERT(UNILM)的生成能力, 即BERT的NSP句对任务 - simbert(bert + unilm + adv): https://github.com/ZhuiyiTechnology/simbert - simbert: 鱼与熊掌兼得融合检索和生成的SimBERT模型 - roformer-sim: https://github.com/ZhuiyiTechnology/roformer-sim - simbert-v2(roformer + unilm + adv + bart + distill): SimBERTv2来了融合检索和生成的RoFormer-Sim模型

备注

效果还是比较好的, 可以生成多个相似句子, 但是生成式的模型一般都比较慢。

  • 相比simbert, roformer-sim效果要好些