Hugging Face Blog·· 2023-11-07AI 评分32
基于 LoRA 微调对比 RoBERTa、Llama 2 与 Mistral 7B 在灾难推文分类中的表现
Comparing the Performance of LLMs: A Deep Dive into Roberta, Llama 2, and Mistral for Disaster Tweets Analysis with Lora
AI 导读
该研究利用 LoRA 技术对 RoBERTa-large (355M)、Llama-2-7b 和 Mistral-7B-v0.1 (7.3B) 进行序列分类微调，以评估其在灾难推文分析任务上的性能。实验在单张 A6000 GPU 上完成，旨在通过参数高效微调方法比较不同规模模型的效果。
来源：Hugging Face Blog · huggingface.co