大模型这么多，究竟该用哪一个？而且生成成果时好时坏，怎样破。
现在有一种办法，一招整合各家LLM特长，功能值拉满！让你不做挑选全都拿捏。
现在经过LLM-Blender大模型集成结构，你输入问题，自动帮你排序各家LLM成果，然后“交融生成”最佳答案。
就像一个生果榨汁机，各个开源LLM代表不同生果，一箩筐放进去，依据不同生果特点，分配份额榨出好喝的果汁。
这个办法不只能够有效减轻单一LLM中偏见错误和不确认性信息，且输出成果比“单用作用最好的LLM”还要高不少。
对此网友惊呼：简直太赞了！
博采众长，一个大模型搅拌机
现在开源大模型这么多，说到功能也是千差万别。通常咱们都会直接挑选最好的模型，来Prompt成果。
然鹅，这种办法也有一些约束。比如咱们无法考虑一切或许的模型输出，而且新的数据或许导致咱们挑选不同的最佳成果。
现在的办法，要么是直接经过打分比照输出答案，要么也会对不同LLM答案进行交融，但整个进程仍会保留有害、或不正确的信息，输出成果相应也会大打折扣。
因而，为了解决这个问题和进步LLM的鲁棒性、泛化和准确性，Allen AI试验室联合南加大和浙江大学的发表最新研讨论文。
论文提出一个用集成结构“LLM-Blender”，调集多个开源大模型（LLM）的优势，经过排序和交融生成两种方式，比较不同LLM生成成果，然后交融择优输出。
LLM-Blender首要包括两个模块“PairRanker”和“GenFuser”。
PairRanker模块是一个BERT结构的编码器，经过双向注意机制捕捉输出成果之间的细微差异，然后对候选输出进行排名。
PairRanker的运转流程是这样的。
首要，它会收集N个模型对每个输入的输出，并创立一切或许的输出对。
然后，运用特殊的编码器来比较这些输出对，以确认哪个候选输出更好，捕捉到细小的差异。
在推理阶段，计算一个矩阵，其间包括了一切输出对的比较成果。再依据矩阵确认给定输入的一切输出排名顺序。
终究，挑选每个输入中排名最高的候选输出作为终究成果。
GenFuser模块则是一个根据Transformer的编码器-解码器结构，运用单个编码器对输入文本和一些候选者进行编码，然后运用单个解码器解码交融的输出。
值得注意的是，它只将排名靠前的输出成果放入编码器，这样既避免了“噪音”感染，还能提升输出成果质量。
总结一下，LLM-Blender的运转流程：
PairRanker比较N个LLM的输出，然后经过GenFuser将它们交融，从排名前N的输出中生成最佳成果。
按照论文解释，经过这个运作流程，就能有效筛选并调集生成优质答案。
那么究竟作用如何，下面是团队的评估进程。
集成LLM成果优于单个LLM
为了保证能够在大量数据基础上进行评估，团队专门引进基准数据集MixInstruct，用于在指令跟从任务中对LLM的集成模型进行基准测验。
团队对数据会集的10万个样本进行训练，5000个用于验证，5000个用于测验。然后，在这11万个示例上测验11个当下热门的开源大模型，比如Vicuna、OpenAssistant、Alpaca、MPT等。
依据对多个LLM模型在MixInstruct数据集上的体现，能够看到不同模型在体现上存在显著差异，各有好坏。其间，Open Assistant、Vicuna和Alpaca是体现最好三个模型，而Mosaic MPT、StableLM和Flan-T5排名则较低。
其次，试验还得出部分优秀的模型体现并不安稳，许多其他模型的体现都优于它们。
例如，Koala的平均GPT-Rank为6.76，但大约40%的测验成果表明Koala产生了更好或同样优于Open Assistant和Vicuna的成果。
别的也能够看到，在排名东西这部分，与BARTScore和GPT-Rank的最佳模型(Open Assistant)比较，PairRanker体现出更好的功能。
而且团队表明，运用从PairRanker中选出的前三名，并将其作为GenFuser的候选。在此基础上，LLM-Blender展示了预期的卓越功能。尤其是在GPT-Rank方面，达到了3.01，明显超过了最佳模型Open Assistant的（3.90）。
在BERTScore（79.09）、BARTScore（-3.02）和BELURT（-0.17）三个排名里得分也都不错。
试验证明，经过将LLM-Blender结构进行排名和交融，显著进步了LLM终究输出成果的质量。
团队提出LLM-Blender一个立异的集成结构，经过排名的方式来削减单个LLM的缺点，并经过交融生成来整合优势，来进步LLM的能力，能够说非常新颖。
不过该办法仍有一些能够优化的地方，比如引进更多的言语模型、运用不同的类似度计算办法等。
研讨团队
论文由Allen AI试验室联合南加大和浙江大学一起发表，三位作者都来自中国，且都与南加大（USC）有关联。
姜东甫（Dongfu Jiang）是浙江大学计算机工程专业大四学生，即将去加拿大滑铁卢大学读PhD，此前曾在南加大（USC）做过研讨实习生，当时的导师正好是别的两名作者。
任翔（Xiang Ren）是南加大计算机科学系副教授和INK试验室主任，在艾伦人工智能研讨所研讨机器知识，也是谷歌学者。
林禹臣（Bill Yuchen Lin）是现任艾伦人工智能研讨所青年研讨员，本科在上海交大读计算机，PhD在南加大也是计算机相关专业。
此外，南加大NK试验室、艾伦人工智能研讨所的Mosaic团队的学者也参加了这一项目。
论文传送门：
arxiv.org/abs/2306.02…
参考链接：
[1]yuchenlin.xyz/LLM-Blender…
[2]twitter.com/billyuchenl…
—完—
