下一个标记的不确定性。其核心为EvolvedTransformerseq2seq架构，也就是通过进化神经架构搜索发现一种Transformer体系结构，可以改善困惑度。”
    罗晟调出一组新的信息面板，补充道：“小蓝由ET编码器和13个ET解码器组成，编码器用于处理对话语境，帮助小蓝理解对话中已经说过的内容，解码器则是利用这些信息生成实际的回复。”
    与会的一位AI技术研究员凝视着大屏幕里的面板信息自言自语的说道：“通过超参数调整后，性能更强的解码器是实现高质量对话的关键。”
    罗晟看向那位研究员干脆利落的点名：“很好，这一块你来搞定。”
    “好的老大，但我需要权限。”
    罗晟点点头，在自己的电脑上敲打了几下：“授权了。另外这是一个有着52亿参数的端到端神经对话模型，值得注意的是，困惑度，这是一个很容易在各种神经对话模型中实现的计算指标，这里有一份数据。”
    众人一听再次看向会议室里的大屏幕。
    罗晟说道：“困惑度指标。由于人类评价存在的问题，一个能够自动计算的评价指标很重要，这个指标需要能够和人类评价精确对应。这里有8个不同的模型版本，分别有着超参数和架构上的区别，如层数、注意力head数量、训练步数。用的还是ET，还是一般的Transformer，从这份数据来看，越低的困惑度模型有着更高的得分，两者的相关系数很

本章还未完，请点击下一页继续阅读>>>