(相關(guān)資料圖)
品玩6月26日訊，據(jù) huggingface 頁(yè)面顯示，?ChatGLM-6B?的第二代版本 ChatGLM2-6B? 現(xiàn)已正式開(kāi)源。
ChatGLM2-6B 擁有比 ChatGLM-6B?更強(qiáng)大的性能，相比于初代模型，ChatGLM2-6B 在 MMLU（+23%）、CEval（+33%）、GSM8K（+571%） 、BBH（+60%）等數(shù)據(jù)集上的性能取得了大幅度的提升，在同尺寸開(kāi)源模型中具有較強(qiáng)的競(jìng)爭(zhēng)力。此外，ChatGLM2-6B基座模型的上下文長(zhǎng)度由 ChatGLM-6B 的 2K 擴(kuò)展到了 32K，并在對(duì)話階段使用 8K 的上下文長(zhǎng)度訓(xùn)練，允許更多輪次的對(duì)話。
另外，ChatGLM2-6B 可以實(shí)現(xiàn)更高效的推理，在官方的模型實(shí)現(xiàn)下，其推理速度相比初代提升了 42%，INT4 量化下，6G 顯存支持的對(duì)話長(zhǎng)度由 1K 提升到了 8K。
標(biāo)簽：
