ColossalChat是由Colossal-AI推出的免費(fèi)開源版ChatGPT聊天機(jī)器人替代品，目前其GitHub項(xiàng)目已斬獲26K星標(biāo)。

作為當(dāng)今領(lǐng)先的開源大型人工智能模型解決方案，Colossal AI是第一個(gè)基于LLaMA預(yù)訓(xùn)練模型開源完整RLHF機(jī)制的公司，該機(jī)制包括監(jiān)督數(shù)據(jù)收集、監(jiān)督微調(diào)、獎(jiǎng)勵(lì)模型訓(xùn)練和強(qiáng)化學(xué)習(xí)微調(diào)，并共享ColossalChat——與最初的ChatGPT技術(shù)解決方案非常相似的開源項(xiàng)目。

該開源項(xiàng)目包括以下內(nèi)容：

• Demo演示：一個(gè)交互式演示，無(wú)需注冊(cè)或加入等待名單即可在線試用

• 訓(xùn)練代碼：開源完整的RLHF訓(xùn)練代碼，包括70億和130億的模型。

• 數(shù)據(jù)集：開源104K中英文雙語(yǔ)數(shù)據(jù)集。

• 推理：僅需要4GB GPU內(nèi)存便可進(jìn)行70億參數(shù)模型的4-bit量化推理。

• 模型權(quán)重：在單個(gè)服務(wù)器上只需少量計(jì)算能力即可實(shí)現(xiàn)快速?gòu)?fù)制。