|
机械之心报道 编纂 ：泽南 直接开源 ，大羊随意试用 。竞品 出 Stable Diffusion 的绘图公司也出语言大模子了，下场还挺好 。最火本周三 ，公司StableLM 的开源宣告引来了科技圈的关注。 Stability AI 是模最近期势头正盛的守业公司，由于开源的小亿 AI 绘图工具 Stable Diffusion 而饱受好评 。在周三的参数宣告中 ，该公司宣告其语言大模子现已经可供开拓职员在 GitHub 上运用以及改编。大羊 与业内标杆 ChatGPT 同样 ，竞品StableLM 旨在高效地天生文本以及代码 。绘图它在名为 Pile 的最火开源数据集的更大版本上妨碍磨炼 ，其中搜罗来自种种源头的公司信息 ，搜罗维基百科、开源Stack Exchange 以及 PubMed ，共 22 个数据集，容量抵达 825GB ，1.5 万亿个 token 。 Stability AI 展现 ，StableLM 模子当初可用版本的参数在 30 亿到 70 亿之间 ，未来将有 15 亿到 650 亿规模的多种参数模子可用 。  名目链接 ：https://github.com/stability-AI/stableLM/  凭证目祖先们的测试 ，假如跑 7B 模子（8 bit） ，需要用到 12GB 的显存 。 Stability AI 也放出了一些 StableLM 的问答示例 ：    StableLM 基于 Stability AI 此前与非营利机关 EleutherAI 相助开拓的开源语言模子 ，搜罗 GPT-J 、GPT-NeoX 以及 Pythia ，新模子面向尽可能大的用户群。此前在 Stable Diffusion 上 ，Stability AI 经由多种方式提供其文本到图像 AI 的技术 ，搜罗果真演示、软件测试版以及模子的残缺下载，也应承开拓职员运用其工具并妨碍种种集成 。 比照 OpenAI 的封锁 ，Stability AI 不断把自己定位为 AI 钻研社区的一员 ，咱们约莫率会在 StableLM 上看到以及上月宣告的 Meta 开源 LLaMa 语言模子同样的情景 。大批基于原版模子的算法可能会泛起 ，在较小模子体量之上实现很好的下场 。  StableLM 的微调版谈天界面。此外 ，如今每一总体都可能试验在 Hugging Face 上托管的 StableLM 微调谈天模子上以及 AI 妨碍对于话 ：https://huggingface.co/spaces/stabilityai/stablelm-tuned-alpha-chat 以及所有语言大模子同样，StableLM 模子依然存在「幻觉」下场 ，假如你试验问它若何制作花生酱三明治 ，StableLM 会给出一个颇为重大且荒唐的食谱 。它还建议人们在慰问卡上削减一张「幽默的图画」 。 Stability AI 正告说 ，尽管它运用的数据集理当有助于「将根基语言模子向导到『更清静』的文本扩散中 ，但并非所有的私见以及毒性都可能经由微调来减轻 。 如今 StableLM 模子已经在 GitHub 存储库中上线。Stability AI 展现将在不久的未来宣告一份残缺的技术陈说 ，此外还将启动众包 RLHF 妄想 ，并与 Open Assistant 等社区相助 ，为 AI 谈天助手建树一个开源数据集。 参考内容 ： https://stability.ai/blog/stability-ai-launches-the-first-of-its-stablelm-suite-of-language-models https://www.theverge.com/2023/4/19/23689883/stability-ai-open-source-large-language-model-stablelm |