huggingface Transformers 生态后端项目 text-generation-inference 详解及部署过程

This topic created in 979 days ago, the information mentioned may be changed or developed.

经过精细化调优，Llama2 在不少场景下已经接近于开发者社区喜爱的 ChatGPT3.5 的水平。Meta 对于 Llama2 的态度非常开放，允许开发者直接商用这一强大的语言模型。那么，如何将 HuggingFace 站点上预训练的 LLM 模型运行起来？在本篇文章中，我们将分步介绍 HuggingFace 生态系统中前后端两个关键项目，帮助您深入了解如何部署和使用这些令人兴奋的技术。从 text-generation-inference 再到 Chat UI 。

https://watermelonwater.tech/huggingface-transformers%e7%94%9f%e6%80%81%e5%90%8e%e7%ab%af%e9%a1%b9%e7%9b%aetext-generation-inference%e9%83%a8%e7%bd%b2%e8%af%a6%e8%a7%a3/

每日更新的华语 youtuber 的排行榜: https://watermelonwater.tech/ytrank/

llama2

huggingface

模型

开发者

1 replies

lovestudykid

Sep 12, 2023

lol ，你榜单上我一直看到 14 才看到一个认识的 youtuber ，看完了前 200 ，一个 subscribe 的都没有