经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置:技术经验 » 大数据/云/AI » 人工智能基础 » 查看文章
笔记本也能飞:运行chat大模型
来源:cnblogs  作者:咬到舌头的小蛇  时间:2024/1/24 10:14:46  对本文有异议

背景

在过去的一年,ChatGPT的崛起彻底改变了我们与AI的交互方式。它不再是被动的信息提供者,而是成为了一个可以与我们自由交流、分享知识的伙伴。无论是生活中的琐事,还是工作中的难题,ChatGPT都能给出有价值的建议和信息。

同时,ChatGPT也在各个领域引发了深远的变革。在教育领域,ChatGPT可以为学生提供个性化的辅导,帮助他们理解复杂的概念。在商业领域,ChatGPT可以协助员工进行市场调研、数据分析等工作,提高工作效率。在娱乐领域,ChatGPT则可以为游戏和电影创作提供无限灵感。

那作为普通开发者的我们,如何拥有一个属于自己的「ChatGPT」呢?

技术选型

安装步骤

shibing624/chinese-alpaca-plus-13b-pth模型

介绍

image.png

本模型是 decapoda-research/llama-13b-hf 底座模型 合并 ziqingyang/chinese-llama-plus-lora-13b 和 ziqingyang/chinese-alpaca-plus-lora-13b 两个LoRA权重, 并转化为PyTorch版本权重(.pth文件),可以直接使用或者继续训练。

下载

正式下载前,需要先注册huggingface.co账号,且该步骤需要魔法上网。

  • 安装依赖
  1. pip install -U huggingface_hub
  • 下载模型
  1. huggingface-cli download --token hf_*** --resume-download --local-dir-use-symlinks False shibing624/chinese-alpaca-plus-13b-pth --local-dir shibing624/chinese-alpaca-plus-13b-pth
  • 镜像网站???
  1. 镜像网站:https://hf-mirror.com/,具体内容见网页详情。

LlamaChat

介绍

image.png

LlamaChat是一款MacOS应用程序,可以让你用LLaMA、Alpaca 、 GPT4等模型进行聊天。

下载
安装

image.png

配置

image.png
image.png

聊天

image.png

总结

与所有技术一样,ChatGPT也引发了一些担忧和争议。人们担心AI的发展会取代人类的工作,或者导致信息泛滥、假消息传播等问题。但这些担忧并不应阻碍我们对AI的探索和发展。正如ChatGPT所示,AI的真正价值在于它能够帮助我们解决问题、提升生活质量,而不是替代我们。

至此,大家本地已经有了一个属于自己的「ChatGPT」,希望它在未来能够带给我们更多的惊喜和可能性。

原文链接:https://www.cnblogs.com/zhaotianen/p/17980599

 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号