您现在的位置是:首页 > 技术教程 正文

我用Streamlit+LLM(大型语言模型)轻松实现Web聊天

admin 阅读: 2024-03-29
后台-插件-广告管理-内容页头部广告(手机)

Streamlit是时下比较热门的一个基于Python的Web应用程序框架,它可以在几分钟内将数据转化为可共享的Web应用程序,无需前端开发经验,使用纯Python代码实现,简单且高效。ChatGPT是目前非常火的OpenAI公司开发的聊天机器人模型,它无所不知就像一本大百科全书,它可以帮你做很多繁杂的日常工作,比如可以代你写文章,代你做excel表格,甚至代你写代码。今天我们要将两者结合起来开发一个基于web的应用聊天小程序。

安装OpenAPI和Streamlit包

我们需要在python环境中安装openai和streamlit的第三方python包,可以通过在命令行窗口中安装这些包:

  1. pip install openai
  2. pip install streamlit
  3. pip install streamlit_chat

聊天机器人接口参数说明

  • model:模型名词
  • prompt:您对机器人提出的问题
  • temperature:温度参数,该参数控制生成文本的随机性级别。较高的温度参数会导致更多变化且可能不太连贯的响应,而较低的t温度参数会产生更可预测且可能更连贯的响应。
  • max_tokens:应答语句的长度 

创建聊天Python代码文件

我们需要创建一个用于聊天的streamlit的代码文件 chat_bot.py:

  1. # chat_bot.py
  2. import openai
  3. import streamlit as st
  4. from streamlit_chat import message
  5. #申请的api_key
  6. openai.api_key = "xxxxxxxxxxxxxxxxx"
  7. def generate_response(prompt):
  8. completion=openai.Completion.create(
  9. model='text-davinci-003',
  10. prompt=prompt,
  11. max_tokens=1024,
  12. temperature=0.6
  13. )
  14. message=completion.choices[0].text
  15. return message
  16. st.markdown("#### 我是ChatGPT聊天机器人,我可以回答您的任何问题!")
  17. if 'generated' not in st.session_state:
  18. st.session_state['generated'] = []
  19. if 'past' not in st.session_state:
  20. st.session_state['past'] = []
  21. user_input=st.text_input("请输入您的问题:",key='input')
  22. if user_input:
  23. output=generate_response(user_input)
  24. st.session_state['past'].append(user_input)
  25. st.session_state['generated'].append(output)
  26. if st.session_state['generated']:
  27. for i in range(len(st.session_state['generated'])-1, -1, -1):
  28. message(st.session_state["generated"][i], key=str(i))
  29. message(st.session_state['past'][i],
  30. is_user=True,
  31. key=str(i)+'_user')

启动Streamlit

 我们需要在命令行窗口执行启动streamlit的命令:

streamlit run chat_bot.py

输入启动streamlit命令后,会弹出浏览器, 如果没有弹出浏览器可以自行打开浏览器并输入上图中的url地址,接下来就可以开始和ChatGPT聊天了:

 

参考资料

Streamlit documentation

OpenAI API documentation

标签:
声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

在线投稿:投稿 站长QQ:1888636

后台-插件-广告管理-内容页尾部广告(手机)
关注我们

扫一扫关注我们,了解最新精彩内容

搜索
排行榜