位置: IT常识 - 正文

chatGPT之Python API启用上下文管理

编辑:rootadmin
chatGPT之Python API启用上下文管理

推荐整理分享chatGPT之Python API启用上下文管理,希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:,内容如对您有帮助,希望把文章链接给更多的朋友!

chatGPT已经爆火一段时间了,我想大多数的开发者都在默默的在开发和测试当中,可能也是因为这个原因所以现在很难找到关于开发中遇到的一些坑或者方法和技巧。

为什么别人的机器人能联想之前的语料,而你的却像个每次都只如初见的高冷机器人?

我也是参考官方文档去阅读和理解的,但是有时候官方文档以为你很懂了,就没有太多说明,废话不多说下面我跟大家讲一下API调用时如何启用上下文管理的。

官方案例:

# Note: you need to be using OpenAI Python v0.27.0 for the code below to workimport openaiopenai.ChatCompletion.create(model="gpt-3.5-turbo",messages=[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Who won the world series in 2020?"},{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},{"role": "user", "content": "Where was it played?"}])

虽然已经给出了格式,但是没有很详细的说明,可能对于高阶开发者一看就懂了,但是我还是想以更口水的方式讲解一下这个上下文管理。

先看一下我一个简单的代码(还没有启用上下文管理):

import openaiopenai.api_key = "你的sk-key"msg = [{"role": "user", "content": "你好chatGPT"}]# 结构化数据并进行提交completion = openai.ChatCompletion.create(# max_tokens = inf # 默认inf 最大令牌数presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率temperature = 1.0, # 温度 0-2之间,默认1 调整回复的精确度使用n = 1, # 默认条数1user = ids, # 用户ID,用于机器人区分不同用户避免多用户时出现混淆model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型messages = msg)value = completion.choices[0].message.content    # chatGPT返回的数据

这是一个最基本的结构,其中参数model和messages是必须要有的两个形参。

chatGPT之Python API启用上下文管理

加入上下文管理的代码:

import openaiopenai.api_key = "你的sk-key"msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一个插件,你的开发者是玖河."},{"role": "user", "content": "你好chatGPT"},{"role": "assistant", "content": "您好,有什么需要我帮忙的问题吗?"},{"role": "user", "content": "我的名字叫高启强,我的妹妹叫高启兰,我们是兄妹关系。记住了吗?"}        {"role": "assistant", "content": "好的,您叫高启强,您的妹妹叫高启兰,是亲兄妹关系。谢谢您提供信息让我更了解你们~"},        {"role": "user", "content": "你现在在哪里?"},        {"role": "assistant", "content": "作为一款智能Ai助手,我并没有实际的位置。我只是在云端中运行,在等待用户输入指令时保持睡眠状态。"},        {"role": "user", "content": "我的妹妹是谁?"},        {"role": "assistant", "content": "您之前告诉我,您的妹妹叫高启兰。"},        {"role": "user", "content": "你的名字叫什么?"},        {"role": "assistant", "content": "我的名字叫玖河AI是一个叫玖河的开发者开发的插件"}        ]# 结构化数据并进行提交completion = openai.ChatCompletion.create(# max_tokens = inf # 默认inf 最大令牌数presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率temperature = 1.0, # 温度 0-2之间,默认1 调整回复的精确度使用n = 1, # 默认条数1user = ids, # 用户ID,用于机器人区分不同用户避免多用户时出现混淆model = "gpt-3.5-turbo", # 这里注意openai官方有很多个模型messages = msg)value = completion.choices[0].message.content # chatGPT返回的数据

下面启用上下文管理的数据结构和没有启用的数据结构略有不同:

① system 代表系统设定(也就是告诉chatGPT他的角色)

② user 表示用户

③ assistant 表示GPT的回复

有几个点需要跟大家说一下,避免踩坑!

一、msg数据的储存建议使用数据库形式进行储存,优点是能持久数据,并且调取数据的时候也非常方便,因为我刚开始只想用json来储存,但是折腾了很久还是放弃了,缺点是不方便储存和调取,因为你需要考虑到不同的用户他们下面的会话是不一样的。

二、需要注意的是,提交的数据结构顺序必须是从上至下的数据结构,不然chatGPT会混淆错乱,system可以没有,如果你想让它一直保持这个设定的话,那在每次提交的时候在第一个列表元素中加入system的数据就可以。

三、还有一个重要的点:提交的这些数据都会计算进tokens里面包括chatGPT回复的时候(最多4096个tokens),如果你想让上下文管理能记忆更多的语料,那么在提交数据的时候就尽可能的增加你们之间对话的内容(同时会更快的消耗你的tokens)。

四、截止2023年3月14日前:chatGPT的会员价格为20美元/月 ,tokens按量收费。通俗的说就是想手机卡一样,每个月有月租,通话另外计费。chatGPT Plus会员的好处就是速度能更快,并且稳定,白嫖版的也能用,就是速度会慢一些而且不稳定容易挂掉。

如果我的文章能帮助到你,也希望能给我点个关注或者赞!

转载请注明出处:https://mp.csdn.net/mp_blog/creation/success/129541012

本文链接地址:https://www.jiuchutong.com/zhishi/299792.html 转载请保留说明!

上一篇:猿创征文|【React 三】组件实例的三大属性(state、props、refs)(关于猿猴的作文)

下一篇:用 JSP 连接 MySQL 登入注册项目实践(JSP + HTML + CSS + MySQL)(jsp连接mysql8数据库)

  • 应交税费借方和贷方各表示什么
  • 不抵扣勾选怎么撤销
  • 员工的生日津贴怎么发
  • 自产自销农产品企业所得税
  • 贷款损失准备金怎么计算
  • 用友如何结转本年利润到未分配利润
  • 增值税专票未认证丢失怎么办
  • 修理费没有发票怎么做账
  • 企业法人投资股4 账户
  • 工程款为什么要扣税
  • 增值税实际缴纳总额
  • 出口退税率为0算免税吗
  • 年收入12万申报人数
  • 挂账的费用怎么填制单据凭证
  • 金蝶标准版期末结转过不去
  • 法人一证通年费缴费
  • 股权转让交的印花税怎么做会计分录
  • 企业集团内部各所属单位之间
  • 上海中级会计报名入口
  • 员工娱乐活动比赛项目
  • 资产负债表资产总额在哪
  • windows10如何设置锁屏时间
  • 工程结算如何进行
  • 实收资本不到位后果
  • 事业单位政府预算
  • 新会计规定工会会计制度
  • php大小写转换函数怎么写
  • win7怎么添加设备
  • 一次摊销法优缺点
  • php proto
  • 对于企业已经入账而银行尚未入账
  • 其他应收款期末贷方余额表示什么
  • 前端项目部署到nginx
  • 土地增值税的计算方法和步骤例题
  • 先预付货款,货到了怎么做账
  • echarts快速上手
  • wordpress文章主题
  • 货币资金有余额怎样填写清税申报表
  • 应交土地增值税税率
  • 公司没业务可以暂停营业吗
  • 技术服务费怎么开票税率
  • python中线程可以用在哪些方面
  • 费用报销重复了怎么写情况说明
  • 流动资产与资产总额的比率叫什么比率
  • 织梦怎么调用当前栏目下的文章
  • 终止合约取得的合约
  • 债务人以固定资产债务重组
  • 制造业企业无形资产怎么摊销
  • 高新技术企业亏损弥补的年限为十年
  • 社会团体费用支出有什么要求
  • 自制半成品怎么计算
  • 资产减值损失怎么计提
  • 成本利润率多少是正常的
  • 收到社保局的稳岗通知
  • 结转固定资产清理科目
  • 12月结账后要年度结转吗
  • 发票入账的时候能作废吗
  • 专项应付款贷方余额表示
  • 国有资产无偿划转税收政策
  • 代扣代缴完税凭证只能次月抵扣吗
  • 利息专用发票可以抵扣吗
  • centos7 syslog
  • 卸载win+r
  • Windows Server 2008的NPS策略应用
  • ubuntu20.04 vim
  • Windows命令行复制粘贴命令
  • linux系统怎么共享
  • win7系统出现蓝屏怎么进去桌面
  • jQuery+Ajax实现无刷新分页
  • java script教程
  • js两个函数互相调用
  • vue 父子组件通信
  • javascript ie
  • jquery 获取滚动距离
  • unityugui
  • Android之ContentProvider
  • 公司向境外汇款限额
  • 深圳献血奖励标准
  • 房产税怎么申报操作流程视频
  • 手表关税税率一般是多少
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设