位置: IT常识 - 正文

chatGPT之Python API启用上下文管理

编辑:rootadmin
chatGPT之Python API启用上下文管理

推荐整理分享chatGPT之Python API启用上下文管理,希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:,内容如对您有帮助,希望把文章链接给更多的朋友!

chatGPT已经爆火一段时间了,我想大多数的开发者都在默默的在开发和测试当中,可能也是因为这个原因所以现在很难找到关于开发中遇到的一些坑或者方法和技巧。

为什么别人的机器人能联想之前的语料,而你的却像个每次都只如初见的高冷机器人?

我也是参考官方文档去阅读和理解的,但是有时候官方文档以为你很懂了,就没有太多说明,废话不多说下面我跟大家讲一下API调用时如何启用上下文管理的。

官方案例:

# Note: you need to be using OpenAI Python v0.27.0 for the code below to workimport openaiopenai.ChatCompletion.create(model="gpt-3.5-turbo",messages=[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Who won the world series in 2020?"},{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},{"role": "user", "content": "Where was it played?"}])

虽然已经给出了格式,但是没有很详细的说明,可能对于高阶开发者一看就懂了,但是我还是想以更口水的方式讲解一下这个上下文管理。

先看一下我一个简单的代码(还没有启用上下文管理):

import openaiopenai.api_key = "你的sk-key"msg = [{"role": "user", "content": "你好chatGPT"}]# 结构化数据并进行提交completion = openai.ChatCompletion.create(# max_tokens = inf # 默认inf 最大令牌数presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率temperature = 1.0, # 温度 0-2之间,默认1 调整回复的精确度使用n = 1, # 默认条数1user = ids, # 用户ID,用于机器人区分不同用户避免多用户时出现混淆model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型messages = msg)value = completion.choices[0].message.content    # chatGPT返回的数据

这是一个最基本的结构,其中参数model和messages是必须要有的两个形参。

chatGPT之Python API启用上下文管理

加入上下文管理的代码:

import openaiopenai.api_key = "你的sk-key"msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一个插件,你的开发者是玖河."},{"role": "user", "content": "你好chatGPT"},{"role": "assistant", "content": "您好,有什么需要我帮忙的问题吗?"},{"role": "user", "content": "我的名字叫高启强,我的妹妹叫高启兰,我们是兄妹关系。记住了吗?"}        {"role": "assistant", "content": "好的,您叫高启强,您的妹妹叫高启兰,是亲兄妹关系。谢谢您提供信息让我更了解你们~"},        {"role": "user", "content": "你现在在哪里?"},        {"role": "assistant", "content": "作为一款智能Ai助手,我并没有实际的位置。我只是在云端中运行,在等待用户输入指令时保持睡眠状态。"},        {"role": "user", "content": "我的妹妹是谁?"},        {"role": "assistant", "content": "您之前告诉我,您的妹妹叫高启兰。"},        {"role": "user", "content": "你的名字叫什么?"},        {"role": "assistant", "content": "我的名字叫玖河AI是一个叫玖河的开发者开发的插件"}        ]# 结构化数据并进行提交completion = openai.ChatCompletion.create(# max_tokens = inf # 默认inf 最大令牌数presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率temperature = 1.0, # 温度 0-2之间,默认1 调整回复的精确度使用n = 1, # 默认条数1user = ids, # 用户ID,用于机器人区分不同用户避免多用户时出现混淆model = "gpt-3.5-turbo", # 这里注意openai官方有很多个模型messages = msg)value = completion.choices[0].message.content # chatGPT返回的数据

下面启用上下文管理的数据结构和没有启用的数据结构略有不同:

① system 代表系统设定(也就是告诉chatGPT他的角色)

② user 表示用户

③ assistant 表示GPT的回复

有几个点需要跟大家说一下,避免踩坑!

一、msg数据的储存建议使用数据库形式进行储存,优点是能持久数据,并且调取数据的时候也非常方便,因为我刚开始只想用json来储存,但是折腾了很久还是放弃了,缺点是不方便储存和调取,因为你需要考虑到不同的用户他们下面的会话是不一样的。

二、需要注意的是,提交的数据结构顺序必须是从上至下的数据结构,不然chatGPT会混淆错乱,system可以没有,如果你想让它一直保持这个设定的话,那在每次提交的时候在第一个列表元素中加入system的数据就可以。

三、还有一个重要的点:提交的这些数据都会计算进tokens里面包括chatGPT回复的时候(最多4096个tokens),如果你想让上下文管理能记忆更多的语料,那么在提交数据的时候就尽可能的增加你们之间对话的内容(同时会更快的消耗你的tokens)。

四、截止2023年3月14日前:chatGPT的会员价格为20美元/月 ,tokens按量收费。通俗的说就是想手机卡一样,每个月有月租,通话另外计费。chatGPT Plus会员的好处就是速度能更快,并且稳定,白嫖版的也能用,就是速度会慢一些而且不稳定容易挂掉。

如果我的文章能帮助到你,也希望能给我点个关注或者赞!

转载请注明出处:https://mp.csdn.net/mp_blog/creation/success/129541012

本文链接地址:https://www.jiuchutong.com/zhishi/299792.html 转载请保留说明!

上一篇:猿创征文|【React 三】组件实例的三大属性(state、props、refs)(关于猿猴的作文)

下一篇:用 JSP 连接 MySQL 登入注册项目实践(JSP + HTML + CSS + MySQL)(jsp连接mysql8数据库)

  • 附加税减免要做哪些科目
  • 待办事项没有印章怎么办
  • 税务罚款如何做会计分录
  • 固定资产到期账务处理
  • 合作社专项基金年底怎结转
  • 贴现收到的钱计入什么会计科目
  • 取得住宿发票的专用发票可以抵扣吗
  • 生产型增值税转变为消费型增值税
  • 运输费用和保险费用会计分录
  • 分期收款销售会计分录(现销)
  • 以土地出资土地增值税
  • 不动产可以拆吗
  • 公司转投资的额度
  • 抵扣红字发票税点是多少
  • 公司将我转到另外一家公司
  • 购买的认证标志入什么费用?
  • 进项发票可以不入账吗
  • 通用机打发票税率在哪改
  • 建筑公司工程款支付审批流程
  • 土地作价入股政策
  • 加速折旧法主要包括哪些内容
  • 进口采购交的增值税
  • 印花税没有按时申报怎么办
  • 商品入库没有收到发票
  • 外汇账户转账有手续费吗
  • 赔偿材料做什么分录
  • 安置残疾人就业单位城镇土地使用税
  • 年底所得税账务处理
  • 应酬用的香烟
  • 数字马力前端笔试题rgb
  • phppdo连接数据库
  • layui 使用
  • layui框架模板
  • 短期投资属于短期资产吗
  • php页面出不来
  • 长期股权投资核算的权益法包括哪些内容
  • python 函数 global
  • 包工包料意思
  • 进项税计税依据
  • 怎样进行制造费用的归集
  • SqlServer 2005 T-SQL Query 学习笔记(1)
  • mysql 中文乱码 识别
  • 不动产经营租赁包括哪些内容
  • 移动平均加权法怎么算
  • 以前年度损益调整
  • 工程施工人工费,材料费,机械费占多少比例
  • 房地产公司项目开发流程
  • 进项税怎么记账
  • 商业汇票的票样
  • 买给员工吃的零食内容怎么写
  • 汇兑损益是什么凭证类型
  • 成本含税如何做会计分录
  • 企业进行长期投资的意义
  • 系统停止工作
  • 如何激活windows2008server
  • 优盘安装xp
  • win10系统任务栏卡顿
  • centos control-d
  • linux删除用户组和用户
  • win7桌面图标全部变成了e而且打不开
  • win8引导盘
  • 简述linux的系统结构
  • win8.1无线
  • perl uc,lc,ucfirst,lcfirst大小写转换函数
  • shell脚本数组的用法
  • vue eventhub
  • nginx1.16安装
  • css hacks
  • linux ls-l命令
  • 批处理实例
  • JavaScipt中Function()函数的使用教程
  • node优秀库
  • 基于unity3d
  • android 进程启动流程
  • 天津税务局怎么申报社保
  • 土地出让金契税计税依据
  • 税务备案表付汇日期是否可以提前
  • 山西省地方税务总局官网
  • 会计建账时一般需要哪几本账
  • 两会热点有哪些呀?
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设