位置: IT常识 - 正文

大语言模型集成工具 LangChain(大语言模型集成工具)

编辑:rootadmin
大语言模型集成工具 LangChain 大语言模型集成工具 LangChainLangChain 介绍介绍:通过可组合性使用大型语言模型构建应用程序【背景】大型语言模型 (LLM) 正在成为一种变革性技术,使开发人员能够构建他们以前无法构建的应用程序,但是单独使用这些 LLM 往往不足以创建一个真正强大的应用程序,当可以将它们与其他计算或知识来源相结合时,就有真的价值了。LangChain 旨在协助开发这些类型的应用程序使用文档:https://langchain.readthedocs.io/en/latest/index.html代码:https://github.com/hwchase17/langchain安装介绍库安装pip install langchainpip install openaiOPENAI KEY 获取:淘宝上花几块钱购买一个是最方便的途径或到 https://openai.com/blog/openai-api/ 网站申请账号,申请周期有可能会比较长添加环境变量在终端运行:export OPENAI_API_KEY="..."或在 python 脚本中添加:import os; os.environ["OPENAI_API_KEY"] = "..."LangChain 应用(基于0.0.64 版本测试)获取 LLM 的预测 (QA 任务)获取 LLM 的预测是最直接的应用方式,测试样例如下text = "What would be a good company name a company that makes colorful socks?"print(llm(text)) # 返回 Socktastic!

推荐整理分享大语言模型集成工具 LangChain(大语言模型集成工具),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:语言学集群模型,语言模型算法,语言模型perplexity,语言模型plug,语言模型plug,语言模型有什么用,大语言模型集成有哪些,大语言模型集成有哪些,内容如对您有帮助,希望把文章链接给更多的朋友!

简单数学问题:

from langchain.llms import OpenAI # 导入 LLM wrapperllm = OpenAI(temperature=0.9) # 大的 temperature 会让输出有更多的随机性text = "what is the results of 5+6?"print(llm(text)) # 返回 11text = "what is the results of 55+66?"print(llm(text)) # 返回 121text = "what is the results of 55555+66666?"print(llm(text)) # 返回 122221text = "what is the results of 512311+89749878?"print(llm(text)) # 返回 89,876,189,终于错了...大语言模型集成工具 LangChain(大语言模型集成工具)

另一个例子,这里返回的是同义词,如果要返回同音词则需要修改输入的 prompt(另外一个解决方式是基于以下章节中的 Memory 模式):

text = "what word is similar to good?"print(llm(text)) # 返回 Excellenttext = "what word is homophone of good?"print(llm(text)) # 返回 Goo输入 prompts 模板设置在上面根据公司生产的产品生成公司名字的应用中,一种让用户输入更简单的方式是仅让客户输入公司生产的产品即可,不需要输入整个语句,这需要对 prompts 设置模板:from langchain.prompts import PromptTemplateprompt = PromptTemplate( input_variables=["product"], template="What is a good name for a company that makes {product}?",)print(prompt.format(product="colorful socks")) # 返回 What is a good name for a company that makes colorful socks?text = prompt.format(product="colorful socks")print(llm(text)) # 返回 Socktastic!text = prompt.format(product="chocolates")print(llm(text)) # 返回 ChocoDelightz!Memory 功能: 在 LLM 交互中记录交互的历史状态,并基于历史状态修正模型预测

该实现基于论文: MemPrompt

即当模型出错了之后,用户可以反馈模型错误的地方,然后这些反馈会被添加到 memory 中,以后遇到类似问题时模型会提前找到用户的反馈,从而避免犯同样的错

对话任务中的 ConversationChain 示例(ConversationBufferMemory 模式),verbose=True 会输出对话任务中的 prompt,可以看到之前聊天会作为短期 memory 加在 prompt 中,从而让模型能有短时间的记忆能力:

from langchain import OpenAI, ConversationChainllm = OpenAI(temperature=0)conversation = ConversationChain(llm=llm, verbose=True)conversation.predict(input="Hi there!") # 返回如下#> Entering new ConversationChain chain...#Prompt after formatting:#The following is a friendly conversation between a human and an AI. The AI is talkative and provides lots of specific #details from its context. If the AI does not know the answer to a question, it truthfully says it does not know.#Current conversation:#Human: Hi there!#AI:#> Finished chain.# Out[53]: " Hi there! It's nice to meet you. How can I help you today?"conversation.predict(input="I'm doing well! Just having a conversation with an AI.") # 返回如下#Prompt after formatting:#The following is a friendly conversation between a human and an AI. The AI is talkative and provides lots of specific #details from its context. If the AI does not know the answer to a question, it truthfully says it does not know.#Current conversation:#Human: Hi there!#AI: Hi there! It's nice to meet you. How can I help you today?#Human: I'm doing well! Just having a conversation with an AI.#AI:#> Finished chain.#Out[54]: " That's great! It's always nice to have a conversation with someone new. What would you like to talk about?"LangChain 这里看起来没有直接在 QA 任务中集成 memprompt,不过可以基于对话任务来测试之前 QA 任务中出错的问题,可以看到基于 memprompt 确实可以利用用户的反馈来修正模型预测结果:conversation.predict(input="what word is similar to good?") # 返回 ' Synonyms for "good" include excellent, great, fine, and superb.'conversation.predict(input="similar to means with similar pronunciation") # 返回 ' Ah, I see. Synonyms for "good" with similar pronunciation include wood, hood, and should.'

这里的实现看起来和 memprompt 非常类似,每个问题不会直接回答答案,而是回答 understating+answer,从而让用户可以基于对 understating 的理解来判断模型反馈是否符合用户的预期,而不用直接判断 answer 的正确性

对话任务中的其他几种 memory 添加模式

ConversationSummaryMemory:与 ConversationBufferMemory 类似,不过之前的对话会被总结为一个 summary 加在 prompt 中ConversationBufferWindowMemory:在 ConversationBufferMemory 模式基础上加个滑窗,即只加入最近几次对话的记录,避免 memory buffer 过大ConversationSummaryBufferMemory:结合以上两种方式,将之前的对话总结为一个 summary 加在 prompt 中,同时会设置一个 prompt 最大词汇数量,超过该词汇数量的时候会抛弃更早的对话来使 prompt 的词汇数量符合要求

更高级的 memory 使用方式

Adding Memory to a Multi-Input Chain:主要用于 QA 任务,用一个语料库作为 memory,对于输入的 prompt,找到与该 prompt 类似的信息加在 prompt 中,从而能利用上语料库中的信息Adding Memory to an Agent:对于具备 google 搜索功能的 Agent,可以将对话历史记录到 memory 中,从而能让 Agent 对某些与之前历史结合的对话理解更准确总结LangChain 基于 OPENAI 的 GPT3 等大语言模型设计一系列便于集成到实际应用中的接口,降低了在实际场景中部署大语言模型的难度
本文链接地址:https://www.jiuchutong.com/zhishi/299861.html 转载请保留说明!

上一篇:vue中的provide/inject你知道吗(vue2、vue3)?(vue中的路由参数如何获取)

下一篇:立体匹配入门指南(8):视差图、深度图、点云(立体匹配原理)

  • 化妆品淘宝店推广技巧与方法(淘宝化妆品十大店铺排名)

    化妆品淘宝店推广技巧与方法(淘宝化妆品十大店铺排名)

  • 备注awm什么意思(男朋友给女朋友备注awm什么意思)

    备注awm什么意思(男朋友给女朋友备注awm什么意思)

  • 电子邮件传输协议是什么(电子邮件传输协议包括)

    电子邮件传输协议是什么(电子邮件传输协议包括)

  • accdata_vod是什么文件夹可以删除吗(accid什么意思)

    accdata_vod是什么文件夹可以删除吗(accid什么意思)

  • 华为荣耀20青春版隐藏功能(华为荣耀20青春版官网)

    华为荣耀20青春版隐藏功能(华为荣耀20青春版官网)

  • qq几个太阳升皇冠(qq升一个太阳要多久)

    qq几个太阳升皇冠(qq升一个太阳要多久)

  • 苹果短信绿色是发送出去了吗(苹果短信绿色是要扣钱吗)

    苹果短信绿色是发送出去了吗(苹果短信绿色是要扣钱吗)

  • ipad pro 2020可以用pencil一代吗(ipad pro 2020可以取代笔记本吗)

    ipad pro 2020可以用pencil一代吗(ipad pro 2020可以取代笔记本吗)

  • 1a和2.4a充电头有区别吗(1a和2.1a充电头)

    1a和2.4a充电头有区别吗(1a和2.1a充电头)

  • 红米note2为什么那么耗电(红米note2为什么那么便宜)

    红米note2为什么那么耗电(红米note2为什么那么便宜)

  • iphonexsmax支持什么网络(iphonexsmax支持什么电话卡)

    iphonexsmax支持什么网络(iphonexsmax支持什么电话卡)

  • 手机中框一般是什么材料(手机中框一般是多大尺寸)

    手机中框一般是什么材料(手机中框一般是多大尺寸)

  • ios13.3可以降级吗(ios13能不能降级)

    ios13.3可以降级吗(ios13能不能降级)

  • 电脑上qq怎么退出登录(电脑如何退qq)

    电脑上qq怎么退出登录(电脑如何退qq)

  • 华为手机锁定后怎么解锁(华为手机锁定后会如何)

    华为手机锁定后怎么解锁(华为手机锁定后会如何)

  • iphone6s屏幕分辨率(iphone 6屏幕分辨率)

    iphone6s屏幕分辨率(iphone 6屏幕分辨率)

  • 苹果xr连接电脑没反应(苹果xr连接电脑没反应只能充电)

    苹果xr连接电脑没反应(苹果xr连接电脑没反应只能充电)

  • 12306怎么添加候补需求呢(12306怎么添加候补订单)

    12306怎么添加候补需求呢(12306怎么添加候补订单)

  • 港版iphonex怎么用电信(港版iphoneX怎么用电信卡)

    港版iphonex怎么用电信(港版iphoneX怎么用电信卡)

  • 苹果手机灯光怎么闪硕(苹果手机灯光怎么设置)

    苹果手机灯光怎么闪硕(苹果手机灯光怎么设置)

  • oppo右上角半圆太极图标(oppoa9右上角有个半圆的标志)

    oppo右上角半圆太极图标(oppoa9右上角有个半圆的标志)

  • iphonexr防水么(ihonexr防水吗)

    iphonexr防水么(ihonexr防水吗)

  • u启动u盘怎么安装win10 u启动u盘安装win10视频教程(u启动u盘怎么装系统)

    u启动u盘怎么安装win10 u启动u盘安装win10视频教程(u启动u盘怎么装系统)

  • cdrecord命令  光盘刻录工具(cd相关命令)

    cdrecord命令 光盘刻录工具(cd相关命令)

  • 下半年房产税缴纳时间
  • 工程款税率是多少专票
  • 个人独资企业需要交什么税
  • 企业所得税营业收入和增值税销售收入
  • 生产用天然气如何入账
  • 哪些进项税额可以转出
  • 鉴证服务的税率有哪些
  • 小规模纳税人季度超过45万怎么交税
  • 发票没有写纳税人识别号可以吗
  • 单位发放中秋月饼价值有规定吗
  • 进出口企业必须有报检资质吗
  • 外商投资企业如何注资
  • 一次性筷子的消费税
  • 私营企业实行固定税率
  • 增值税一般纳税人证明文件
  • 公司买车赠与员工
  • 增值税进项税金额是含税还是不含税
  • 摊销土地使用权和专利权会计分录怎么写
  • 合伙企业缴纳税款时间
  • 建筑企业一般纳税人提供建筑服务属于老项目
  • pdf格式发票怎么打印标准大小
  • 员工福利费是否计入赔偿
  • 审计查出假发票怎么补救
  • 公司代缴个人社保费怎么做账
  • 什么情况下一般纳税人可以转为小规模纳税人
  • 打包贷款和出口信贷的区别和联系
  • 生产车间领用材料45000元,投入生产
  • mac系统技巧
  • 桌面或文件夹内无图标
  • 腾讯电脑管家中蓝牙在哪
  • linux 隐藏权限
  • win没有投影到此电脑怎么办
  • 32位升级64位系统教程
  • mac底部菜单栏不见了快捷键
  • windows11怎么设置锁屏密码
  • 企业收到款项
  • 银行承兑汇票贴现率是多少
  • 公司年终奖怎么入账
  • 前端网页设计的三大技术
  • opencv 边缘
  • React基础-JSX事件绑定-事件传参
  • 国家税务局监制的票还能用吗
  • SQLite速度评测代码
  • SQL Server FileStream详解
  • 职工教育经费税收金额怎么算
  • 旅游公司差额征税如何开票
  • 劳务分包劳务费付款比例
  • 限制性股票应纳税额的确定
  • 待抵扣进项税额分录
  • 一年以内到期的长期借款属于
  • 会计师事务所工作怎么样
  • 三证合一怎么看税务登记证
  • 个人如何成立公司
  • 企业内账怎么做
  • 财政性银行的资金来源是什么
  • 在docker中使用service命令
  • sql server随机数函数
  • mysql闪退处理
  • mysql不能识别中文怎么解决
  • 复制糸统
  • 微软公布新企业AI产品定价 股价应声涨至盘中纪录高位
  • win10无法安装telnet
  • mac系统常见问题
  • keyemain.exe是什么
  • win8查看已连接的wifi密码
  • cocos jsc
  • jquery日历框有长期的选项
  • javascript中的getElementById
  • jquery怎么写
  • 如何用u盘重装电脑系统
  • android中toast用法
  • 青岛新农合网上缴费时间
  • 外地经营预缴企业所得税
  • 河南新农合缴费记录可以在哪里查?
  • 税务检查的三种常用方法
  • 新疆喀什泽普县海拔高度是多少米
  • 现任新疆兵团政治部主任
  • 绵阳税务局副局长
  • 企业间借款合同印花税怎么交
  • 税务系统绩效管理首要目标
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设