AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 科技  > 軟件

把LangChain跑起來的三個方法

來源: 責編: 時間:2023-08-05 11:44:41 4427觀看
導讀使用LangChain開發LLM應用時,需要機器進行GLM部署,好多同學第一步就被勸退了,那么如何繞過這個步驟先學習LLM模型的應用,對Langchain進行快速上手?本片講解3個把LangChain跑起來的方法,如有錯誤歡迎糾正。Langchain官方文檔

使用LangChain開發LLM應用時,需要機器進行GLM部署,好多同學第一步就被勸退了,那么如何繞過這個步驟先學習LLM模型的應用,對Langchain進行快速上手?本片講解3個把LangChain跑起來的方法,如有錯誤歡迎糾正。Xgp28資訊網——每日最新資訊28at.com

Langchain官方文檔地址:https://python.langchain.com/Xgp28資訊網——每日最新資訊28at.com

基礎功能

LLM 調用Xgp28資訊網——每日最新資訊28at.com

  • 支持多種模型接口,比如 OpenAI、HuggingFace、AzureOpenAI …
  • Fake LLM,用于測試
  • 緩存的支持,比如 in-mem(內存)、SQLite、Redis、SQL
  • 用量記錄
  • 支持流模式(就是一個字一個字的返回,類似打字效果)

Prompt管理,支持各種自定義模板Xgp28資訊網——每日最新資訊28at.com

擁有大量的文檔加載器,比如 Email、Markdown、PDF、Youtube …Xgp28資訊網——每日最新資訊28at.com

對索引的支持Xgp28資訊網——每日最新資訊28at.com

  • 文檔分割器
  • 向量化
  • 對接向量存儲與搜索,比如 Chroma、Pinecone、Qdrand

ChainsXgp28資訊網——每日最新資訊28at.com

  • LLMChain
  • 各種工具Chain
  • LangChainHub

詳細地址可參考:https://www.langchain.cn/t/topic/35Xgp28資訊網——每日最新資訊28at.com

測試Langchain工程的3個方法:

1 使用Langchian提供的FakeListLLM

為了節約時間,直接上代碼Xgp28資訊網——每日最新資訊28at.com

Xgp28資訊網——每日最新資訊28at.com

import osfrom decouple import configfrom langchain.agents import initialize_agentfrom langchain.agents import AgentTypefrom langchain.agents import load_tools

這里mock下ChatGPT,使用mockLLmXgp28資訊網——每日最新資訊28at.com

#from langchain.llms import OpenAIfrom langchain.llms.fake import FakeListLLMos.environ["OPENAI_API_KEY"] = config('OPENAI_API_KEY')

REPL 是 “Read–Eval–Print Loop”(讀取-求值-打印-循環)的縮寫,它是一種簡單的、交互式的編程環境。Xgp28資訊網——每日最新資訊28at.com

在 REPL 環境中,用戶可以輸入一條或多條編程語句,系統會立即執行這些語句并輸出結果。這種方式非常適合進行快速的代碼試驗和調試。Xgp28資訊網——每日最新資訊28at.com

tools = load_tools(["python_repl"])responses=[    "Action: Python REPL/nAction Input: chatGpt原理",    "Final Answer: mock答案"]llm = FakeListLLM(responses=responses)agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)agent.run("chatGpt原理2")

2 使用Langchian提供的HumanInputLLM,訪問維基百科查詢

Xgp28資訊網——每日最新資訊28at.com

from langchain.llms.human import HumanInputLLMfrom langchain.agents import load_toolsfrom langchain.agents import initialize_agentfrom langchain.agents import AgentTypefrom wikipedia import set_lang

使用維基百科工具Xgp28資訊網——每日最新資訊28at.com

tools = load_tools(["wikipedia"])

這里必須要設置為中文url前綴,不然訪問不了Xgp28資訊網——每日最新資訊28at.com

set_lang("zh")

初始化LLMXgp28資訊網——每日最新資訊28at.com

llm = HumanInputLLM(prompt_func=lambda prompt: print(f"/n===PROMPT====/n{prompt}/n=====END OF PROMPT======"))

初始化agentXgp28資訊網——每日最新資訊28at.com

agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)agent.run("喜羊羊")

使用huggingfacehttps://huggingface.co/docs

1)注冊賬號Xgp28資訊網——每日最新資訊28at.com

2)創建Access TokensXgp28資訊網——每日最新資訊28at.com

Xgp28資訊網——每日最新資訊28at.com

Demo: 使用模型對文檔進行摘要Xgp28資訊網——每日最新資訊28at.com

Xgp28資訊網——每日最新資訊28at.com

from langchain.document_loaders import UnstructuredFileLoaderfrom langchain.chains.summarize import load_summarize_chainfrom langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain import HuggingFaceHubimport osfrom decouple import configfrom langchain.agents import load_tools

這里mock下ChatGPT,使用HUGGINGFACEHUBXgp28資訊網——每日最新資訊28at.com

os.environ["HUGGINGFACEHUB_API_TOKEN"] = config('HUGGINGFACEHUB_API_TOKEN')

導入文本Xgp28資訊網——每日最新資訊28at.com

loader = UnstructuredFileLoader("docment_store/helloLangChain.txt")

將文本轉成 Document 對象Xgp28資訊網——每日最新資訊28at.com

document = loader.load()print(f'documents:{len(document)}')

初始化文本分割器Xgp28資訊網——每日最新資訊28at.com

text_splitter = RecursiveCharacterTextSplitter(    chunk_size = 500,    chunk_overlap = 0)

切分文本Xgp28資訊網——每日最新資訊28at.com

split_documents = text_splitter.split_documents(document)print(f'documents:{len(split_documents)}')

加載 LLM 模型Xgp28資訊網——每日最新資訊28at.com

overal_temperature = 0.1flan_t5xxl = HuggingFaceHub(repo_id="google/flan-t5-xxl",                          model_kwargs={"temperature":overal_temperature,                                        "max_new_tokens":200}                         ) llm = flan_t5xxltools = load_tools(["llm-math"], llm=llm)

創建總結鏈Xgp28資訊網——每日最新資訊28at.com

chain = load_summarize_chain(llm, chain_type="refine", verbose=True)

執行總結鏈Xgp28資訊網——每日最新資訊28at.com

chain.run(split_documents)

作者:京東科技 楊建Xgp28資訊網——每日最新資訊28at.com

來源:京東云開發者社區Xgp28資訊網——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-26-84-0.html把LangChain跑起來的三個方法

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: Automa-通過連接塊來自動化你的瀏覽器

下一篇: 一文看懂為蘋果Vision Pro開發應用程序

標簽:
  • 熱門焦點
  • 天貓精靈Sound Pro體驗:智能音箱沒有音質?來聽聽我的

    這幾年除了手機作為智能生活終端最主要的核心之外,第二個可以成為中心點的產品是什么?——是智能音箱。 手機在執行命令的時候有兩種操作方式,手和智能語音助手,而智能音箱只
  • Java NIO內存映射文件:提高文件讀寫效率的優秀實踐!

    Java的NIO庫提供了內存映射文件的支持,它可以將文件映射到內存中,從而可以更快地讀取和寫入文件數據。本文將對Java內存映射文件進行詳細的介紹和演示。內存映射文件概述內存
  • 十個簡單但很有用的Python裝飾器

    裝飾器(Decorators)是Python中一種強大而靈活的功能,用于修改或增強函數或類的行為。裝飾器本質上是一個函數,它接受另一個函數或類作為參數,并返回一個新的函數或類。它們通常用
  • 之家push系統迭代之路

    前言在這個信息爆炸的互聯網時代,能夠及時準確獲取信息是當今社會要解決的關鍵問題之一。隨著之家用戶體量和內容規模的不斷增大,傳統的靠"主動拉"獲取信息的方式已不能滿足用
  • 使用AIGC工具提升安全工作效率

    在日常工作中,安全人員可能會涉及各種各樣的安全任務,包括但不限于:開發某些安全工具的插件,滿足自己特定的安全需求;自定義github搜索工具,快速查找所需的安全資料、漏洞poc、exp
  • ESG的面子與里子

    來源 | 光子星球撰文 | 吳坤諺編輯 | 吳先之三伏大幕拉起,各地高溫預警不絕,但處于厄爾尼諾大“烤”之下的除了眾生,還有各大企業發布的ESG報告。ESG是“環境保
  • 網紅炒股不為了賺錢,那就是耍流氓!

    來源:首席商業評論6月26日高調宣布入市,網絡名嘴大v胡錫進居然進軍了股市。在一次財經媒體峰會上,幾個財經圈媒體大佬就“胡錫進炒股是否知道認真報道”展開討論。有
  • 機構稱Q2國內智能手機銷量同比下滑4% vivo份額重回第1

    7月29日消息,根據市場調查機構Counterpoint Research公布的最新報告,2023年第2季度中國智能手機銷量同比下降4%,創新自2014年以來第2季度銷量新低。報
  • 7月4日見!iQOO 11S官宣:“雞血版”驍龍8 Gen2+200W快充加持

    上半年已接近尾聲,截至目前各大品牌旗下的頂級旗艦都已悉數亮相,而下半年即將推出的頂級旗艦已經成為了數碼圈爆料的主流,其中就包括全新的iQOO 11S系
Top