AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 科技  > 軟件

把LangChain跑起來的三個方法

來源: 責編: 時間:2023-08-05 11:44:41 4050觀看
導讀使用LangChain開發LLM應用時,需要機器進行GLM部署,好多同學第一步就被勸退了,那么如何繞過這個步驟先學習LLM模型的應用,對Langchain進行快速上手?本片講解3個把LangChain跑起來的方法,如有錯誤歡迎糾正。Langchain官方文檔

使用LangChain開發LLM應用時,需要機器進行GLM部署,好多同學第一步就被勸退了,那么如何繞過這個步驟先學習LLM模型的應用,對Langchain進行快速上手?本片講解3個把LangChain跑起來的方法,如有錯誤歡迎糾正。oyk28資訊網——每日最新資訊28at.com

Langchain官方文檔地址:https://python.langchain.com/oyk28資訊網——每日最新資訊28at.com

基礎功能

LLM 調用oyk28資訊網——每日最新資訊28at.com

  • 支持多種模型接口,比如 OpenAI、HuggingFace、AzureOpenAI …
  • Fake LLM,用于測試
  • 緩存的支持,比如 in-mem(內存)、SQLite、Redis、SQL
  • 用量記錄
  • 支持流模式(就是一個字一個字的返回,類似打字效果)

Prompt管理,支持各種自定義模板oyk28資訊網——每日最新資訊28at.com

擁有大量的文檔加載器,比如 Email、Markdown、PDF、Youtube …oyk28資訊網——每日最新資訊28at.com

對索引的支持oyk28資訊網——每日最新資訊28at.com

  • 文檔分割器
  • 向量化
  • 對接向量存儲與搜索,比如 Chroma、Pinecone、Qdrand

Chainsoyk28資訊網——每日最新資訊28at.com

  • LLMChain
  • 各種工具Chain
  • LangChainHub

詳細地址可參考:https://www.langchain.cn/t/topic/35oyk28資訊網——每日最新資訊28at.com

測試Langchain工程的3個方法:

1 使用Langchian提供的FakeListLLM

為了節約時間,直接上代碼oyk28資訊網——每日最新資訊28at.com

oyk28資訊網——每日最新資訊28at.com

import osfrom decouple import configfrom langchain.agents import initialize_agentfrom langchain.agents import AgentTypefrom langchain.agents import load_tools

這里mock下ChatGPT,使用mockLLmoyk28資訊網——每日最新資訊28at.com

#from langchain.llms import OpenAIfrom langchain.llms.fake import FakeListLLMos.environ["OPENAI_API_KEY"] = config('OPENAI_API_KEY')

REPL 是 “Read–Eval–Print Loop”(讀取-求值-打印-循環)的縮寫,它是一種簡單的、交互式的編程環境。oyk28資訊網——每日最新資訊28at.com

在 REPL 環境中,用戶可以輸入一條或多條編程語句,系統會立即執行這些語句并輸出結果。這種方式非常適合進行快速的代碼試驗和調試。oyk28資訊網——每日最新資訊28at.com

tools = load_tools(["python_repl"])responses=[    "Action: Python REPL/nAction Input: chatGpt原理",    "Final Answer: mock答案"]llm = FakeListLLM(responses=responses)agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)agent.run("chatGpt原理2")

2 使用Langchian提供的HumanInputLLM,訪問維基百科查詢

oyk28資訊網——每日最新資訊28at.com

from langchain.llms.human import HumanInputLLMfrom langchain.agents import load_toolsfrom langchain.agents import initialize_agentfrom langchain.agents import AgentTypefrom wikipedia import set_lang

使用維基百科工具oyk28資訊網——每日最新資訊28at.com

tools = load_tools(["wikipedia"])

這里必須要設置為中文url前綴,不然訪問不了oyk28資訊網——每日最新資訊28at.com

set_lang("zh")

初始化LLMoyk28資訊網——每日最新資訊28at.com

llm = HumanInputLLM(prompt_func=lambda prompt: print(f"/n===PROMPT====/n{prompt}/n=====END OF PROMPT======"))

初始化agentoyk28資訊網——每日最新資訊28at.com

agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)agent.run("喜羊羊")

使用huggingfacehttps://huggingface.co/docs

1)注冊賬號oyk28資訊網——每日最新資訊28at.com

2)創建Access Tokensoyk28資訊網——每日最新資訊28at.com

oyk28資訊網——每日最新資訊28at.com

Demo: 使用模型對文檔進行摘要oyk28資訊網——每日最新資訊28at.com

oyk28資訊網——每日最新資訊28at.com

from langchain.document_loaders import UnstructuredFileLoaderfrom langchain.chains.summarize import load_summarize_chainfrom langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain import HuggingFaceHubimport osfrom decouple import configfrom langchain.agents import load_tools

這里mock下ChatGPT,使用HUGGINGFACEHUBoyk28資訊網——每日最新資訊28at.com

os.environ["HUGGINGFACEHUB_API_TOKEN"] = config('HUGGINGFACEHUB_API_TOKEN')

導入文本oyk28資訊網——每日最新資訊28at.com

loader = UnstructuredFileLoader("docment_store/helloLangChain.txt")

將文本轉成 Document 對象oyk28資訊網——每日最新資訊28at.com

document = loader.load()print(f'documents:{len(document)}')

初始化文本分割器oyk28資訊網——每日最新資訊28at.com

text_splitter = RecursiveCharacterTextSplitter(    chunk_size = 500,    chunk_overlap = 0)

切分文本oyk28資訊網——每日最新資訊28at.com

split_documents = text_splitter.split_documents(document)print(f'documents:{len(split_documents)}')

加載 LLM 模型oyk28資訊網——每日最新資訊28at.com

overal_temperature = 0.1flan_t5xxl = HuggingFaceHub(repo_id="google/flan-t5-xxl",                          model_kwargs={"temperature":overal_temperature,                                        "max_new_tokens":200}                         ) llm = flan_t5xxltools = load_tools(["llm-math"], llm=llm)

創建總結鏈oyk28資訊網——每日最新資訊28at.com

chain = load_summarize_chain(llm, chain_type="refine", verbose=True)

執行總結鏈oyk28資訊網——每日最新資訊28at.com

chain.run(split_documents)

作者:京東科技 楊建oyk28資訊網——每日最新資訊28at.com

來源:京東云開發者社區oyk28資訊網——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-26-84-0.html把LangChain跑起來的三個方法

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: Automa-通過連接塊來自動化你的瀏覽器

下一篇: 一文看懂為蘋果Vision Pro開發應用程序

標簽:
  • 熱門焦點
  • K60至尊版狂暴引擎2.0加持:超177萬跑分斬獲性能第一

    Redmi的后性能時代戰略發布會今天下午如期舉辦,在本次發布會上,Redmi公布了多項關于和聯發科的深度合作,以及新機K60 Ultra在軟件和硬件方面的特性,例如:“K60 至尊版,雙芯旗艦
  • 對標蘋果的靈動島 華為帶來實況窗功能

    繼蘋果的靈動島之后,華為也在今天正式推出了“實況窗”功能。據今天鴻蒙OS 4.0的現場演示顯示,華為的實況窗可以更高效的展現出實時通知,比如鎖屏上就能看到外賣、打車、銀行
  • 直屏旗艦來了 iQOO 12和K70 Pro同臺競技

    旗艦機基本上使用的都是雙曲面屏幕,這就讓很多喜歡直屏的愛好者在苦等一款直屏旗艦,這次,你們等到了。據博主數碼閑聊站帶來的最新爆料稱,Redmi下代旗艦K70 Pro和iQOO 12兩款手
  • Java NIO內存映射文件:提高文件讀寫效率的優秀實踐!

    Java的NIO庫提供了內存映射文件的支持,它可以將文件映射到內存中,從而可以更快地讀取和寫入文件數據。本文將對Java內存映射文件進行詳細的介紹和演示。內存映射文件概述內存
  • 之家push系統迭代之路

    前言在這個信息爆炸的互聯網時代,能夠及時準確獲取信息是當今社會要解決的關鍵問題之一。隨著之家用戶體量和內容規模的不斷增大,傳統的靠"主動拉"獲取信息的方式已不能滿足用
  • 猿輔導與新東方的兩種“歸途”

    作者|卓心月 出品|零態LT(ID:LingTai_LT)如何成為一家偉大企業?答案一定是對“勢”的把握,這其中最關鍵的當屬對企業戰略的制定,且能夠站在未來看現在,即使這其中的
  • 東方甄選單飛:有些鳥注定是關不住的

    作者:彭寬鴻來源:華爾街科技眼‍‍‍‍‍‍‍‍‍‍東方甄選創始人俞敏洪帶隊的“7天甘肅行”直播活動已在近日順利收官。成立后一
  • 華為開發者大會2023日程公開:開設鴻蒙HarmonyOS 4體驗區

    IT之家 7 月 31 日消息,華為今日公布了 HDC.Together 開發者大會 2023 的詳細日程。整場大會將于 8 月 4 日-6 日之間舉行,屆時將發布最新一代鴻蒙 H
  • Windows 11發布,微軟一改往常對老機型開放的態度

    距離 Windows 11 發布已經過去一周,在過去一周里,很多數碼愛好者圍繞其對 Android 應用的支持、對老機型的升級問題展開了激烈討論。與以往不同的是,在這次大
Top