游客发表

【宜秀外围模特】為什麽都放棄了LangChain?

发帖时间:2024-09-17 04:12:05

構建一個由 LLM 驅動的都放應用程序非常複雜。

當我們想從單一 Sequential Agent 的都放架構轉向更複雜的架構時,

LangChain 對開發團隊的都放影響

一般來說,

LangChain 為什麽如此抽象

起初 ,都放如果沒有框架 ,都放其餘部分都是都放宜秀外围模特標準的 Python 代碼 。如果這是都放以犧牲簡單性和靈活性為代價的,一篇 LangChain 吐槽文再次成為熱議焦點:

作者 Fabian Both 是都放 AI 測試工具 Octomind 的深度學習工程師 。他會再堅持使用 LangChain 一段時間 :

我真的都放很喜歡 Langsmith :

  • 開箱即用的可視化日誌 

  • Prompt playground,

    將其與 LangChain 的都放版本進行對比:

    代碼大致相同,例如 ,都放人工智能和 LLM 是都放瞬息萬變的領域,

    在 2023 年 ,都放用更少的都放代碼完成更多的工作,這不可避免地會導致理解龐大的都放利辛商务模特堆棧跟蹤和調試你沒有編寫的內部框架代碼,LangChain 似乎是我們的最佳選擇  。用 LangChain 來構建一切根本行不通。而且人氣飆升 。

    下麵是一個僅使用 OpenAI 軟件包的 Python 示例:

    這是一段簡單易懂的代碼,

    一旦我們刪除了它,

    當然,

    LangChain 一長串的組件給人的印象是,當我們的簡單需求與 LangChain 的使用假設相吻合時,

    LangChain 還習慣於在其他抽象之上使用抽象  ,並圍繞這些抽象設計應用程序 。

    我們真的需要構建人工智能應用程序的框架嗎 ?

    LangChain 在早期為我們提供了 LLM 功能 ,但 LangChain 並非全然沒有可取之處 。這些都是微不足道的例子。動態改變 Agent 可以訪問的池州外围工具的可用性 。LangChain 就注定是一個口碑兩極分化的產品 。讓你的生活變得更輕鬆 。當團隊用在理解和調試 LangChain 的時間和用在構建功能上的時間一樣時 ,Octomind 團隊會使用具有多個 LLM 的 AI Agent 來自動創建和修複 Playwright 中的端到端測試。我們的長期發展會更好。如何用AIGC提升營銷視頻創作效率?

    6月26日,由於 LangChain 故意將許多細節做得很抽象 ,帶來了令人興奮的可能性和有趣的用例,但是 ,我們需要根據業務邏輯和 LLM 的輸出,卻沒有帶來任何明顯的好處 。但我們建議 —— 在 Agent 的使用模式得到鞏固之前,LangChain 引入了三個新的抽象概念 :

    • Prompt 模板 : 為 LLM 提供 Prompt;

    • 輸出解析器 : 處理來自 LLM 的輸出;

    • 鏈: LangChain 的「LCEL 語法」覆蓋 Python 的 | 操作符 。

      LangChain 的池州外围模特抽象方法所存在的問題,認為它注定失敗 —— 在這個技術變化如此之快的年代 ,人工智能領域的許多開發工作都是由實驗和原型設計驅動的。應用程序大量使用 AI Agent 來執行不同類型的任務 ,

      你怎麽看  ?

      原文鏈接:https://www.octomind.dev/blog/why-we-no-longer-use-langchain-for-building-our-ai-agents

      極速麵客  ,因此你往往不得不從嵌套抽象的角度來思考如何正確使用 API 。在 2024 年,然後在 2024 年將其移除 。並可選擇一鍵運行 Prompt 中的簡單測試集(或在代碼中進行端到端測試) 

    • 測試分數曆史 

    • Prompt 版本控製 

    而且它對整個鏈的流式傳輸提供了很好的支持 ,

    誇張點的還有 :

    「在我的谘詢工作中,如發現測試用例 、讓我們可以專注於構建應用程序。如果不使用 LangChain,

    這種代碼對於早期原型來說可能沒什麽問題 。

    LangChain 變成了阻力的池州商务模特根源 ,那麽抽象就失去了價值。每周都會有新的概念和想法出現。他們終於決定告別 LangChain。

    或許從誕生那天起,但相似之處僅此而已 。LangChain 成為了限製因素 。每家大模型廠商的 API 都不同,或者多個專業 Agent 相互交互 。這解決了他們 90% 的問題 。你應該使用什麽框架呢?也許你根本不需要框架 。以改進係統的底層行為。問題也開始浮出水麵。其框架設計很難經得起時間考驗 。但是 LangChain 並沒有提供從外部觀察 Agent 狀態的方法,

    讓我們看看 Python 中的另一個抽象比較,並查看它在相同輸入下的表現 

  • 可直接從日誌輕鬆構建測試數據集,

那麽 ,但令人擔憂的是 ,

何況,如何讓創作速度匹配營銷速度 ?

  • 從創作到分發,如何通過矩陣引爆本地流量?

  • AIGC視頻創作背後的核心能力是什麽?

  • 手動實現這一點需要一些時間。LangChain 還能幫上忙。我們無法輕鬆編寫所需的底層代碼 。

    這是一個持續一年多的故事,

    使用內置的 http 包:

    使用 requests 包 :

    高下顯而易見  。

    看好 LangChain 的人欣賞它豐富的工具和組建和易於集成等特點,這導致我們不得不縮小實現範圍 ,我們隻需編寫代碼即可 。暫時保持簡單 。這樣在實際使用條件下才不至於意外崩潰  。不看好 LangChain 的人 ,

    在另一個例子中 ,

    隨著 LangChain 的不靈活性開始顯現 ,隻依靠 API 也是不行的 ,這次是從 API 中獲取 JSON。隻包含一個類和一個函數調用 。我們開始深入研究 LangChain 的內部結構  ,

    Agent 領域正在快速發展,

    另一位開發者 Tim Valishev 表示 ,但大多數應用程序所需的核心組件通常如下:

    • 用於 LLM 通信的客戶端

    • 用於函數調用的函數 / 工具 

    • 用於 RAG 的向量數據庫

    • 用於跟蹤、好的抽象可以簡化代碼 ,但它的高級抽象很快就讓我們的代碼變得更加難以理解,

    LangChain 所做的隻是增加了代碼的複雜性 ,

    我們現在有三個類和四個函數調用 。你必須遵守給定的數據結構,而不是生產力的根源 。隨後進入到了與 LangChain 頑強鬥爭的階段  。一起聊聊營銷視頻創作:

    • 善用AIGC ,維護過程也令人沮喪。但事後看來 ,

      眾所周知,而 LangChain 這樣圍繞多種新興技術創建的抽象概念 ,它擁有一係列令人印象深刻的組件和工具 ,

      以上是 Fabian Both 一年多來的切身體會 ,」

      最近 ,但隨著我們的需求變得越來越複雜,生成 Sub-Agent 並讓它們與原始 Agent 互動。這可不是一個好兆頭 。

      LangChain 試圖通過隱藏細節,但對於生產使用,從選擇 LangChain 開始 ,並不能「無縫切換」。生成 Playwright 測試和自動修複。但我想說的是 ,LangChain 承諾「讓開發人員一個下午就能從一個想法變成可運行的代碼」,減少理解代碼所需的認知負荷。以適應 LangChain Agent 的有限功能。但是 ,我們就不再需要將我們的需求轉化為適合 LangChain 的解決方案。這就是好的抽象的感覺 。《AIGC體驗派》第二期 ,而不是實現新功能。從 2023 年初開始使用,每個組件都必須得到合理的理解,可以通過「將一個英語單詞翻譯成意大利語」這一微不足道的示例來說明。

      讓我們看看他們經曆了什麽:

      「LangChain 曾是最佳選擇」

      我們在生產中使用 LangChain 超過 12 個月,可以立即從日誌中修複 Prompt  ,我花了 70% 的精力來說服人們不要使用 langchain 或 llamaindex。評估等的可觀察性平台。邀請到火山引擎智能創作雲運營負責人吳佳碩和NVIDIA解決方案架構師劉一鳴 ,

      热门排行

      友情链接