注：原文來自@@FinanceYF5釋出長推。
這是又一篇矽谷vc Base10 對於Generative AI的分析。
以下是您需要的 4 個工具領域及其解決的問題：
1.編排 Orchestration
2. 部署、可擴充套件性和預訓練 Deployment, Scalability & Pre-training
3.上下文和嵌入 Context & Embeddings
4. 質量保證和可觀察性QA & Observability
1.編排
LLM 需要連線到外部系統，允許動態資料訪問和使用者操作，例如 ChatGPT 外掛 這些新興工具增強了 LLM 的能力，支援個性化應用程式併成倍增加 LLM 和其他軟體的能力。
2. 部署、可擴充套件性
開發人員正在選擇開源或自定義模型，因為像 GPT-4 這樣的模型存在隱私和定製問題等 ，但部署開源或自定義模型會帶來基礎設施、成本和效能方面的障礙，這些工具可以幫助解決這些問題。
3.嵌入
該行業在 4 月份很火爆，融資超過 1.75 億美元 LLM 需要不在其原始訓練集中的上下文或資料才能獲得正確答案。 LLM 通過在推理時在提示中附加一組有限的有用資訊來解決這個問題。
4. 質量保證和可觀察性
一旦你部署了你的 LLM 支援的產品，你需要分析它的效能、速度、使用者洞察力等，以便從你的產品的 V1 到 V2 這種新興的工具類可以為開發人員處理可觀察性、監控、微調、QA 和其他任務。
用 LLM 構建產品和功能的創始人越來越多地遇到障礙和障礙。 我們已經確定瞭解決這些“難題”的初創公司——並可能在此過程中建立數十億美元的業務。
主要問題？
(1)關聯性：越大不一定越好
(2) LLM 是資訊和行動受限的
(3) LLM 很貴
(4) LLM 並不總是私有的
(5) LLM 可能不可靠。
我們根據這些初創公司對開發人員的主要用例來解決其中一些問題： Orchestration: http://Dust.tt @FixieAI @LangChainAI @vocodehq @JinaAI_ @gpt_index Pyq @GradientJAI @StackAI_HQ Anarchy AI @logspace_ai Trudo AI @make_berri @HubbleAi @wavelineai @patterns_app @trypromptly
Deployment, Scalability, & Pre-Training: @MosaicML @neuralmagic @anyscalecompute @BananaDev_ @OctoML @seldon_io @bentomlai Alpa @LightningAI @Zeet_Co @MindsDB @AiEleuther Utterworks @cerebriumai Meru @cargoshipsh @Texel @rubbrbandHQ Steamship @PoplarML Beam @AutoblocksAI
Deployment, Scalability, & Pre-Training (cont.): @basetenco @ForefrontAI @gooseai_NLP @runpod_io @_segmind @CentML_Inc @brevdev
Context & Embeddings: @pinecone Metal @weaviate_io Drant @zilliz_universe Valt @UnstructuredIO @RelevanceAI_ Chroma @trybaseplate @supabase Neon @activeloopai Marqo AI @Redisinc @xata Vespa @NucliaAI @PromptableAI @Unum_UK @promptifyai
QA & Observability: @humanloop HoneyHive @deepset_ai Aporia @WhyLabs @arizeai @SuperwiseAI @latticeflowai Neptune AI @gretel_ai @helicone_ai Vellum @promptlayer @GraphsignalAI Helm @PromptJoy
Base10 原文：
https://t.co/4jz3JGUKWS
