참고: 원본 텍스트는 @@ FinanceYF5 의 긴 트윗에서 가져왔습니다.
이것은 Generative AI에 대한 또 다른 Silicon Valley vc Base10 분석입니다.
필요한 도구의 4가지 영역과 이를 통해 해결되는 문제는 다음과 같습니다.
1.오케스트레이션
2. 배포, 확장성 및 사전 교육배포, 확장성 및 사전 교육
3.컨텍스트 및 임베딩컨텍스트 및 임베딩
4. 품질 보증 및 관찰 가능성 QA 및 관찰 가능성
1.배치
LLM은 ChatGPT 플러그인과 같은 동적 데이터 액세스 및 사용자 작업을 허용하는 외부 시스템에 연결되어야 합니다. 이러한 새로운 도구는 LLM의 기능을 향상시키고 개인화된 애플리케이션을 지원하며 LLM 및 기타 소프트웨어의 기능을 기하급수적으로 향상시킵니다.
2. 배포 및 확장성
GPT-4와 같은 모델에는 개인 정보 보호 및 사용자 정의 문제가 있기 때문에 개발자는 오픈 소스 또는 사용자 정의 모델을 선택하지만, 오픈 소스 또는 사용자 정의 모델을 배포하면 이러한 도구가 이러한 문제를 해결하는 데 도움이 될 수 있는 인프라, 비용 및 성능 장애물이 발생합니다.
3. 삽입
4월 업계는 뜨거웠으며 1억 7,500만 달러 이상을 모금했습니다. LLM은 올바른 답변을 얻으려면 원래 교육 세트에 없는 컨텍스트나 데이터가 필요합니다. LLM은 추론 시 프롬프트에 제한된 유용한 정보 세트를 추가하여 이 문제를 해결합니다.
4. 품질 보증 및 관찰 가능성
LLM 기반 제품을 배포한 후에는 제품의 V1에서 V2로 이동하기 위해 성능, 속도, 사용자 통찰력 등을 분석해야 합니다. 이 새로운 종류의 도구는 관찰 가능성, 개발자 모니터링, 미세 조정, QA 및 기타 업무.
LLM을 사용하여 제품과 기능을 구축하는 창립자들은 점점 더 많은 장애물과 장애물에 직면하고 있습니다. 우리는 이러한 "어려운 문제"를 해결하고 그 과정에서 잠재적으로 수십억 달러 규모의 비즈니스를 구축할 수 있는 스타트업을 확인했습니다.
주요 문제?
(1) 관련성: 클수록 반드시 좋은 것은 아닙니다.
(2) LLM은 정보 및 조치가 제한되어 있습니다.
(3) LLM은 비싸다
(4) LLM이 항상 비공개인 것은 아닙니다.
(5) LLM은 신뢰할 수 없을 수 있습니다.
우리는 개발자를 위한 스타트업의 주요 사용 사례를 기반으로 이러한 문제 중 일부를 해결합니다. 오케스트레이션: http:// Dust.tt @FixieAI @LangChainAI @vocodehq @JinaAI_ @gpt_index Pyq @GradientJAI @StackAI_HQ 무정부 AI @logspace_ai Trudo AI @make_berri @허블Ai @wavelineai @patterns_app @trypromptly
배포, 확장성 및 사전 교육: @MosaicML @neuralmagic @anyscalecompute @BananaDev_ @OctoML @seldon_io @bentomlai 알파 @LightningAI @Zeet_Co @MindsDB @AiEleuther Utterworks @cerebriumai 메루 @cargoshipsh @텍셀 @rubbrbandHQ 증기선 @PoplarML 빔 @AutoblocksAI
배포, 확장성 및 사전 교육(계속): @basetenco @ForefrontAI @gooseai_NLP @runpod_io @_segmind @CentML_Inc @brevdev
컨텍스트 및 임베딩: @pinecone Metal @weaviate_io Drant @zilliz_universe Valt @UnstructuredIO @RelevanceAI_ 크로마 @trybaseplate @supabase 네온 @activeloopai Marqo AI @Redisinc @xata 베스파 @NucliaAI @PromptableAI @Unum_UK @promptifyai
QA 및 관찰 가능성: @humanloop HoneyHive @deepset_ai Aporia @WhyLabs @arizeai @SuperwiseAI @latticeflowai 해왕성 AI @gretel_ai @helicone_ai Vellum @promptlayer @GraphsignalAI 헬름 @PromptJoy
Base10 원본 텍스트:
https://t.co/4jz3JGUKWS
