Lưu ý: Văn bản gốc đến từ @ @FinanceYF5 đã phát hành một tweet dài.
Đây là một phân tích khác của Thung lũng Silicon vc Base10 về Trí tuệ nhân tạo.
Dưới đây là 4 lĩnh vực công cụ bạn cần và các vấn đề mà chúng giải quyết:
1. Dàn nhạc giao hưởng
2. Triển khai, Khả năng mở rộng & Đào tạo trước
3. Bối cảnh và nhúng Bối cảnh & nhúng
4. Đảm bảo chất lượng và khả năng quan sát QA & Khả năng quan sát
1. Vũ đạo
LLM cần được kết nối với các hệ thống bên ngoài, cho phép truy cập dữ liệu động và thao tác người dùng, chẳng hạn như plug-in ChatGPT... Những công cụ mới nổi này nâng cao khả năng của LLM, hỗ trợ các ứng dụng được cá nhân hóa và nhân lên khả năng của LLM và phần mềm khác.
2. Triển khai, khả năng mở rộng
Các nhà phát triển đang chọn các mô hình nguồn mở hoặc tùy chỉnh do các vấn đề về quyền riêng tư và tùy chỉnh với các mô hình như GPT-4, nhưng việc triển khai các mô hình nguồn mở hoặc tùy chỉnh đưa ra các rào cản về cơ sở hạ tầng, chi phí và hiệu suất mà những công cụ này có thể giúp giải quyết những câu hỏi này.
3. Nhúng
Ngành này rất nóng vào tháng 4, với hơn 175 triệu đô la tài trợ Các LLM cần ngữ cảnh hoặc dữ liệu không có trong bộ đào tạo ban đầu của họ để có câu trả lời đúng. Các LLM giải quyết vấn đề này bằng cách đính kèm một bộ thông tin hữu ích hạn chế vào các gợi ý tại thời điểm suy luận.
4. Đảm bảo chất lượng và khả năng quan sát
Khi bạn đã triển khai sản phẩm hỗ trợ LLM của mình, bạn cần phân tích hiệu suất, tốc độ, thông tin chi tiết về người dùng, v.v. để từ V1 đến V2 của sản phẩm, loại công cụ mới nổi này có thể xử lý khả năng quan sát, giám sát, , tinh chỉnh, QA và các nhiệm vụ khác.
Những người sáng lập xây dựng các sản phẩm và tính năng với LLM ngày càng gặp phải nhiều rào cản và rào cản. Chúng tôi đã xác định được những công ty khởi nghiệp giải quyết được những "vấn đề khó khăn" này—và có khả năng xây dựng các doanh nghiệp trị giá hàng tỷ đô la trong quá trình này.
vấn đề chính?
(1) Mức độ liên quan: lớn hơn chưa chắc đã tốt hơn
(2) LLM là thông tin và hành động hạn chế
(3) LLM đắt
(4) LLM không phải lúc nào cũng riêng tư
(5) LLM có thể không đáng tin cậy.
Chúng tôi giải quyết một số vấn đề này dựa trên trường hợp sử dụng chính của chúng dành cho nhà phát triển: Dàn nhạc: http://Dust.tt @FixieAI @LangChainAI @vocodehq @JinaAI_ @gpt_index Pyq @GradientJAI @StackAI_HQ AI hỗn loạn @logspace_ai Trudo AI @make_berri @HubbleAi @wavelineai @patterns_app @trypromptly
Triển khai, Khả năng mở rộng và Đào tạo trước: @MosaicML @neuralmagic @anyscalecompute @BananaDev_ @OctoML @seldon_io @bentomlai Alpa @LightningAI @Zeet_Co @MindsDB @AiEleuther Utterworks @cerebriumai Meru @cargoshipsh @Texel @rubbrbandHQ Tàu hơi nước @PoplarML Beam @AutoblocksAI
Triển khai, Khả năng mở rộng và Đào tạo trước (tiếp): @basetenco @ForefrontAI @gooseai_NLP @runpod_io @_segmind @CentML_Inc @brevdev
Bối cảnh & nhúng: @pinecone Metal @weaviate_io Drant @zilliz_universe Valt @UnstructuredIO @RelevanceAI_ Chroma @trybaseplate @supabase Neon @activeloopai Marqo AI @Redisinc @xata Vespa @NucliaAI @PromptableAI @Unum_UK @promptifyai
QA & Khả năng quan sát: @humanloop HoneyHive @deepset_ai Aporia @WhyLabs @arizeai @SuperwiseAI @latticeflowai Neptune AI @gretel_ai @helicone_ai Vellum @promptlayer @GraphsignalAI Helm @PromptJoy
Cơ sở ban đầu10:
https://t.co/4jz3JGUKWS
