Litelm đã bị tấn công bởi Chuỗi cung ứng PyPI; một thao tác cài đặt đơn giản có thể đánh cắp tất cả thông tin đăng nhập nhạy cảm, bao gồm cả khóa SSH.

Theo Mars Finance, Andrej Karpathy đã đăng trên nền tảng X rằng litellm đã bị tấn công Chuỗi cung ứng PyPI. Chỉ cần thực hiện lệnh `pip install litellm` có thể đánh cắp khóa SSH, thông tin đăng nhập AWS/GCP/Azure, cấu hình Kubernetes, thông tin đăng nhập Git, biến hoàn cảnh, ví crypto, private key SSL, khóa CI/CD và mật khẩu cơ sở dữ liệu. Litellm có 97 lần lượt tải xuống mỗi tháng, và rủi ro có thể lan rộng đến tất cả các dự án dựa vào litellm, chẳng hạn như dspy. Phiên bản bị tiêm nhiễm độc hại đã được thời gian ra mắt trong chưa đầy một giờ trước khi bị phát hiện khi một lỗ hổng trong mã tấn công khiến máy của Callum McMahon hết bộ nhớ và bị sập. Andrej Karpathy cho biết các cuộc tấn công Chuỗi cung ứng là một trong những vấn đề đe dọa nhất trong phần mềm hiện đại, lần lần cài đặt phụ thuộc có thể đưa các gói bị giả mạo vào sâu trong cây phụ thuộc. Do đó, ông ngày càng có xu hướng giảm bớt các phụ thuộc và thay vào đó sử dụng LLM để trực tiếp thực hiện các chức năng đơn giản.