Gặp phải một vấn đề kỳ lạ với mô hình cơ sở Llama 405B thông qua một nền tảng AI phi tập trung. Cố gắng lấy logprobs thông qua tích hợp OpenRouter của họ cho một số công việc thử nghiệm, nhưng phản hồi cứ trở lại trống rỗng - thực sự 0 ký tự được trả về. Có ai khác gặp phải tường này chưa? Có thể là vấn đề tham số API hoặc có thể là một đặc điểm cụ thể của mô hình với phiên bản cơ sở. Thực sự khó chịu khi bạn đang giữa cuộc điều tra và đường ống dữ liệu chỉ im lặng.