Enfrentando un problema extraño con el modelo base Llama 405B a través de una plataforma de IA descentralizada. Estoy intentando obtener logprobs a través de su integración OpenRouter para algunos trabajos de test, pero la respuesta sigue volviendo vacía - literalmente 0 caracteres devueltos. ¿Alguien más ha encontrado este obstáculo antes? Podría ser un problema con los parámetros de la API o tal vez una peculiaridad específica del modelo con la versión base. Es bastante frustrante cuando estás en medio de una investigación y el pipeline de datos simplemente queda en silencio.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
9 me gusta
Recompensa
9
4
Republicar
Compartir
Comentar
0/400
SleepyValidator
· hace7h
Otra vez la interfaz reportando errores sin sentido, qué frustración.
Ver originalesResponder0
consensus_failure
· hace7h
la versión base es demasiado problemática, ¿verdad?
Ver originalesResponder0
LightningAllInHero
· hace7h
Explotó, dio error después de la prueba.
Ver originalesResponder0
PumpStrategist
· hace7h
Otro que no sabe configurar parámetros y aún así se lanza a hacer grandes modelos.
Enfrentando un problema extraño con el modelo base Llama 405B a través de una plataforma de IA descentralizada. Estoy intentando obtener logprobs a través de su integración OpenRouter para algunos trabajos de test, pero la respuesta sigue volviendo vacía - literalmente 0 caracteres devueltos. ¿Alguien más ha encontrado este obstáculo antes? Podría ser un problema con los parámetros de la API o tal vez una peculiaridad específica del modelo con la versión base. Es bastante frustrante cuando estás en medio de una investigación y el pipeline de datos simplemente queda en silencio.