Autor: Chris Dixon, fundador da a16z crypto; Elizabeth Harkavy, parceira da a16z crypto; Tradução: Jinse Caijing xiaozou
Os sistemas modernos de inteligência artificial não dependem apenas de poder computacional e algoritmos, mas também do feedback humano. As empresas utilizam técnicas de otimização pós-treinamento, como aprendizado por reforço com feedback humano (RLHF) e otimização de preferências diretas (DPO), para melhorar os modelos. Essas técnicas podem reduzir preconceitos, permitindo que os modelos respondam a prompts de forma mais qualitativa e coerente - isso é crucial para acelerar o desenvolvimento da IA. A avaliação do modelo também é fundamental, mas só ao definir o que significa "melhor" é que se pode realizar a otimização do modelo.
Os desafios surgem: as empresas relutam em compartilhar - elas veem os dados e os processos de treinamento como segredos. Isso leva a uma avaliação de modelos de IA que só pode depender de informações limitadas de sistemas fechados ou testes de referência estáticos que estão desconectados da aplicação prática, restringindo severamente o espaço para melhorias nos modelos. Os usuários também estão em uma zona cega de informações, sem entender como seu feedback afeta o modelo, nem mesmo podendo confirmar se o feedback foi adotado. Algumas classificações de modelos e plataformas de crowdsourcing tentam melhorar a transparência, mas geralmente não suportam que os usuários rastreiem suas próprias contribuições, nem oferecem retornos substanciais pela participação. Aqueles que afirmam ser plataformas justas e transparentes muitas vezes dependem da boa fé em vez de padrões executáveis.
Acreditamos que a tecnologia de criptomoeda pode trazer transparência e propriedade para essa zona cinza da IA. A blockchain pode ajudar os contribuintes a obter recompensas de forma conveniente e também fornecer aos desenvolvedores de IA uma garantia confiável sobre a qualidade e a origem dos dados de feedback. Os usuários recebem incentivos, os desenvolvedores obtêm dados confiáveis, e todos podem realizar auditorias bidirecionais neste mercado aberto. Para isso, lideramos uma rodada de sementes de 33 milhões de dólares para o produto de consumo Yupp, uma plataforma que permite que todos explorem e comparem gratuitamente os mais recentes modelos de IA.
Yupp utiliza um modelo de avaliação de modelos baseado em crowdsourcing: os usuários inserem palavras-chave e visualizam várias respostas geradas por IA em paralelo, selecionando a melhor resposta. As suas escolhas geram dados de preferência "pacote de dados" com assinatura digital, que são extremamente valiosos para a otimização e avaliação após o treinamento da IA. Os usuários não apenas podem usar gratuitamente os modelos mais recentes, mas também recebem recompensas com base no feedback fornecido.
O design da Yupp transforma o julgamento humano em um recurso econômico renovável. À medida que novos dados de interação são gerados, os dados antigos "expiram", formando um volante natural: mais adoção traz avaliações mais frescas; avaliações mais frescas geram modelos de maior qualidade; modelos de maior qualidade atraem mais uso. Todos os participantes — sejam usuários comuns ou desenvolvedores de modelos de IA — podem se juntar e ver regras transparentes aplicáveis a todos, garantindo que o mercado mantenha a neutralidade confiável. Ninguém pode esconder pontuações, e ninguém pode manipular recompensas ou resultados.
A equipe fundadora possui uma vasta experiência tanto em IA quanto no campo das criptomoedas. Eles trabalharam juntos no desenvolvimento de produtos de aprendizado de máquina voltados para o consumidor no início do Twitter. Pankaj Gupta foi o responsável global pela engenharia da parte de consumo do Google Pay e da Coinbase, enquanto Gilad Mishne foi o responsável pelo aprendizado de máquina do GoogleX. A equipe de startups reúne engenheiros seniores de empresas como Google, Coinbase e dos principais laboratórios.
A IA precisa de um sistema de avaliação robusto e confiável baseado em grandes volumes de input humano, e a tecnologia de criptografia é a máquina de confiança que torna isso possível. Ao permitir que usuários globais contribuam com feedback para melhorar os modelos, a Yupp se dedica a se tornar a camada de avaliação fundamental para a IA do futuro. Temos a honra de apoiar a Yupp e esperamos ajudar a construir um ciclo de feedback em blockchain, garantindo que os frutos da inovação em IA sejam compartilhados por todos os construtores.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
a16z: Por que investimos na Yupp
Autor: Chris Dixon, fundador da a16z crypto; Elizabeth Harkavy, parceira da a16z crypto; Tradução: Jinse Caijing xiaozou
Os sistemas modernos de inteligência artificial não dependem apenas de poder computacional e algoritmos, mas também do feedback humano. As empresas utilizam técnicas de otimização pós-treinamento, como aprendizado por reforço com feedback humano (RLHF) e otimização de preferências diretas (DPO), para melhorar os modelos. Essas técnicas podem reduzir preconceitos, permitindo que os modelos respondam a prompts de forma mais qualitativa e coerente - isso é crucial para acelerar o desenvolvimento da IA. A avaliação do modelo também é fundamental, mas só ao definir o que significa "melhor" é que se pode realizar a otimização do modelo.
Os desafios surgem: as empresas relutam em compartilhar - elas veem os dados e os processos de treinamento como segredos. Isso leva a uma avaliação de modelos de IA que só pode depender de informações limitadas de sistemas fechados ou testes de referência estáticos que estão desconectados da aplicação prática, restringindo severamente o espaço para melhorias nos modelos. Os usuários também estão em uma zona cega de informações, sem entender como seu feedback afeta o modelo, nem mesmo podendo confirmar se o feedback foi adotado. Algumas classificações de modelos e plataformas de crowdsourcing tentam melhorar a transparência, mas geralmente não suportam que os usuários rastreiem suas próprias contribuições, nem oferecem retornos substanciais pela participação. Aqueles que afirmam ser plataformas justas e transparentes muitas vezes dependem da boa fé em vez de padrões executáveis.
Acreditamos que a tecnologia de criptomoeda pode trazer transparência e propriedade para essa zona cinza da IA. A blockchain pode ajudar os contribuintes a obter recompensas de forma conveniente e também fornecer aos desenvolvedores de IA uma garantia confiável sobre a qualidade e a origem dos dados de feedback. Os usuários recebem incentivos, os desenvolvedores obtêm dados confiáveis, e todos podem realizar auditorias bidirecionais neste mercado aberto. Para isso, lideramos uma rodada de sementes de 33 milhões de dólares para o produto de consumo Yupp, uma plataforma que permite que todos explorem e comparem gratuitamente os mais recentes modelos de IA.
Yupp utiliza um modelo de avaliação de modelos baseado em crowdsourcing: os usuários inserem palavras-chave e visualizam várias respostas geradas por IA em paralelo, selecionando a melhor resposta. As suas escolhas geram dados de preferência "pacote de dados" com assinatura digital, que são extremamente valiosos para a otimização e avaliação após o treinamento da IA. Os usuários não apenas podem usar gratuitamente os modelos mais recentes, mas também recebem recompensas com base no feedback fornecido.
O design da Yupp transforma o julgamento humano em um recurso econômico renovável. À medida que novos dados de interação são gerados, os dados antigos "expiram", formando um volante natural: mais adoção traz avaliações mais frescas; avaliações mais frescas geram modelos de maior qualidade; modelos de maior qualidade atraem mais uso. Todos os participantes — sejam usuários comuns ou desenvolvedores de modelos de IA — podem se juntar e ver regras transparentes aplicáveis a todos, garantindo que o mercado mantenha a neutralidade confiável. Ninguém pode esconder pontuações, e ninguém pode manipular recompensas ou resultados.
A equipe fundadora possui uma vasta experiência tanto em IA quanto no campo das criptomoedas. Eles trabalharam juntos no desenvolvimento de produtos de aprendizado de máquina voltados para o consumidor no início do Twitter. Pankaj Gupta foi o responsável global pela engenharia da parte de consumo do Google Pay e da Coinbase, enquanto Gilad Mishne foi o responsável pelo aprendizado de máquina do GoogleX. A equipe de startups reúne engenheiros seniores de empresas como Google, Coinbase e dos principais laboratórios.
A IA precisa de um sistema de avaliação robusto e confiável baseado em grandes volumes de input humano, e a tecnologia de criptografia é a máquina de confiança que torna isso possível. Ao permitir que usuários globais contribuam com feedback para melhorar os modelos, a Yupp se dedica a se tornar a camada de avaliação fundamental para a IA do futuro. Temos a honra de apoiar a Yupp e esperamos ajudar a construir um ciclo de feedback em blockchain, garantindo que os frutos da inovação em IA sejam compartilhados por todos os construtores.