A tecnologia de scaffolding, embora seja bastante promissora, na verdade não resolve a questão fundamental das alucinações da IA. Veja o que os grandes modelos estão fazendo agora — gerar informações falsas, inventar dados, criar conteúdos sem sentido, esses problemas surgem constantemente. As restrições em formato de estrutura são úteis? Têm algum efeito, mas estão longe de ser suficientes. A menos que se melhore fundamentalmente o mecanismo de aprendizagem do modelo e o sistema de validação do conhecimento, essas soluções paliativas só poderão aliviar os sintomas superficiais. A direção atual do desenvolvimento da tecnologia de IA ainda requer avanços mais profundos; apenas otimizações de engenharia já atingiram um limite.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
13 gostos
Recompensa
13
5
Republicar
Partilhar
Comentar
0/400
MissedAirdropAgain
· 01-18 11:53
Reparar e remendar nunca vai criar habilidades verdadeiras, Scaffolding é apenas um placebo
Ver originalResponder0
ApeWithNoChain
· 01-18 11:52
Resumindo, essa coisa de scaffolding é como colar um remendo num balde com vazamento
As restrições do quadro podem resistir às ilusões? Pensar demais, amigo
No fundo, o problema é o próprio modelo, consertar e remendar não adianta
Ver originalResponder0
Degen4Breakfast
· 01-18 11:47
Aprendizagem profunda, esta coisa é só uma grande ilusão, montar uma estrutura e alterar parâmetros consegue curar alucinações? Ehhh ehhh ehhh
Ver originalResponder0
DaoTherapy
· 01-18 11:41
Resumindo, scaffolding é apenas aplicar patches, não resolve a causa raiz.
Volto a pensar naqueles amigos que foram enganados por dados falsificados, realmente não aguento mais.
Essa questão fica cada vez mais evidente, a otimização de projetos já atingiu o teto, é preciso mudar a base.
A tecnologia de scaffolding, embora seja bastante promissora, na verdade não resolve a questão fundamental das alucinações da IA. Veja o que os grandes modelos estão fazendo agora — gerar informações falsas, inventar dados, criar conteúdos sem sentido, esses problemas surgem constantemente. As restrições em formato de estrutura são úteis? Têm algum efeito, mas estão longe de ser suficientes. A menos que se melhore fundamentalmente o mecanismo de aprendizagem do modelo e o sistema de validação do conhecimento, essas soluções paliativas só poderão aliviar os sintomas superficiais. A direção atual do desenvolvimento da tecnologia de IA ainda requer avanços mais profundos; apenas otimizações de engenharia já atingiram um limite.