Ir para o conteúdo principal
Bethemesh

Remover duplicados CSV

Detete duplicados num CSV a partir de uma ou mais colunas, conserve as linhas úteis e obtenha um ficheiro limpo.

  • Área de transferência

Integrar este widget

Personalize o resultado, verifique a pré-visualização e copie o código.

Pré-visualização

Tipo de código de integração

Código a copiar

Responsivo e redimensionado automaticamente pela Bethemesh.

Deixe vazio para comparar todas as colunas

Esta ferramenta foi útil?

Como funciona esta ferramenta?

Dois registos podem ser duplicados porque todas as células coincidem ou porque partilham uma chave apesar de conterem informações diferentes. A remoção de duplicados CSV permite escolher essa definição antes de produzir um ficheiro reduzido. É útil para retirar linhas repetidas depois de juntar exportações ou manter uma versão por identificador. Ao contrário do analisador de linhas de texto, interpreta campos CSV, compara várias colunas e devolve os registos conservados. Decidir se dois clientes ou operações devem contar como a mesma entidade continua a depender do seu contexto de trabalho.

Se o campo das chaves ficar vazio, comparam-se todas as colunas. Caso contrário, introduza títulos exatos ou posições a partir de 1, separados por vírgulas. Várias colunas formam uma chave composta: a repetição tem de corresponder em todos os campos escolhidos. Um título repetido seleciona a primeira ocorrência; use posições para as restantes ou para títulos com vírgulas. Sem cabeçalho, escolha números. Uma posição fora da tabela deve ser corrigida antes do processamento.

O separador é detetado entre vírgula, ponto e vírgula, tabulação e barra vertical, ou pode ser escolhido expressamente. O cabeçalho começa ativo e fica fora da remoção de duplicados. A leitura reconhece campos entre aspas, separadores internos e mudanças de linha citadas; uma marca BOM inicial é retirada. Os espaços exteriores são ignorados por defeito ao construir a chave, mas as maiúsculas contam. Ativar a comparação sem distinção de maiúsculas agrupa A e a. Estas opções alteram a comparação, não os valores das células do registo mantido.

Conserva-se a primeira ocorrência por defeito, ou a última se a selecionar. Nos dois casos, os grupos seguem a ordem da primeira ocorrência das respetivas chaves. Guardar a última versão não ordena a saída por data nem pela posição desse último registo. Não são combinados campos das versões descartadas. Os números continuam a ser texto: 1 e 1,0 não passam a ser iguais. Uma célula ausente e uma célula vazia contribuem com o mesmo valor vazio para a chave. O resumo conta registos eliminados e conservados sem incluir o cabeçalho.

Como usar esta ferramenta

  1. Confirme a leitura da exportação

    Cole ou importe o CSV, escolha o separador se necessário e confirme o cabeçalho. Identifique os campos que definem efetivamente a unicidade dos registos no seu caso de utilização.

  2. Defina a chave e a ocorrência mantida

    Deixe as chaves vazias para comparar linhas completas ou indique as colunas pretendidas. Escolha primeira ou última ocorrência e decida se espaços exteriores e maiúsculas devem distinguir valores.

  3. Examine as versões descartadas

    Execute a remoção e confronte o contador de eliminações com o esperado. Reveja as células mantidas, sobretudo as diferenças fora da chave, antes de copiar ou exportar o CSV resultante.

Casos de uso

Retirar uma importação repetida

Compare todas as colunas para eliminar registos iguais depois de juntar ficheiros, sem confundir encomendas distintas que pertencem ao mesmo cliente ou partilham outro campo que não é único.

Manter uma versão por referência

Escolha o identificador do produto como chave e decida expressamente entre a primeira e a última linha. O motor não determina automaticamente qual das versões é a mais recente.

Utilizar uma chave composta

Associe referência e data quando cada produto deve aparecer uma só vez por dia. A igualdade apenas na referência deixa então de ser suficiente para eliminar um dos registos.

Exemplos

Retirar um registo inteiramente repetido

Com todas as colunas e a primeira ocorrência, é retirado um registo. A e Ana têm de coincidir em conjunto: outro nome associado a A não seria eliminado neste modo. O resultado contém duas linhas de dados.

Entrada

id;nome
A;Ana
B;Bruno
A;Ana

Resultado

id;nome
A;Ana
B;Bruno

Guardar o último nome de uma chave

Com id como chave e a última ocorrência selecionada, Anabela substitui Ana no grupo A. A continua antes de B porque essa chave surge primeiro na entrada. O motor não reordena os grupos segundo a última linha de cada um.

Entrada

id;nome
A;Ana
B;Bruno
A;Anabela

Resultado

id;nome
A;Anabela
B;Bruno

Dicas e boas práticas

  • Não use uma identidade vazia como chave sem avaliar as consequências: vários registos desconhecidos podem ser agrupados e ficar apenas um. Complete ou isole essas linhas antes de remover os duplicados.
  • Para conservar a versão mais recente, ordene primeiro uma data num formato comparável e mantenha depois a última ocorrência. A opção última não procura nem interpreta datas presentes nas outras células.
  • As colunas fora da chave não protegem um registo da eliminação. Guarde os dados de origem para poder investigar diferenças importantes, como um montante, um endereço ou um estado numa versão descartada.

Perguntas frequentes

Ignorar espaços também limpa as células exportadas?

Não. Os espaços exteriores são retirados apenas para determinar se as chaves coincidem. O registo mantido conserva os valores originais, incluindo espaços. Aplique depois uma limpeza explícita se quiser modificar esses conteúdos.

Primeira ocorrência significa a versão mais antiga?

Só quando a entrada já está ordenada cronologicamente. A ferramenta segue a ordem do ficheiro sem interpretar datas. Primeira e última referem-se à posição do registo, não à sua antiguidade no processo de negócio.

Posso manter informação de todos os registos agrupados?

Esta operação conserva uma linha completa e descarta as restantes. Não preenche células vazias com outra versão nem soma montantes. Consolidar campos através de regras de prioridade exige uma transformação diferente.

Porque continuam separados números aparentemente equivalentes?

As chaves são texto: 1, 1,0 e 01 são cadeias diferentes. Ignorar maiúsculas não altera esse comportamento. Normalize as escritas apenas se representarem realmente a mesma entidade, e não identificadores distintos que devam ser preservados.

Ferramentas relacionadas

Ferramentas semelhantes ou complementares a esta.

Ferramentas semelhantes

Identifique linhas duplicadas, conte ocorrências e crie um resumo ordenado.

Dados e folhas de cálculoUtilizar esta ferramenta

Ordene as linhas de um ficheiro CSV segundo uma coluna, por ordem crescente ou decrescente.

Dados e folhas de cálculoUtilizar esta ferramenta