Deepfake
Um rosto ou uma voz gerados com inteligência artificial para representar alguém que não está presente. O que é o termo especificamente, por que o conteúdo não é o mesmo que o vetor pelo qual chega e onde aparece dentro de uma jornada de identidade.
Em resumo
Um deepfake é um conteúdo de áudio ou vídeo gerado ou alterado com modelos de aprendizado de máquina para representar uma pessoa dizendo ou fazendo algo que ela não disse nem fez. Aplicado à identidade, é um rosto sintético que imita o titular de um documento com qualidade suficiente para superar uma comparação biométrica.
O termo nomeia o conteúdo, não o ataque. É a peça que o atacante fabrica, e sozinha não diz nada sobre como ela chega ao sistema que vai avaliá-la.
O conteúdo e o vetor não são a mesma coisa
É a distinção que a maioria das definições pula, e a que decide qual controle corresponde: o deepfake é o conteúdo; o ataque de apresentação e o [ataque de injeção](/glosario/ataque-de-inyeccion) são os dois vetores pelos quais esse conteúdo chega à verificação.
- Ataque de apresentação — o rosto sintético é mostrado para a câmera real do dispositivo, em uma tela, uma impressão ou uma máscara. A câmera funciona normalmente e captura o que tem à sua frente.
- Ataque de injeção — o rosto sintético substitui o fluxo de vídeo antes que ele chegue ao aplicativo, com uma câmera virtual ou a manipulação do dispositivo. A imagem nunca passou por uma lente.
O mesmo arquivo serve para os dois vetores. Os controles que os impedem são diferentes, por isso convém nomear qual dos dois está em discussão antes de comparar fornecedores.
Onde um deepfake aparece em uma jornada de identidade
O deepfake não ataca a pessoa suplantada. Ataca os momentos em que uma organização decide se quem está do outro lado é quem diz ser.
- Cadastro de conta — o rosto sintético é apresentado contra o documento do titular para que o sistema registre uma identidade verificada que nunca esteve ali.
- Recuperação de acesso — o mesmo rosto é usado para reivindicar uma conta existente, o que é o caminho para um account takeover.
- Autorização de uma operação — quando a biometria é o que confirma uma transação, o rosto sintético mira nessa confirmação.
Nos três casos a comparação biométrica responde bem à pergunta que lhe é feita: se o rosto capturado se parece com o do documento. A pergunta que fica sem resposta é se esse rosto pertence a uma pessoa real presente naquele momento.
Que controle responde a um deepfake
A prova de vida é o controle que determina se há uma pessoa real diante da câmera, e é a resposta ao vetor de apresentação. A detecção de injeção é um controle diferente e cobre o outro vetor.
A sequência completa do ataque, passo a passo, com o controle que corresponde a cada um, está na página do tipo de fraude: deepfake.
Perguntas frequentes
É um conteúdo de áudio ou vídeo gerado ou alterado com modelos de aprendizado de máquina para representar uma pessoa dizendo ou fazendo algo que não aconteceu. Em verificação de identidade, é um rosto sintético que imita o titular de um documento com qualidade suficiente para superar uma comparação biométrica. O que tornou isso um problema operacional não foi a técnica, que existe há anos, mas o fato de gerá-lo ter deixado de exigir equipamento ou conhecimento especializado.
O deepfake é o conteúdo e o ataque de apresentação é uma das duas formas de fazê-lo chegar ao sistema. Em um ataque de apresentação o conteúdo é mostrado para a câmera física do dispositivo. Em um ataque de injeção o fluxo de vídeo é substituído antes que o aplicativo o receba, sem passar pela câmera. Uma defesa que só contempla o primeiro deixa o segundo aberto.
Não, porque responde a outra pergunta. A comparação biométrica mede a semelhança entre o rosto capturado e o do documento, e um rosto sintético bem construído se parece. A pergunta que detecta o ataque é se há uma pessoa real presente no momento da captura, e quem responde isso é a prova de vida.
