O DeepFake gerado pela IA de uma vítima falecida de raiva da estrada deu sua própria declaração de impacto no tribunal na audiência de sentença do Defendente, . É provavelmente a primeira vez que a tecnologia é usada dessa maneira.
A idéia de usar uma versão de IA da vítima, Christopher Pelkey, veio de sua família, de acordo com um porta -voz do escritório do advogado do condado de Maricopa. A irmã de Pelkey disse que estava escrevendo a declaração de impacto há dois anos, mas descobriu que o que ela tinha a dizer “não parecia fazer justiça” à sua memória. Pelkey foi baleado e morto em 2021 durante um incidente de raiva na estrada.
Então, a idéia de trazer um avatar de Deepfake nasceu. A irmã de Pelkey escreveu o roteiro, dizendo à CNN Que ela tinha certeza de “é o que ele pensaria”. O juiz do Tribunal Superior do Condado de Maricopa, Todd Lang, aprovou a idéia e a família tocou um vídeo do Pelkey gerado pela IA no tribunal. No vídeo, o avatar realmente parecia pedir clemência ao condenar seu assassino. O réu foi condenado por homicídio culposo e ameaça no início deste ano.
“Para Gabriel Horcasitas, o homem que atirou em mim: é uma pena nos encontrarmos naquele dia nessas circunstâncias”, disse a versão synthetic de Pelkey. “Em outra vida, provavelmente poderíamos ter sido amigos. Acredito em perdão”.
No entanto, o juiz emitiu a sentença máxima de mais de 10 anos de prisão. “Ouvi o perdão”, disse ele sobre o avatar gerado pela IA. “Eu sinto que isso foi genuíno, que seu óbvio perdão do Sr. Horcasitas reflete o personagem que ouvi falar sobre [Pelkey] hoje.”
A defesa declarou que a apresentação da IA cria uma forte questão para o recurso. “Embora os juízes certamente tenham latitude sobre o que ouvir, principalmente das vítimas, um tribunal de apelação terá que decidir se isso foi um erro”, disse o advogado de defesa Jason Lamm. O caso já foi tentado para questões processuais.
O professor de direito da Universidade Estadual do Arizona, Gary Marchant, especializado em ética e tecnologias emergentes, está preocupado com o precedente authorized estabelecido aqui.
“Você vê essa pessoa no tribunal realmente falando e, na realidade, elas estão mortas e não estão falando”, disse ele NBC Information. “Então, este é um salto additional que eu sinto que vai nos levar a motivos perigosos”.
