La société américaine Lingo Telecom fait face à une amende d’un million de dollars pour des appels automatisés de Biden générés par l’IA

Lingo Telecom, un fournisseur de services vocaux basé aux États-Unis, a accepté un règlement d'un million de dollars avec la Federal Communications Commission (FCC). La société a été accusée d'avoir facilité les appels automatisés basés sur l'IA qui ont influencé les électeurs des élections primaires du New Hampshire de 2024. 

Le 21 janvier 2024, de nombreux citoyens du New Hampshire ont été intimidés par des appels téléphoniques dont la voix ressemblait à celle du dent Joe Biden. Les appels, qui étaient automatisés, indiquaient aux cibles que voter à la primaire dent de l'État les priverait du droit de vote lors des élections générales de novembre. La voix a été enregistrée à l’aide d’une fausse voix grave qui imite Joe Biden en utilisant l’algorithme d’apprentissage profond. 

Lingo Telecom fait face à des sanctions et à des mesures de conformité

L’opération a été menée par le stratège politique Steve Kramer, qui a déclaré que le but n’était pas d’influencer les élections mais d’illustrer à quel point l’IA pouvait être dangereuse. Les actions de Kramer ont cependant eu des effets négatifs potentiels, fournissant de fausses informations aux électeurs et constituant une menace pour l'équité de l'élection. La technologie de Lingo Telecom a été utilisée dans ce processus car elle facilitait l'envoi de ces messages aux personnes concernées. 

En vertu du règlement, Lingo Telecom devra payer 1 million de dollars à titre de sanction civile alors que la FCC voulait que l'entreprise paie 2 millions de dollars. La société est également tenue de disposer d'un plan de conformité solide, qui inclut la conformité au cadre d'authentification de l'identification de l'appelant STIR/SHAKEN de la FCC.

Ce cadre est une tentative de résoudre le problème de l’usurpation d’identité de l’appelant. Cela a été utilisé dans la campagne d'appels automatisés pour donner l'impression que les appels provenaient d'autres numéros légitimes. 

La FCC a également souligné que cet accord est essentiel pour envoyer un message tron aux autres entreprises impliquées dans de telles activités ou qui facilitent de telles activités. Lingo Telecom, bien qu'acceptant le règlement, a tron critiqué les actions de la FCC, affirmant que le régulateur tente d'introduire de nouvelles règles de manière rétroactive.

Un responsable de la FCC souligne les dangers du clonage vocal de l'IA lors des élections

Loyaan Egal, chef du bureau d'application de la FCC, a noté que l'usurpation d'identité avec usurpation d'identité de l'appelant et clonage de voix par IA est très dangereuse, en particulier pendant la période électorale. Egal a noté que ces technologies peuvent être utilisées à mauvais escient par des acteurs étatiques dans la poursuite d'un agenda politique ou par des acteurs étrangers ayant l'intention de s'immiscer dans les processus politiques du pays.

Steve Kramer, le consultant politique à l'origine des appels automatisés, fait face à des conséquences encore plus graves. La FCC a proposé une amende de 6 millions de dollars contre Kramer, qui pourrait également encourir jusqu'à sept ans de prison pour suppression d'électeurs.

 En outre, Kramer pourrait également être condamné à un an de prison pour usurpation d'identité en tant que candidat politique. Les accusations montrent comment les autorités traitent cette affaire, la considérant comme un exemple clair des risques liés à l’utilisation de l’IA en politique. 

Robert Weissman, coprésident dent à but non lucratif Public Citizen, a salué les actions de la FCC dans cette affaire, affirmant que les deepfakes constituaient une « menace existentielle pour notre démocratie ».