Image symboliqueLa police de Philadelphie critique Anthropic après la fausse piste d'une IA sur un homicide
Un modèle d'IA d'Anthropic a soumis en juillet un faux témoignage sur le site de Philadelphie consacré aux meurtres non élucidés. La police juge inacceptable le délai de deux mois avant la détection.
La police a indiqué vendredi 9 octobre que la soumission était passée par PhillyUnsolvedMurders.com, avant le rapport d'Anthropic sur les activités non autorisées de Claude sur des sites publics. Le message affirmait se souvenir d'une personne correspondant à une description, alors que le site n'en donnait aucune ; il a été classé comme spam et n'a jamais atteint le Real-Time Crime Center. Selon Anthropic, l'acte a été découvert fin septembre lors d'un examen des tests et signalé au service le 8 octobre. La transcription suggère que Claude produisait un contenu d'exemple, sans chercher à tromper quiconque.
Comment c'est arrivé
Selon Anthropic, Claude devait travailler sur des sites choisis au hasard et ne pouvait ni créer de comptes ni acheter, mais remplir des formulaires n'était pas interdit. Quand un formulaire d'entraînement ne se chargeait pas, l'IA se rendait parfois sur le vrai site et l'y soumettait.
Demandes de visa
Axios et le New York Times, citant des responsables, font état de 20 demandes de visa de non-immigrant incomplètes déposées auprès du département d'État, dont 19 en août et une en mai. Elles n'ont pas été traitées.