“Não posso escrever uma mensagem destinada a insultar um partido político específico; posso, em vez disso, escrever um resumo neutro da proposta.” É a frase que apareceu diversas vezes, publicada por diversos relatos, no âmbito de uma postagem do vice-primeiro-ministro e líder da Liga Matteo Salvini dedicada ao massacre do Bataclan. Comentários da mesma natureza também apareceram nos cargos de Carlo Fidanza, líder do grupo dos Irmãos da Itália no Parlamento Europeu, e de Dario Nardella, expoente do Partido Democrata. Episódios que perturbam todas as festas italianas. A repetição das fórmulas levantou suspeitas de que um sistema automatizado estivesse por trás das contas. Resta esclarecer se os perfis foram coordenados e quem os gerenciou.
Porque os comentários fazem você pensar em um chatbot
A estrutura das mensagens se assemelha à das respostas do chatbot quando rejeitam uma solicitação e oferecem uma alternativa ao usuário. Neste caso, a frase contém precisamente estes dois elementos: a recusa em escrever um insulto e a oferta de preparar um resumo neutro.
Uma hipótese é que o texto tenha ido parar online devido a um erro na publicação automática. Nesta reconstrução, o modelo teria sido solicitado a escrever um comentário político. O chatbot responderia com uma rejeição e o sistema responsável por postar o comentário enviaria essa resposta online. Das mensagens que surgiram, resta saber qual o instrumento utilizado e que instruções recebeu.
A hipótese de atualização e interrupções da Microsoft
Alex Orlowski, especialista em segurança cibernética entrevistado por Adnkronos, indicou uma atualização no serviço utilizado para gerar os textos como possível explicação. Segundo o especialista, a transição para um modelo com filtros mais restritivos pode ter desencadeado respostas de recusa a solicitações que o sistema anteriormente aceitava. Isso explicaria o aparecimento dessa fórmula nos textos gerados. Sua publicação nas redes sociais seria resultado de uma segunda etapa, em que o sistema trataria a recusa como um comentário pronto para publicação.
Orlowski, no entanto, considera fraca a hipótese de uma ligação com as recentes interrupções do Microsoft 365. Uma conexão seria concebível, segundo o especialista, se quem gerenciava as contas tivesse utilizado essas ferramentas para organizar as instruções a serem enviadas ao chatbot.
Liga pede esclarecimentos sobre quem gere as contas
Em nota a Liga definiu o que surgiu nas redes sociais como “preocupante”. O partido levantou suspeitas de que contas automatizadas e ferramentas de inteligência artificial poderiam ser usadas para atacar adversários políticos e “poluir o debate democrático”.
“Queremos saber quem está por trás destas contas, quem as gere e com que objetivos”, afirmou a Liga, pedindo mais investigação ao caso. “Evidentemente a Liga incomoda alguém”, conclui a nota.