Considere: como a tecnologia pode ajudar a combater a propaganda na mídia?

Fotógrafo: Arkady Shaikhet.

Introdução

Este artigo pode ser dividido em duas partes lógicas. No primeiro, considero o fenômeno da propaganda na mídia: o que é, por que é perigoso e a que coisas terríveis já levou na história. Considerarei detalhadamente os mecanismos de trabalho da propaganda estatal moderna na mídia e tentarei entender por que ela é tão eficaz e quais são suas características.



A segunda parte é uma reflexão sobre como, a partir das características discutidas na primeira parte, pode-se tentar automatizar o reconhecimento da propaganda na mídia. Como a propaganda é o impacto do texto (além da imagem, claro), e eu não tenho o conhecimento necessário na área de processamento de linguagem natural (Processamento de Linguagem Natural), então meus cálculos são exatamente o que pensar em voz alta. Descreverei de forma mais ou menos estruturada as possíveis funções de um programa que deve buscar indícios de propaganda em materiais midiáticos, mas sem especificidades técnicas.



Portanto, direi de imediato: não espere ler no texto sobre algoritmos específicos e seus métodos de aplicação. Pelo contrário, serei honesto: espero encontrar entre vocês aqueles que entendem tanto de PNL quanto de desenvolvimento de plug-ins para navegadores e obter feedback de vocês nos comentários. Se muitas pessoas forem infectadas com minhas ideias, talvez você e eu possamos trabalhar juntos em uma solução de código aberto interessante!



Aviso Legal



Como não deve haver política sobre Habré, não vou entrar em detalhes no texto de como surgiu a ideia de criar este projeto. Se alguém quiser saber sobre isso - principalmente, provavelmente aqueles que desejam aderir ao projeto - eu direi nos comentários ou em um pessoalmente. Imaginemos um determinado Estado, que os cientistas políticos descreveriam como "autoritário", isto é, aquele em que as liberdades pessoais dos cidadãos são suprimidas, a fraude eleitoral é feita, a oposição é perseguida e assim por diante, e imaginamos que tudo o que será discutido além disso, refere-se a este estado abstrato (embora, dado o contexto cultural, é claro, os exemplos virão principalmente de nossas realidades pós-soviéticas). Por que me concentro na propaganda estatal, explicarei mais tarde.

O que é propaganda e por que é perigoso?

Fotógrafo: Elliott Erwitt

Um dos pilares eternos dos Estados autoritários é a poderosa propaganda estatal. Ouvimos sobre esse fenômeno com frequência - mas como é?



O autor de propaganda americano Edward Bernays em 1928 definiu propaganda como "um esforço consistente e incessante para criar ou moldar eventos com o objetivo de influenciar as atitudes públicas em relação a uma iniciativa, ideia ou grupo". Em outras palavras, é uma tentativa de manipular a opinião pública. É interessante que no direito internacional ainda não haja uma definição unificada do conceito de "propaganda" devido ao fato de ser muito difícil traçar uma linha clara entre as manifestações de liberdade de expressão e a propaganda sistemática, visto que muitos regimes autoritários, com graus variados de sucesso, podem fingir ser democracias "defeituosas". No entanto, organizações como a OSCE distinguem entre 2 tipos de propaganda:

1. , , , , , . – , , . « ».
2. , , .

Este é um ponto muito importante, vamos corrigi-lo: há propaganda para a guerra, usando discurso de ódio e outra propaganda política . Voltaremos a esta divisão, bem como a uma definição mais precisa de discurso de ódio posteriormente. Enquanto isso, vamos tentar responder à pergunta por que a propaganda é um perigo para a sociedade?



A história conhece vários exemplos trágicos de como a propaganda conseguiu despertar nas pessoas o sentimento de ódio, o que levou a guerras e genocídio. O exemplo do Terceiro Reich nazista é tão famoso que não vejo razão para pensar nele separadamente. Outro exemplo é o genocídio em Ruanda, durante o qual os hutus mataram e estupraram centenas de milhares de tutsis durante três meses; um ano antes desses eventos, a estação de rádio "Rádio e Televisão Gratuitas das Mil Colinas" começou a instar os ouvintes a exterminar as baratas (o nome desdenhoso dos tutsis) e se entregou ao humor racista e, com o início do genocídio, passou a dar voz aos endereços de pessoas específicas que, em sua opinião, deveriam ser mortas ... A estação de rádio privada Thousand Hills recebeu financiamento de outra estação de rádio estatal,e seus funcionários eram exclusivamente hutus. Ao longo dos anos, o economista de Harvard David Yanagizawa-Drott conduziuum estudo durante o qual ele conseguiu provar a influência da propaganda de rádio na escala da tragédia, comparando o nível do sinal em cada ponto do país com o número de pessoas condenadas por genocídio nesses pontos.



Outro exemplo da influência da propaganda no curso da história são as guerras iugoslavas. Numerosos estudos sobre o papel da mídia no conflito na ex-Iugoslávia mostraram que a mídia a serviço do regime contribuiu para o incitamento à guerra e ao ódio. Mark Thompson em seu livro " Forging War » (Forging the War) escreveu que " a violência verbal leva ao físico ." O jornalista italiano Paolo Rumiz também escreveu em seu livro " para as máscaras do massacre » (Máscaras para um massacre), que "em 1988 a guerra estava em manchetes e artigos".



Todos esses são exemplos extremos, quando a propaganda quase diretamente clamava pelo massacre e destruição de outro povo ou grupo social. Mas é óbvio que a propaganda nem sempre é tão direta e nem sempre visa exatamente esses objetivos. Por que, então, é perigoso e prejudicial?



O jornalismo tem um objetivo diante de si - compreender e informar os cidadãos sobre os resultados de suas investigações sobre as ações do Estado ou de outros. A propaganda não quer apenas informar, mas inspirar algumas ideias. Ela manipula os cidadãos para que eles não se comportem conscientemente, guiados por seus próprios interesses, mas ajam no interesse do manipulador (por exemplo, o estado), ou seja, votem no candidato ou decisão "correta" ou ignorem problemas óbvios e não façam perguntas desnecessárias às autoridades. Nas condições de liberdade de expressão, tudo isso não parece coisas terríveis, mas em um estado autoritário, além da propaganda, as autoridades têm outras alavancas, como pressão sobre a mídia independente, a filiação de magnatas da mídia ao governo e a possibilidade de fraude eleitoral em massa.como resultado, o efeito de propaganda aumenta muitas vezes. Além disso, a propaganda muitas vezes atinge seus objetivos procurando inimigos ilusórios, externos ou internos, e apelando não à razão e à lógica, mas aos sentimentos (ver o termo “pós-verdade ”), e por causa desses dois fatores, a propaganda estatal às vezes oscila à beira do“ discurso de ódio ”.



Além disso, como veremos mais tarde, a propaganda estatal moderna é extremamente eficaz, possuindo um grande arsenal de meios e canais. Um perigo especial é que, estando em um fluxo infinito de informações, até mesmo a mídia de alta qualidade pode, às vezes, captar informações falsas deliberadamente liberadas no espaço da mídia por manipuladores. Alguns exemplos dos últimos anos: a desinformação sobre os planos da UE de abolir os vistos para homens ucranianos foi tão frequentemente mencionada na mídia ucraniana que as autoridades do país em algum momento foram forçadas a fazer uma refutação oficial, e pouco antes disso a mídia alemã pegou informações falsas sobre atrocidades em a leste da Ucrânia.

? ?

Christopher Paul e Miriam Matthews, especialistas da ONG RAND Corporation, responderam a essas perguntas muito bem. Com a propaganda estatal russa em mente, eles afirmam em seu relatório que "a nova propaganda russa é divertida, confusa e chocando o público". E explicaram sua eficácia pelas seguintes qualidades: " É operacional, contínuo, ilógico e usa o princípio da repetição múltipla ." Eles analisaram cada uma dessas características:



1. Operacional

2. Contínuo

3. Não lógico

4. Usa o princípio da repetição.



Vamos percorrer cada um desses pontos e considerar os mecanismos descritos pelos autores do relatório para a influência da propaganda nos destinatários das informações.



Operativo



Os defensores são muito rápidos em “fazer” material porque não precisam de tempo para verificar os fatos, reunir opiniões de diferentes campos políticos e assim por diante. (embora às vezes leve tempo para determinar a atitude em relação a certos eventos). O fato é que é mais provável que uma pessoa acredite na primeira mensagem recebida sobre o assunto e, no futuro, quando aparecerem mensagens concorrentes, tenderão a favorecer o ponto de vista da mensagem recebida primeiro. Além disso, a influência da primeira mensagem no modo de pensar pode persistir mesmo que uma refutação seja recebida no futuro. Somos como um algoritmo que, uma vez tendo aprendido algo, só pode desaprendê-lo com grande dificuldade.



Contínuo



A propaganda agita as mensagens como um verdadeiro infofabtório, sem deixar lacunas no fluxo de mensagens. Os destinatários obtêm uma imagem contínua de tudo o que acontece ao redor. Essa continuidade ganha eficácia adicional graças à natureza multicanal da propaganda moderna. Afinal, todos já ouviram histórias de alguns canais de TV e sites de propaganda, mas, na verdade, sites e canais de telegramas que promovem a “linha partidária”, segundo os autores do relatório, dezenas. E esta abordagem multicanal é muito útil para a propaganda atingir seus objetivos, devido ao fato de que as pessoas tendem a acreditar que as informações recebidas de várias fontes são provavelmente baseadas em diferentes pontos de vista e, portanto, merecem atenção. Uma vez que esses canais juntos têm uma grande cobertura, os destinatários encontram ambos em seu ambiente,e na Internet há muitas pessoas que aprovam essas informações e, com isso, a confiabilidade dessas informações aos olhos do destinatário aumenta. Além disso, há outro efeito interessante: quando o interesse do consumidor pela informação é baixo (em outras palavras, quando o consumidor não tem tempo e desejo de entender a informação), a credibilidade da mensagem depende mais do número de argumentos em sua defesa do que de sua qualidade.



A propaganda explora outro bug do nosso cérebro: recebe sua dose de dopamina cada vez que clicamos no botão play de um vídeo no Youtube, e é muito fácil "adicionar" ao consumo de conteúdo de vídeo e assistir a feeds de mídia social. Uma pessoa se encontra em um estado de fluxo, do qual é muito difícil sair. É que alguém se acostuma a assistir a entrevistas, séries ou pequenos vídeos, e alguém - postagens sobre temas políticos e programas de entrevistas.



Ilógico



A propaganda sabe trocar o calçado em movimento, mas isso não afeta de forma alguma aqueles que já se associam aos canais de propaganda de informação. Também desempenha um papel no fato de que as pessoas, como regra, têm preguiça de entender as informações e no fato de que simplesmente esquecem que o apresentador de TV apenas algumas semanas atrás disse algo exatamente o oposto, e que se o destinatário um dia começar a confiar em uma determinada fonte, então ele deixa de criticar as informações que divulga.



Usa o princípio da repetição múltipla



Como você já entendeu, a propaganda explora vários bugs interessantes em nosso pensamento. Um deles é o "efeito de verdade ilusório". As pessoas têm maior probabilidade de perceber que uma declaração é verdadeira se a ouviram antes do que se fosse uma mensagem completamente nova. O efeito de verdade ilusório decorre do fato de que afirmações repetitivas são mais prontamente aceitas e aceitas como verdadeiras. Detalhe interessante dos autores do relatório: “ Mesmo no caso de histórias ridículas e lendas urbanas, quem as ouviu muitas vezes tende a acreditar ”.

Como você pode pegar uma primeira impressão?

Fotógrafo: Rene Maltete



Então, examinamos a teoria da propaganda, entendemos porque é perigosa e porque é eficaz. Imagine milhares, senão milhões de seus concidadãos, aos quais eles explicam dia após dia quem amar e escolher e quem odiar e perseguir - é óbvio que tal situação não é saudável para o estado, porque os cidadãos devem fazer suas próprias escolhas com base em suas próprias convicções. formado em fatos verdadeiros. Eu entrei em tal situação. E, como programador, queria fazer algo com minhas próprias mãos.



Fiquei particularmente fascinado pelo fato de que a propaganda tenta criar uma primeira impressão, e consegue isso por meio de sua natureza multicanal - pelo menos online. Imediatamente imaginei uma pessoa que, após um árduo dia de trabalho, fica online, abre notícias em seu navegador e abre um portal para o fluxo de consciência de manipuladores hábeis. E então percebi que a maneira mais fácil de interceptar a primeira impressão, ou melhor, evitar que os propagandistas a criem, é criar uma extensão para um navegador da web que pode analisar materiais em tempo real. Abri uma página da web - recebi análises com avisos: aqui, ali e aqui - sinais característicos de propaganda!



Diversas teorias da sociologia e do campo do estudo da mídia falam a favor do desenvolvimento de tal plugin.

1. , (“agenda-setting theory”), – , (, ). , , , . , , , . , – , . , , . (, check-list; ).
2. (Eli Pariser) « » („filter bubble”), , , ( ) . - , , . , , , . , , , « » („confirmation bias“): , . « » . , - , , ( «-», “echo chamber”). , , , , , . ( ).

. – . , - – - , .



, , . . NLP (Natural Language Processing), . - - - , : , - . , ,

1. ;
2. .

, ( ), , , .

, , , , . – « » « » ( «, »). , , - .

Bem ... é assim que deve funcionar de alguma forma.



Obviamente, existem diferentes formatos de mídia: transmissões de texto, reportagens de vídeo, canais de telegramas analíticos e talk shows. E cada formato possui características próprias, que provavelmente devem ser levadas em consideração. Ou não? De qualquer forma, sugiro começar com um formato simples: artigos (ou seja, textos) em sites de notícias. A pessoa abre o site e começa a ler os textos deste site. Coloque-se no lugar dele: em que ele deve prestar atenção? Como exatamente ele pode entender o que está à sua frente - uma tentativa de manipulação?



Desenvolvi uma metodologia que não pretende ser completa, mas que deve cobrir uma parte essencial das características formais da propaganda. É impossível formalizar tudo, e discutiremos esse ponto mais tarde. Mas muitos dos sinais podem ser encontrados no ser humano, e é bem possível que algoritmos possam lidar com essa tarefa.



Dividi todas as regras para sinais de propaganda em textos de notícias em várias categorias lógicas.

Qualidade de alimentação de material

Essa categoria contém várias regras que o jornalismo de notícias deve seguir.

O contexto foi dado?

Significado : no final de um texto de notícias, muitas vezes você pode encontrar uma breve descrição dos eventos que antecederam o evento. Por exemplo, se a notícia contém trechos da última entrevista de Trump, no final geralmente é explicado que a corrida presidencial está ocorrendo atualmente nos Estados Unidos e, de acordo com as pesquisas sociológicas, até agora a liderança está com alguém, e essa pessoa pensa assim.



Críticas : Nem todos os eventos têm um contexto - alguns deles simplesmente acontecem. Por exemplo, a explosão em Beirute.



Automação :

• Podem ser palavras com marcadores, como "lembre-se disso".
• Você pode tentar automatizar a extração do significado principal dos artigos da publicação e manter essas teses principais por algum tempo. Quando surgem novos artigos, os últimos parágrafos também se reduzem às teses principais, e a busca pelas teses mais semelhantes é feita na base de dados de publicações anteriores desta edição. Se nenhum for encontrado, o evento é completamente novo ou o contexto não foi fornecido.
• Uma vez que nem todos os eventos podem ter um contexto, a ausência deste no final do artigo não é um critério estrito e, se houver uma ausência presumida de contexto, deve ser apresentado um aviso, não um "alarme".

Disponibilidade de fontes

Significado :

• Regra geral: se há notícias, deve-se dizer de onde as notícias vieram - afinal, as notícias sempre têm alguma fonte.
• Se o artigo contiver um link para alguma fonte de informação (por exemplo, um político ou outra mídia), deverá ser fornecido um hiperlink.

Críticas :

• O que fazer com fontes anônimas (sem as quais o jornalismo não pode existir)? O que fazer com o jornalismo investigativo (que é diferente no formato das notícias)?
• Nem todas as fontes podem ter seus próprios sites. Ou, teoricamente, é possível uma situação em que a informação foi veiculada na TV, mas não na Internet. Ambos os fatores podem dificultar o hiperlink.

Automação :

• O algoritmo deve ser capaz de determinar a presença de fontes de informação no texto. Por palavras-chave: "relatado", "disse" ou usando técnicas de PNL.
• Verificar se há hiperlinks é fácil;
• , , ?
• , (, ) .

Significado : se o artigo foi traduzido no todo ou em partes, a tradução foi feita corretamente?



Crítica : É quase impossível avaliar automaticamente a exatidão de uma tradução. Uma vez que a manipulação pode estar oculta na escolha de palavras individuais, precisamos de um algoritmo que seja muito sensível aos menores matizes de conceitos, que, até onde eu entendo, ainda não existem. Isso significa que não será realista encontrar esse tipo de manipulação na tradução. Mas o que realmente se pode descobrir é se o artigo original continha de fato uma tese semelhante à da tradução (ou foi totalmente inventado?).



Automação : traduzir o texto original para o idioma de destino, ou vice-versa, por meio de uma chamada a alguma API, e comparar os dois textos por proximidade semântica (espero ter chamado corretamente?).

Análise de conteúdo

Esta categoria contém ações que podem ser aplicadas além daquelas listadas no primeiro parágrafo.

Se houver um conflito: todas as partes foram ouvidas?

Ou seja : o exemplo mais simples: se o presidente critica o oposicionista, seria bom que o meio de comunicação perguntasse a opinião do oposicionista sobre o assunto.



Crítica: tal regra nem sempre faz sentido. Se o presidente como um todo diz sobre os manifestantes nas ruas que eles são fantoches do Ocidente, então não está totalmente claro a quem pedir uma opinião sobre o assunto e se uma resposta a essa observação agregará valor informativo ao material. Portanto, deve-se tentar formalizar essa regra de forma mais rígida: por exemplo, se uma determinada pessoa ou organização acusa outra pessoa ou organização de algo específico, então você realmente precisa pedir a opinião da outra parte. Mas a reação do outro lado pode não seguir imediatamente e ser publicada algum tempo depois, o que novamente torna difícil o cumprimento desta regra.



Automação :

• Assim como vamos identificar automaticamente a fonte de informação, precisamos aprender como identificar as partes no conflito (se for possível por meio de algoritmos).
• Apenas um pensamento: faz sentido armazenar informações sobre pessoas e organizações socialmente significativas em um gráfico social? Para entender de quem esperar uma resposta?

Comparação: como outras publicações cobriram o mesmo feed de notícias?

Significado : compare a submissão de eventos desta publicação com a submissão de outras publicações.



Críticas : para ser sincero, não vejo fraquezas. Se você encontrar, diga-me.



Automação :

• Selecione as teses ou conceitos principais do texto e procure por essas teses ou conceitos em outras publicações socialmente significativas (falaremos separadamente sobre como defini-los).
• Uma solução mais simples é sugerir palavras-chave com base na análise do texto, para as quais o leitor pode começar imediatamente a procurar informações adicionais, por exemplo, no Google Notícias.

Análise para manipulação

Se as categorias anteriores ofereciam alguns padrões de qualidade para as notícias, então nesta categoria falaremos diretamente sobre a manipulação intencional por meio de meios expressivos.

Viés do newsmaker

Significado : ações manipulativas podem ser cometidas não só pela própria mídia, mas também por aqueles que são citados pela mídia. Portanto, é muito bom saber o que o sujeito disse anteriormente sobre os fenômenos de que está falando agora.



Crítica : qualquer pessoa possui um determinado conjunto de atitudes, valores e visões de mundo, ou seja, qualquer pessoa é tendenciosa. O destinatário será ajudado pelo conhecimento de que Vyacheslav Volodin já havia atacado o Ocidente? Bem, talvez, usando o exemplo de outras pessoas, ajude pensar sobre suas atitudes e como elas são flexíveis. O que você acha?



Automação : é possível manter relacionamentos entre os atores em um gráfico social. E sob as bordas dos gráficos, mantenha as declarações anteriores dos assuntos uns sobre os outros.

Palavras marcadoras

Significado : há um monte de palavras que podem denunciar manipulações ou lacunas na discussão. Por exemplo, palavras de expressão como "obviamente isso" ou "todos nós sabemos disso".



Crítica : é preciso ter em mente que é possível que em alguns contextos tais expressões sejam apropriadas (“é óbvio que a violência é má”). Portanto, este critério pode não ser rígido, mas suave (aviso, não alarme). Além disso, o processo de criação de um banco de dados de palavras e expressões semelhantes pode ser bastante caro em termos de esforço (provavelmente, você precisará ler muitos textos).



Automação : pesquisa por palavras (e suas declinações) e expressões (e semanticamente muito próximas delas). A busca pode ser realizada tanto pelos depoimentos dos jornalistas quanto por textos em geral.

Análise de tons de palavras

Significado : chamei essa função dessa forma porque esse nome transmite de forma mais próxima seu significado. Existe uma diferença entre dizer “os manifestantes foram às ruas” ou “os manifestantes encheram as ruas”? Muitas vezes as manipulações consistem justamente no uso de determinado vocabulário, que provavelmente pode ser chamado de "avaliativo". Ou seja, não há apenas uma declaração do fato, mas uma certa avaliação desse fato é feita imediatamente.



Críticas : Esta deve ser uma tarefa difícil para o algoritmo, mas eu encontrei outra solução (que, no entanto, também não é fácil - veja abaixo).



Automação: Os psicolinguistas desenvolveram um modelo denominado Modelo de Categoria Lingüística, que possui uma ferramenta como uma “escala de concretude / abstração”. Para entender como funciona, vejamos as seguintes declarações:

• – .

Eu, é claro, exagero e me perdoem, linguistas, se citei formulações que não são inteiramente corretas do ponto de vista desta teoria, mas o significado geral é algo assim: existem 4 níveis de concretude / abstração, da formulação mais concreta (factual) à mais abstrata (avaliativa )



Para aplicar este modelo na análise de textos, pode-se criar uma marcação de conceitos. Uma vez que é provavelmente irreal e desnecessário criar uma marcação para todas as situações linguísticas, podemos nos concentrar no discurso político, criando marcações para situações que são freqüentemente encontradas no campo político e da mídia. Ou seja, será algo como uma base de sinônimo, em que cada palavra tem seu próprio "sparring" de outros níveis da escala de concretude / abstração.

Narrativas de propaganda estatal

Significado : Eu já disse que estou interessado principalmente na propaganda do Estado, e embora todos os pontos anteriores possam ser usados ​​para pesquisar qualquer propaganda, dedico este ponto à propaganda do Estado. O fato é que o conjunto de tramas que a propaganda estatal utiliza em seus materiais é bastante limitado e raramente é reabastecido com novas tramas. Há quantos anos ouvimos falar de "fantoches e serviços especiais do Ocidente" ou de "nacionalistas ucranianos"? Ou seja, novos mini-motivos, é claro, aparecem (“coma diabético de Navalny”), mas em um nível mais alto de abstração, via de regra, são todos os mesmos motivos de há um ano e cinco anos.



Crítica : não encontrado. Se você encontrar, diga-me.



Automação :

• , . , . , .
• .

Referência :



Alguns anos após a Revolução de Outubro de 1917, o poeta infantil Kornei Chukovsky escreveu: “ O povo soviético lembra com o maior orgulho como a revolução milagrosamente renovou nossa língua. Ela o purificou de palavras nojentas como um judeu, um pequeno russo, um estrangeiro, gente comum, camponês, etc. Das palavras ativas, elas imediatamente se tornaram arquivos . " Infelizmente, ele estava errado, porque nem todas essas palavras foram erradicadas e muitas foram substituídas por outras ainda mais ofensivas.



As palavras que o escritor infantil listou referem-se ao léxico do chamado "discurso de ódio" (expressão sinônima - "retórica do ódio"). Não existe uma definição geralmente aceita de "discurso de ódio" no direito internacional, mas basicamente este termo é interpretado no contexto de ódio de pessoas que têm as chamadas "características protegidas" - são características pessoais pelas quais você não pode ser discriminado: raça, cor da pele, gênero, idioma, religião, opinião política ou outra, origem nacional ou social, propriedade, idade, nascimento, origem indígena ou identidade com um povo indígena, deficiência, status de migrante ou refugiado, orientação sexual, identidade de gênero ou variação intersexual.



Em geral, esta é uma categoria bastante ampla de recursos. A inimizade, por outro lado, é “um sentimento intenso e irracional de condenação e repulsa para com um indivíduo ou grupo escolhido como objeto por possuir certas características - reais ou atribuídas - protegidas (reconhecidas pelo direito internacional). “Hostilidade” é mais do que preconceito e é necessariamente discriminatória. "Hostilidade" é uma manifestação de um estado emocional ou opinião e, portanto, é diferente de qualquer ação aberta. " E este é um ponto importante - o uso de "discurso de ódio" não leva necessariamente a consequências específicas. Ou seja, quando você ouve “vamos massacrar os hobbits”, você entende que a chamada para o genocídio soa. E como se relacionar com a avaliação "nosso podre, corrupto,oposição fedorenta "(ambas as formulações são inventadas, quaisquer coincidências são acidentais)? Não há apelo à ação, se alguém voluntariamente vai fazer algo com a oposição, então será problemático encontrar uma conexão entre suas ações e a avaliação feita por alguém de figuras públicas e, no entanto, essa avaliação soa no mínimo parcial, mas julgando emocionalmente, pode muito bem ser inimizade.



Em geral, é difícil encontrar interpretações e limites claros para esses termos. Por exemplo, uma linguagem profundamente ofensiva não se refere automaticamente ao discurso de ódio - se não soar em relação a algum objeto precisamente por causa de suas características protegidas. No contexto de "discurso de ódio", os termos "dentro do grupo" e "fora do grupo" são frequentemente ouvidos - isto é, quando se usa "discurso de ódio", significa uma espécie de confronto entre dois grupos, a presença de uma divisão em "amigos" e "alienígenas". Mas também existem classificações mais claras de "discurso de ódio". De acordo com um deles, formulado pelo pesquisador Verkhovsky (A.M. Verkhovsky: "Minha língua ... O problema da intolerância étnica e religiosa na mídia russa"), existem três grandes categorias de discurso de ódio:

• severa (por exemplo, incitação direta à violência)
• meio (por exemplo, acusando a influência negativa de um grupo social na sociedade, no estado, ou justificando casos históricos de discriminação e violência)
• e leve (por exemplo, afirmar as falhas morais de um grupo étnico ou mencionar nomes de grupos étnicos em um contexto depreciativo).

Portanto, etnofilismos tão amados por todos (apelidos ofensivos de representantes de outros povos) também são discurso de ódio.



Significado : o texto da mídia não deve conter incitação ao ódio. Não é material jornalístico, não é uma notícia, não apenas uma coluna com a opinião do autor.



Crítica: Até mesmo representantes de ONGs, cujo relatório citei acima, admitem que há contextos em que o discurso de ódio não deve ser punido. Por exemplo, quando a intenção pode ser mais frívola (por exemplo, um comentário mal concebido ou frívolo nas redes sociais) ou mais complexa (sátira ou provocando discussão sobre uma questão difícil, por exemplo, através da arte) do que uma expressão de hostilidade. Ou seja, pode ser muito difícil determinar com certeza o discurso de ódio, especialmente porque os critérios para diferentes pesquisadores são diferentes (alguém refere a negação de eventos históricos ao discurso de ódio, e alguém não).



Automação: Criação de uma base de expressões relacionadas ao discurso de ódio. Você pode criar um banco de dados de quaisquer palavras e expressões ofensivas e, embora isso possa complicar a tarefa de coleta de dados, simplificará a busca no texto por expressões que manipulam a opinião do destinatário sobre uma pessoa ou grupo de pessoas. Em seguida, a função será chamada não de "pesquisa de discurso de ódio", mas de "pesquisa de expressões expressivas" ou algo parecido. Não está muito claro, entretanto, o que fazer com O Idiota de Dostoiévski neste caso.

Banco de dados de carimbos de linguagem de propaganda estatal

Significado : nos textos da propaganda estatal, muitas vezes você pode encontrar expressões comuns que são características deste gênero particular. Por exemplo, “foi realizado um comício em apoio ao atual curso político do país”.



Crítica : É difícil encontrar tais expressões e ter certeza de que foram utilizadas no discurso da propaganda. Além disso, não podemos presumir que essas expressões sejam sempre utilizadas apenas nos meios de propaganda. Talvez esse critério seja redundante, mas se sua conveniência for comprovada, então deve ser um critério "brando" para propaganda.



Automação: Como no parágrafo anterior, não sei em que formato essas expressões devem ser salvas. Afinal, provavelmente precisaremos de declinações / conjugações se quisermos pesquisar por expressões de marcador. Se seguirmos o caminho de aprendizado do algoritmo, precisamos de um corpus de texto? Desculpe, como eu disse, sou um leigo em linguística computacional.

Análise de sentimentos

Significado : a propaganda, como descobrimos, tenta influenciar as emoções. Freqüentemente, evoca emoções negativas não por causa da apresentação de um fato consumado (raiva pelo espancamento de uma pessoa), mas por causa da interpretação, culpa e julgamentos de valor.



Crítica : Não sei quão bons são os algoritmos modernos de análise de sentimento e quais as limitações que eles têm (por exemplo, o tamanho dos textos) para garantir bons resultados.



Automação : análise do sentimento por parágrafos, capítulos ou todo o texto, e se a negativa for encontrada, pergunta-se ao usuário: "Provavelmente você sente X. Por fato consumado ou por interpretação de alguém em relação a Y)?"

Análise da qualidade da mídia

Esta categoria contém várias sugestões sobre como avaliar a “qualidade” da mídia. Qualidade significa até que ponto a mídia atende aos critérios descritos acima para a qualidade de apresentação do material e honestidade para os destinatários (ou seja, quando não tenta manipulá-los).

Ignorando eventos

Significado : muitas vezes, os recursos de propaganda simplesmente ignoram certos eventos, de forma que esses eventos não existam em seu "mundo", e os destinatários não aprendam sobre certos eventos que o manipulador não deseja que eles saibam. Por exemplo, a mídia estatal russa há muito tempo ignora a presença de uma figura da oposição como Alexei Navalny.



Crítica : isso levanta a questão de como definir eventos socialmente significativos. Também é preciso levar em conta o fato de que a mídia pode ter algum tipo de especialização - por exemplo, economia e finanças. Nesse caso, o jornal de negócios não pode mencionar o fato na vida política. Para levar em conta essas nuances, será necessário fazer uma classificação objetiva dos meios de comunicação com base em alguns critérios transparentes, o que por uma série de razões não será uma tarefa tão fácil.



Automação: extrair o significado principal de cada peça de mídia  comparar essas "fitas" de diferentes meios de comunicação e identificar eventos socialmente significativos  verificar se essa mídia escreveu sobre esse evento. Para ser honesto, não sei como dar vida a essa ideia.

Analise histórias anteriores da mídia para encontrar padrões

Significado : é difícil caracterizar os veículos de comunicação com base em um ou vários materiais. Também é problemático dar à mídia um rótulo de “qualidade” uma vez, porque o corpo editorial pode mudar. Portanto, é necessário caracterizar a mídia por um certo número dos últimos N materiais. Aqui estão os aspectos para analisar materiais de mídia em um determinado continuum de tempo:

• Viés para obter informações de agências governamentais; falta de material onde seja apresentada a opinião da oposição ou do cidadão comum;
• Uso anterior de narrativas de propaganda ou discurso de ódio em material jornalístico
• Violação sistemática dos padrões de qualidade para apresentação de materiais

Críticas : Não encontrei "pontos fracos".



Automação : salvar os recursos descobertos pelas funções acima no formato de série temporal ou algum outro. Talvez o próprio usuário também possa salvar algumas notas.



Razão 1: você pode criar uma lista mais ampla de critérios de qualidade de mídia, com base na qual os usuários do plug-in ou algum grupo de especialistas (embora eu defenda a abertura de todas as listas, procedimentos e dados) avaliarão a mídia.



2: , . : , 33 «» 170 « ». , : « ...». , , , , . , .

Há uma diferença objetiva entre os diferentes formatos de mídia, o que cria os pré-requisitos para definir funções separadas para alguns formatos. Por exemplo, em talk shows ou outros formatos de vídeo e áudio, você pode tentar analisar as vozes das pessoas e medir seu volume (afinal, lembramos que a propaganda gosta de estimular, pressionar as emoções - e é por isso que grita tanto em talk shows políticos). Alguns formatos são difíceis de analisar automaticamente. Por exemplo, vídeo-notícia, porque mesmo uma pessoa nem sempre será capaz de reconhecer a manipulação em uma reportagem (por isso deduzo a regra de ouro - “não confie no vídeo editado - apenas nas fontes primárias, fornecidas sem comentários”).



Caso contrário, não estou inclinado a ver a diferença nos formatos. Claro que é. Por exemplo, em canais de telegrama, julgamentos de valor são encontrados por meio da palavra - este é frequentemente o seu "sal", enquanto nos materiais de notícias de uma redação séria, eles serão inadequados fora das citações diretas. Mas essa diferença é insignificante para o usuário, pois nosso objetivo é ensiná-lo a reconhecer manipulações, e quando ele aprender, poderá entender a diferença de formatos sem nosso plug-in e escolher uma apresentação aceitável das informações.

Conclusão

Eu gostaria de terminar o material com algumas observações importantes.

1. O objetivo do plugin é aumentar a consciência das pessoas sobre a leitura de notícias, para ensiná-las a identificar manipulações por meios expressivos e outros.
2. Quero fazer isso por meio de regras tão formalizadas quanto possível. Claro que nem tudo pode ser formalizado, e muitas vezes reconhecemos a propaganda, como se costuma dizer, “em um complexo”.
3. O plugin é expansível. Por exemplo, você pode criar todo um sistema de avaliação de mídia e até mesmo jornalistas, blogueiros e autores em geral (por exemplo, autores de postagens no Telegram). Ou seja, cada usuário do plugin poderá classificar uma mídia ou autor, e essas classificações serão agregadas em uma espécie de classificação para mídia e autores. Mas isso é tudo mais tarde.