Cultura de segurança no desenvolvimento de computadores e software crítico

A proliferação de tecnologias para a Internet industrial de coisas, veículos não tripulados e outros sistemas ciber-físicos que afetam a segurança humana torna a conformidade de dispositivos eletrônicos programáveis ​​com os requisitos das normas internacionais no campo da segurança funcional, em particular IEC 61508 e ISO 26262,



entre desenvolvedores de hardware e software existem muitas perguntas práticas, a resposta para a qual você precisa fornecer algum tipo de entendimento abrangente, que rapidamente captará os princípios da solução de muitas perguntas e tarefas particulares, pareceria pequeno, mas que é uma parte importante do mosaico.



Para uma compreensão profunda da essência do desenvolvimento e certificação de sistemas críticos de software e hardware, você precisa conhecer os "três pilares" da segurança funcional:

• Cultura de segurança (Safety Cultute)
• Gerenciamento de Segurança Funcional (FSM);
• Caso de segurança.

Este artigo irá falar sobre o primeiro deles, Safety Culture. Mais precisamente, sobre os recursos característicos de diferentes tipos de cultura de segurança e sobre os recursos da cultura de segurança para empresas que desenvolvem componentes elétricos, eletrônicos e de software de sistemas de segurança.



O termo "cultura de segurança" é discutido em detalhes em [1].

Introdução

Desde as tragédias na usina nuclear de Chernbyl e na plataforma petrolífera Piper Alpha, a cultura da segurança, pode-se dizer, "encharcou o DNA" de pessoas que trabalham em setores perigosos da economia. Mas a produção perigosa é uma coisa, e o desenvolvimento de hardware ou software para sistemas críticos é outra. Por si só, o trabalho dos projetistas e programadores de circuitos, obviamente, não representa um risco para a vida dos desenvolvedores ou dos moradores de casas nas proximidades do escritório. Os problemas de segurança estão relacionados ao escopo do produto, como falhas devido a erros e erros de cálculo podem aparecer, em primeiro lugar, não imediatamente e, em segundo lugar, em outro local.



Ao mesmo tempo, o local já pode ser muito inseguro e a falha em acontecer muito errado ...



Uma cultura de segurança faz parte de uma cultura organizacional. Esta questão é perfeitamente divulgada em seu best-seller Jim Collins [2], aqui está uma pequena citação:

“Todas as empresas têm algum tipo de cultura, algumas têm disciplina, mas poucas têm uma cultura de disciplina. Se os funcionários são disciplinados, não há necessidade de hierarquia. Se houver disciplina no pensamento, não há necessidade de burocracia. Se houver disciplina em ação, você não precisa de controle extra. Quando uma cultura de disciplina é adicionada à conduta ética nos negócios, é uma poção mágica para realizações extraordinárias ".

Nesta passagem, o autor fala sobre a cultura pessoal dos funcionários, que ele chama de cultura da disciplina . Outros autores usam outros termos: Alexander Kirillovich Dianin-Havard fala sobre liderança moral [3], Guy Kawasaki, citando Steven Jobs, fala sobre jogadores da primeira categoria [4]. Esses autores divulgam bem o fato de que a atividade da organização é a atividade de seus funcionários em toda a variedade de motivações pessoais e relacionamentos interpessoais.



Eu gostaria de observar mais um pensamento antes de passar para a essência. Obviamente, “segurança” e “cultura de segurança” podem ter nomes diferentes: industrial, aviação, transporte, atividades médicas. Mas, como a essência profunda da questão é a mesma, na literatura metodológica e normativa há uma rejeição gradual dos "adjetivos da indústria" usados ​​com a palavra "segurança" ou em vez dela. Por exemplo, o glossário da AIEA [5] não usa mais a palavra "nuclear" no termo "cultura de segurança".



Muitos métodos foram desenvolvidos para auditar e analisar a cultura de segurança na indústria global, na área da saúde e no transporte: por exemplo, um estudo da British Health Association [6] lista mais de 20 desses métodos, bem como links para 125 estudos nesta área. Estudos semelhantes são publicados por outras organizações [7]. Na prática, os seguintes métodos de análise da cultura de segurança das organizações são mais comuns:

• Corações e Mentes ("Corações e Mentes");
• Modelo de Maturidade da Cultura de Segurança (SCMM);
• Sistema de Medição de Escala Indicadora de Cultura de Segurança (SCISMS).

O programa de análise e transformação da cultura de segurança "Corações e Mentes" é talvez o mais famoso desses métodos. Foi desenvolvido para uso próprio pelo grupo de empresas Shell e se tornou, de fato, o padrão de fato no setor global de petróleo e gás, e também se espalhou pelas indústrias de energia, mineração, química, farmacêutica, defesa e outras indústrias perigosas. O programa agora é administrado pelo UK Energy Institute, que credencia empresas de consultoria para apoiar a implementação, treinar treinadores internos e muito mais. Na Rússia e na CEI, o programa "Hearts and Minds" é oficialmente representado pela empresa Yamnaska .



E, finalmente, antes de começar a considerar os tipos de culturas, não se pode deixar de mencionar o trabalho detalhado [8] preparado sob os auspícios do Neftegazstroyprofsoyuz da Rússia.

Model Vestram

O método Hearts and Minds, assim como outros, é baseado no modelo evolutivo de uma cultura de segurança, conhecido como modelo de Westrum, que define cinco tipos de cultura de segurança (Fig. 1).





FIG. 1. O modelo evolutivo da cultura de segurança Vestrama O



modelo Vestrama envolve a evolução de uma cultura de segurança. Obviamente, o processo inverso também pode ocorrer em uma organização - degradação. Para dizer o mínimo, as etapas de redução da eficácia da segurança são consideradas no trabalho mencionado acima [8] e não as discutiremos: pensaremos positivamente. Afinal, nossas organizações estão evoluindo, não estão?



Caso contrário, por que perderíamos tempo trabalhando para eles?



Certamente, culturas patológicas e reativas dificilmente podem ser chamadas de culturas no sentido pleno da palavra. Existe até um nome especial para isso: culturas negativas. Esta é a terminologia da categoria “falta de penteado - também penteado”. Em tais organizações, pode muito bem haver estruturas formais e superficiais que não penetram processos reais. Por exemplo, pode haver um sistema de gerenciamento de qualidade / segurança e até mesmo pessoal dedicado é designado para desempenhar funções de controle de qualidade e / ou segurança, ou seja, a organização parece realmente alocar alguns recursos, mas seu objetivo real é cumprir formalmente (ou apenas imitar cumprimento) dos reguladores.



No entanto, vamos dar uma olhada em cada tipo de cultura de segurança.

1) "cultura" patológica de segurança

A liderança de uma organização como essa trata a segurança como um requisito externo, como uma espécie de obstáculo ao trabalho. Considera-se suficiente apenas para cumprir os requisitos obrigatórios dos documentos regulamentares; não há disposição para estudar independentemente os aspectos de segurança.



A gerência desse tipo de organização está confiante de que todo o problema vem de seus subordinados.



No Apêndice A, colocamos uma lista de alguns sinais de que a cultura da organização está em um nível patológico.

2) Cultura de Segurança Responsiva

O nome em inglês para esse nível "reativo" na literatura é frequentemente transmitido pela palavra de rastreamento russa "reativo", mas acho que não é muito bem-sucedida.

O gerenciamento de uma organização desse nível considera a segurança um elemento importante da qualidade do produto, mesmo na ausência de pressão das autoridades reguladoras, mas acredita que todos os problemas estão nos níveis mais baixos da hierarquia corporativa. A segurança é uma meta e um desafio, juntamente com outros indicadores de desempenho. A organização começa a aplicar alguns métodos e meios pelos quais a segurança atinge um certo nível e procura usar a experiência de outras organizações. Quando ocorre um incidente, uma ação proativa é tomada.



No Apêndice B, colocamos uma lista de alguns sinais de que a cultura da organização está em um nível reativo.

3) Calculando a cultura de segurança

A gerência de uma organização de cálculo acredita na necessidade de uma abordagem sistemática para gerenciar o desempenho em segurança, usa vários métodos e meios para isso e realiza treinamento de pessoal. Uma organização com uma cultura prudente executa as ações corretas, em geral, mas realiza mecanicamente, às vezes seguindo cegamente os procedimentos.



No Apêndice B, incluímos uma lista de alguns dos indicadores de que a cultura de uma organização está em um nível de cálculo.

Na primeira versão do modelo Vestram, esse tipo foi chamado de burocrático

4) Cultura de segurança proativa

A liderança de uma organização proativa percebe a segurança como um valor fundamental. Executivos de todos os níveis se preocupam sinceramente com a qualidade e a segurança do produto. Todos os funcionários estão totalmente envolvidos no gerenciamento de segurança e consideram seu dever trabalhar com eficiência. Os processos de segurança subjacentes são bem estabelecidos, compreendidos e usados ​​pela organização. Relatório completo de incidentes. A investigação de problemas permite eliminar defeitos do sistema. Defeitos do produto potencialmente perigosos são usados ​​como os indicadores mais importantes da qualidade do produto.

5) Cultura criativa de segurança

A organização não exige a influência das autoridades reguladoras para garantir a segurança, ela se esforça para ter um entendimento completo das condições e do ambiente de uso do produto. A melhoria contínua da segurança envolve todos os funcionários da organização, bem como os contratados. Os funcionários são inconscientemente competentes. As pessoas entendem o impacto de suas ações na segurança; cada funcionário pode contribuir para o desenvolvimento da organização. Foi criada uma atmosfera que possibilita a introdução de melhorias, há uma troca constante de conhecimentos e a melhoria de uma cultura de segurança. Segurança e qualidade estão integradas em tudo o que a organização faz.

, , , . , , . – , , . , .

Há uma diferença não óbvia, mas fundamental, entre organizações proativas e criativas. O fato é que um estilo burocrático e mecanicista de trabalhar em um nível de cálculo é muito confortável para muitas pessoas em uma organização, especialmente se for bem-sucedido. Existe uma tentação muito forte de “descansar sobre os louros” e, como o colega de Vestram, o professor Patrick Hudson escreve, no artigo [11], organizações proativas retornam facilmente ao nível de cálculo. Isso não é típico das organizações criativas, porque elas, como Hudson escreve, têm propriedades anti-burocráticas e sua velocidade de ação quebra estruturas hierárquicas.

Desenvolvimento de hardware e software

Discutindo a cultura organizacional em geral e os níveis de cultura de segurança em particular, objetivamos apresentar o material em uma refração às especificidades do desenvolvimento de sistemas de segurança de hardware e software. O Apêndice B do GOST R ISO 26262-2 também pode ser usado como uma boa ajuda metodológica na avaliação e autoavaliação da cultura de segurança das organizações que desenvolvem esses componentes. Aqui está a Tabela B.1 deste apêndice:







Ao desenvolver seu próprio programa de desenvolvimento da cultura de segurança, você pode desenvolver medidas para superar os sinais de baixa cultura e a formação de sinais de alta cultura.



O Apêndice B do GOST R ISO 26262-2 contém uma referência ao INSAG-4 [9], um documento que lançou as bases para a disseminação de uma cultura de segurança em todo o mundo.



O contexto deste documento é descrito em detalhes em [10].

conclusões

1. A chave para o desenvolvimento seguro de componentes de hardware e software é uma forte cultura de segurança pessoal e coletiva. A cultura de segurança faz parte da cultura organizacional.
2. A cultura é um produto das qualificações e disciplina de todo o pessoal de uma organização, começando pela alta gerência e sua atitude em relação às responsabilidades.
3. Um sinal natural de alta cultura é o processo de trabalho cuidadoso, bem compreendido, executado realisticamente e constantemente medido, que constitui um sistema de gerenciamento (qualidade ou segurança).

Apêndice A. Sinais de uma cultura de segurança patológica

Alguns sinais de que uma organização está nesse nível são:

• Os problemas de segurança não são tratados por ninguém que não seja o pessoal designado que desempenha a função de simulação de atividades para auditores externos.
• A gerência e a equipe da organização não se preocupam tanto com a segurança, mas com o fato de não serem "pegos" por violações.
• As informações sobre os problemas dos funcionários são ocultas; as informações sobre o verdadeiro estado das coisas não são coletadas pela liderança ("Um mensageiro que traz más notícias é cortado da cabeça").
• A equipe é inconscientemente incompetente, os funcionários se esquivam da responsabilidade ("Diga-me, chefe, o que devo fazer especificamente - farei").
• , (« ? ?»).
• , ( ) «» .
• , , , , .
• « », ;
• , — .

.

Alguns sinais de que uma organização está nesse nível são:

• As atividades de segurança visam um incidente que já ocorreu;
• A maioria dos funcionários não está envolvida na garantia de qualidade e segurança - essas tarefas são atribuídas a um departamento ou funcionários separados;
• As decisões são frequentemente tomadas em termos de custo (custos, despesas) e capacidades técnicas;
• A resposta da gerência aos erros dos funcionários é através de um maior controle, usando procedimentos administrativos e treinamento, em vez de encontrar o culpado;
• A organização está aberta ao treinamento de outras estruturas, especialmente em questões técnicas e transferência de experiência;
• Somente parte dos processos relacionados à segurança foi criada. Muitos processos, mas formais ou superficiais.
• É mais provável que o relacionamento entre a organização e os órgãos de inspeção, consumidores, fornecedores, contratados esteja à distância do que próximo.
• Os funcionários são recompensados ​​por atingir metas de curto prazo, cumprir ou realizar um plano em excesso, sem considerar os resultados e as consequências tardias.
• A relação entre funcionários e gerência é hostil, existe apenas confiança e respeito demonstrativos.

Apêndice B. Sinais de uma cultura de segurança calculada

Alguns dos sinais de que uma organização está nesse nível são as seguintes qualidades:

• A segurança não é apenas responsabilidade do pessoal designado, mas também da gerência da organização. A liderança é "rigorosa, mas justa".
• A importância e o valor da segurança são bem compreendidos pelos funcionários.
• Os processos subjacentes estão em funcionamento, como avaliação de riscos e análise de incidentes.
• , .
• , .
• , , .
• .
• , . .
• . , . .
• As pessoas estão cientes dos problemas de produção ou econômicos da organização e ajudam a gerência a gerenciá-los.
• A relação entre gerência e funcionários é solidária, respeitosa e solidária. As pessoas são respeitadas e apreciadas por sua contribuição ao desenvolvimento da organização.

No entanto, há trabalho a fazer:

• Algumas informações de status podem ser ignoradas. Ao mesmo tempo, os "mensageiros que trazem más notícias" são bastante tolerantes.
• Há uma separação de responsabilidades pela segurança. (“Você tem reclamações sobre botões?”) A interação entre os responsáveis ​​por vários aspectos da segurança não é proibida, mas não é incentivada.
• Novas idéias criam inconvenientes e problemas.

Lista de fontes usadas

1. . . , . . . . « », №2, 2017 . URL -https://biota.ru/publishing/magazine/bezopasnost-i-oxrana-truda-№2,2017/kultura-bezopasnosti-kak-neotemlemyij-element.html [ 20.05.2020]
2. . « ». . «, », 2017.
3. - « », 3 , . .: 2019. URL -http://hvli.org/upload/files/-2019.pdf [ 21.05.2020]
4. «. 11 - - Apple ». . «, », 2012.
5. . 2007 . URL -https://pub.iaea.org/MTCD/publications/PDF/IAEASafetyGlossary2007/Glossary/SafetyGlossary_2007r.pdf [ 20.05.2020]
6. Evidence scan: Measuring safety culture. The Health Foundation, 2011. URL -https://www.health.org.uk/sites/default/files/MeasuringSafetyCulture.pdf [ 20.05.2020]
7. Occupational Safety and Health culture assessment – A review of main approaches and selected tools. European Agency for Safety and Health at Work, 2011. osha.europa.eu/en/publications/occupational-safety-and-health-culture-assessment-review-main-approaches-and-selected [ 20.05.2020]
8. . . URL -https://www.rogwu.ru/content/bl_files_docs/%2004.04.19%20%2014.40%20.pdf [ 20.05.2020]
9. , , , No 75-INSAG-4, , 1991. URL — www-pub.iaea.org/MTCD/Publications/PDF/Pub882r_web.pdf [ 25.05.2020]
10. .. . . 2. URL — www.helicopter.su/assets/media_sources/ehest-ihts/2016/Safety%20Culture/Article_Rosatom/1%20-%20Safety%20Culture%20Article%20-%20ROSATOM%20-%20Mashin_AV_PSY42.pdf [ 25.05.2020]
11. Patrick Hudson. Safety Management and Safety Culture: The Long, Hard and Winding Road. URL — www.caa.lv/upload/userfiles/files/SMS/Read%20first%20quick%20overview/Hudson%20Long%20Hard%20Winding%20Road.pdf [ 21.05.2020]