ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ТЕХНИЧЕСКОМУ РЕГУЛИРОВАНИЮ И МЕТРОЛОГИИ
	НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ	ГОСТ Р МЭК 61508-3- 2012

ФУНКЦИОНАЛЬНАЯ БЕЗОПАСНОСТЬ
СИСТЕМ ЭЛЕКТРИЧЕСКИХ, ЭЛЕКТРОННЫХ,
ПРОГРАММИРУЕМЫХ ЭЛЕКТРОННЫХ,
СВЯЗАННЫХ С БЕЗОПАСНОСТЬЮ

Часть 3

Требования к программному обеспечению

IEC 61508-3:2010

Functional safety of electrical/electronic/programmable electronic safety-related
systems - Part 3: Software requirements
(IDT)

Предисловие

1 ПОДГОТОВЛЕН на основе собственного аутентичного перевода на русский язык международного стандарта, указанного в пункте 4, который выполнен Обществом с ограниченной ответственностью «Корпоративные электронные системы» и Федеральным бюджетным учреждением «Консультационно-внедренческая фирма в области международной стандартизации и сертификации - «Фирма «ИНТЕРСТАНДАРТ»

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 58 «Функциональная безопасность»

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 29 октября 2012 г. № 588-ст

4 Настоящий стандарт идентичен международному стандарту МЭК 61508-3:2010 «Функциональная безопасность систем электрических, электронных, программируемых электронных, связанных с безопасностью. Часть 3. Требования к программному обеспечению» (IEC 61508-3:2010 «Functional safety of electrical/electronic/programmable electronic safety-related systems - Part 3: Software requirements»).

Наименование настоящего стандарта изменено относительно наименования указанного международного стандарта для приведения в соответствие с ГОСТ Р 1.5 (подраздел 3.5).

При применении настоящего стандарта рекомендуется использовать вместо ссылочных международных стандартов соответствующие им национальные стандарты, сведения о которых приведены в дополнительном приложении ДА

5 ВЗАМЕН ГОСТ Р МЭК 61508-3-2007

Правила применения настоящего стандарта установлены в ГОСТ Р 1.0-2012 (раздел 8). Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе «Национальные стандарты», а официальный текст изменений и поправок - в ежемесячном информационном указателе «Национальные стандарты». В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя «Национальные стандарты». Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (gost.ru)

Содержание

Введение

Системы, состоящие из электрических и/или электронных элементов, в течение многих лет используются для выполнения функций безопасности в большинстве областей применения. Компьютерные системы (обычно называемые программируемыми электронными системами), применяемые во всех прикладных отраслях для выполнения функций, не связанных с безопасностью, во все более увеличивающихся объемах используются для выполнения функций обеспечения безопасности. Для эффективной и безопасной эксплуатации технологий, основанных на использовании компьютерных систем, чрезвычайно важно, чтобы лица, ответственные за принятие решений, имели в своем распоряжении руководства по вопросам безопасности, которые они могли бы использовать в своей работе.

Настоящий стандарт устанавливает общий подход к вопросам обеспечения безопасности для всех стадий жизненного цикла систем, состоящих из электрических и/или электронных, и/или программируемых электронных (Э/Э/ПЭ) элементов, которые используются для выполнения функций обеспечения безопасности. Этот унифицированный подход принят для того, чтобы разработать рациональную и последовательную техническую политику для всех электрических систем обеспечения безопасности. Основной целью при этом является содействие разработке стандартов для продукции и областей применения на основе стандартов серии МЭК 61508.

Примечание - Примерами стандартов для изделий и областей применения, разработанных на основе стандартов серии МЭК 61508, являются [1] - [3].

В большинстве ситуаций безопасность достигается за счет использования нескольких систем, в которых применяются различные технологии (например, механические, гидравлические, пневматические, электрические, электронные, программируемые электронные). Любая стратегия безопасности должна, следовательно, учитывать не только все элементы, входящие в состав отдельных систем (например, датчики, управляющие устройства и исполнительные механизмы), но также и все подсистемы безопасности, входящие в состав общей системы обеспечения безопасности. Таким образом, хотя настоящий стандарт рассматривает электрические/электронные/программируемые (Э/Э/ПЭ) системы, связанные с безопасностью, предлагаемый в нем подход можно использовать также при рассмотрении систем, связанных с безопасностью, базирующихся на других технологиях.

Признанным фактом является существование огромного разнообразия использования Э/Э/ПЭ систем в различных областях применений, отличающихся различной степенью сложности, возможными рисками и опасностями. В каждом конкретном применении необходимые меры безопасности будут зависеть от многочисленных факторов, которые являются специфичными для этого применения. Настоящий стандарт, являясь базовым стандартом, позволит формулировать такие меры в будущих международных стандартах для продукции и областей применения, а также в последующих редакциях уже существующих стандартов.

Настоящий стандарт:

- рассматривает все соответствующие стадии жизненных циклов всей системы безопасности, Э/Э/ПЭ системы безопасности и программного обеспечения системы безопасности (например, от первоначальной концепции, далее проектирование, реализация, эксплуатация, техническое обслуживание вплоть до снятия с эксплуатации), в ходе которых Э/Э/ПЭ системы используются для выполнения функций безопасности;

- был разработан с учетом быстрого развития технологий; его основа является в значительной мере устойчивой и полной для применения во время будущих разработок;

- делает возможной разработку стандартов для конкретных продукции и областей применения, где используются Э/Э/ПЭ системы, связанные с безопасностью; разработка стандартов для продукции и областей применения в рамках общей структуры, вводимой настоящим стандартом, должна привести к более высокому уровню согласованности (например, основных принципов, терминологии, и т.д.) как для отдельных областей применения, так и для их совокупностей, что даст преимущества как для обеспечения безопасности, так и в плане экономики;

- устанавливает метод разработки спецификации требований к безопасности, необходимых для достижения заданной функциональной безопасности Э/Э/ПЭ систем, связанных с безопасностью;

- применяет для определения требований к уровням полноты безопасности подход, основанный на оценке рисков;

- вводит уровни полноты безопасности при задании целевого уровня полноты безопасности для функций безопасности, которые должны быть реализованы Э/Э/ПЭ системами, связанными с безопасностью.

Примечание - Настоящий стандарт не устанавливает требования к уровню полноты безопасности для любой функции безопасности и не определяет, как устанавливается уровень полноты безопасности. Однако настоящий стандарт формирует основанный на риске концептуальный подход и предлагает примеры методов обеспечения функциональной безопасности;

- устанавливает целевые меры отказов для функций безопасности, реализуемых Э/Э/ПЭ системами, связанными с безопасностью, и связывает эти меры с уровнями полноты безопасности;

- устанавливает нижнюю границу для целевых мер отказов для функции безопасности, реализуемой одиночной Э/Э/ПЭ системой, связанной с безопасностью. Для Э/Э/ПЭ систем, связанных с безопасностью, работающих в:

- режиме низкой интенсивности запросов на обслуживание, нижняя граница для выполнения функции, для которой система предназначена, устанавливается в соответствии со средней вероятностью опасного отказа по запросу, равной 10^-5;

- режиме высокой интенсивности запросов на обслуживание или режиме с непрерывным запросом, нижняя граница устанавливается в соответствии с вероятностью 10^-9 опасных отказов в час.

Примечания

1 Одиночная Э/Э/ПЭ система, связанная с безопасностью, не обязательно предполагает одноканальную архитектуру.

2 В проектах систем, связанных с безопасностью и имеющих низкий уровень сложности, можно достигнуть более низких значений целевой полноты безопасности, но предполагается, что в настоящее время указанные предельные значения целевой полноты безопасности могут быть достигнуты для относительно сложных систем (например, программируемые электронные системы, связанные с безопасностью);

- устанавливает требования к предотвращению и управлению систематическими отказами, основанные на опыте и заключениях из практического опыта. Учитывая, что вероятность возникновения систематических отказов в общем случае не может быть определена количественно, настоящий стандарт позволяет утверждать для специфицируемой функции безопасности, что целевая мера отказов, связанных с этой функцией, может считаться достигнутой, если все требования стандарта были выполнены;

- вводит стойкость к систематическим отказам, применяемую к элементу, характеризующую уверенность в том, что полнота безопасности, касающаяся систематических отказов элемента, соответствует требованиям заданного уровня полноты безопасности;

- применяет широкий диапазон принципов, методов и средств для достижения функциональной безопасности Э/Э/ПЭ систем, связанных с безопасностью, но не использует явно понятие «безопасный отказ». В то же время понятия «безопасный отказ» и «безопасный в своей основе» могут быть использованы, но для этого необходимо обеспечить подходящие требования в соответствующих разделах настоящего стандарта, которым эти понятия должны соответствовать.

ГОСТ Р МЭК 61 508-3-2012

 

НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ ФУНКЦИОНАЛЬНАЯ БЕЗОПАСНОСТЬ СИСТЕМ ЭЛЕКТРИЧЕСКИХ, ЭЛЕКТРОННЫХ, ПРОГРАММИРУЕМЫХ ЭЛЕКТРОННЫХ, СВЯЗАННЫХ С БЕЗОПАСНОСТЬЮ Часть 3 Требования к программному обеспечению Functional safety of electrical, electronic, programmable electronic safety-related systems. Part 3. Software requirements

Дата введения - 2013-08-01

1 Область применения

1.1 Настоящий стандарт:

a) применяется совместно с МЭК 61508-1 и МЭК 61508-2;

b) применяется к любому программному обеспечению, являющемуся частью системы, связанной с безопасностью, либо используемому для разработки системы, связанной с безопасностью, в области применения МЭК 61508-1 и МЭК 61508-2. Такое программное обеспечение называется программным обеспечением, связанным с безопасностью.

Программное обеспечение, связанное с безопасностью, включает в себя операционные системы, системное программное обеспечение, программы, используемые в коммуникационных сетях, интерфейсы пользователей и обслуживающего персонала, встроенные программно-аппаратные средства, а также прикладные программы;

c) задает конкретные требования к инструментальным средствам поддержки, используемым для разрабатываемой и конфигурируемой системы, связанной с безопасностью, в соответствии с 5МЭК 61508-1 и МЭК 61508-2;

d) предусматривает определение функции безопасности и стойкости к систематическим отказам программного обеспечения.

Примечания

1 То, что уже было сделано как часть спецификации Э/Э/ПЭ систем, связанных с безопасностью (подраздел 7.2 МЭК 61508-2), не следует повторять в настоящем стандарте.

2 Определение функций безопасности и стойкости к систематическим отказам программного обеспечения представляет собой итеративную процедуру; см. рисунки 3 и 6.

3 Структуру документации см. в МЭК 61508-1 (пункт 5 и приложение А). Структура документации может учитывать процедуры, используемые в компаниях, а также реальную практику, сложившуюся в отдельных областях применений.

4 Определение термина «стойкость к систематическим отказам», см. пункт 3.5.9 МЭК 61508-4;

e) устанавливает требования к стадиям жизненного цикла системы безопасности и действиям, которые должны предприниматься в процессе проектирования и разработки программного обеспечения, связанного с безопасностью (модель жизненного цикла программного обеспечения системы безопасности). Эти требования включают в себя применение мероприятий и методов, ранжированных по уровням требуемой стойкости к систематическим отказам и предназначенных для предотвращения и управления ошибками и отказами в программном обеспечении;

f) задает требования к информации, относящейся к вопросам подтверждения соответствия аспектов программного обеспечения безопасности системы, которая должна передаваться в организацию, выполняющую интеграцию Э/Э/ПЭ системы;

g) предоставляет требования к подготовке информации и процедур, касающихся программного обеспечения, которое необходимо пользователям для эксплуатации и технического обслуживания Э/Э/ ПЭ системы, связанной с безопасностью;

h) предоставляет требования, предъявляемые к организациям, выполняющим модификацию программного обеспечения, связанного с безопасностью;

i) предоставляет вместе с МЭК 61508-1 и МЭК 61508-2 требования к инструментальным средствам поддержки, таким как средства разработки и проектирования, трансляции, тестирования и отладки, управления конфигурацией.

Примечание - Взаимосвязь между МЭК 61508-2 и настоящим стандартом показана на рисунке 5;

j) не применяется для медицинского оборудования в соответствии с серией стандартов МЭК 60601 [4].

1.2 МЭК 61508-1, МЭК 61508-2, МЭК 61508-3 и МЭК 61508-4 являются базовыми стандартами по безопасности, хотя этот статус не применим в контексте Э/Э/ПЭ систем, связанных с безопасностью, имеющих низкую сложность (пункт 3.4.4 МЭК 61508-4). В качестве базовых стандартов по безопасности они предназначены для использования техническими комитетами при подготовке стандартов в соответствии с принципами, изложенными в руководстве МЭК 104 и руководстве ИСО/МЭК 51. МЭК 61508-1, МЭК 61508-2, МЭК 61508-3 и МЭК 61508-4 предназначены для использования в качестве самостоятельных стандартов. Функция безопасности настоящего стандарта не применима к медицинскому оборудованию, соответствующему требованиям серии горизонтальных стандартов МЭК 60601 [4].

1.3 В круг обязанностей технического комитета входит использование (там, где это возможно) основополагающих стандартов по безопасности при подготовке собственных стандартов. В этом случае требования, методы проверки или условия проверки настоящего основополагающего стандарта по безопасности не будут применяться, если на них нет конкретной ссылки или они не включены в стандарты, подготовленные этими техническими комитетами.

1.4 Общая структура МЭК 61508-1 - МЭК 61508-7 и роль МЭК 61508-3 в достижении функциональной безопасности Э/Э/ПЭ систем, связанных с безопасностью, показана на рисунке 1. Структура жизненного цикла всей системы безопасности показана на рисунке 2.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие международные стандарты:

ИСО/МЭК Руководство 51:1990 Аспекты безопасности. Руководящие указания по включению в стандарты (ISO/IEC Guide 51:1999, Safety aspects - Guidelines for their inclusion in standards)

МЭК Руководство 104:1997 Подготовка публикаций по безопасности и использование базовых публикаций по безопасности и публикаций по безопасности групп (IEC Guide 104:1997, The preparation of safety publications and the use of basic safety publications and group safety publications)

МЭК 61508-1:2010 Функциональная безопасность систем электрических, электронных, программируемых электронных, связанных с безопасностью. Часть 1. Общие требования (IEC 61508-1:2010, Functional safety of electrical/electronic/programmable electronic safety-related systems - Part 1: General requirements)

МЭК 61508-2:2010 Функциональная безопасность систем электрических, электронных, программируемых электронных, связанных с безопасностью. Часть 2. Требования к системам электрическим/ электронным/программируемым электронным, связанным с безопасностью (IEC 61508-2:2010, Functional safety of electrical/electronic/programmable electronic safety-related systems - Part 2: Requirements for electrical/electronic/programmable electronic safety-related systems)

МЭК 61508-4:2010 Функциональная безопасность систем электрических, электронных, программируемых электронных, связанных с безопасностью. Часть 4. Термины и определения (IEC 61508-4:2010, Functional safety of electrical/electronic/programmable electronic safety-related systems - Part 4: Definitions and abbreviations)

Рисунок 1 - Общая структура стандартов серии ГОСТ Р МЭК 61508

Рисунок 2 - Структура жизненного цикла всей системы безопасности

3 Термины и определения

В настоящем стандарте применены термины по МЭК 61508-4.

4 Соответствие настоящему стандарту

Требования, которые следует выполнять для соответствия настоящему стандарту, приведены в МЭК 61508-1 (раздел 4).

5 Документация

Задачи и требования, предъявляемые к документации, приведены в МЭК 61508-1 (раздел 5).

6 Дополнительные требования к управлению программным обеспечением, связанным с безопасностью

6.1 Цели

Цели подробно рассмотрены в 6.1 МЭК 61508-1.

6.2 Требования

6.2.1 В дополнение к требованиям, описанным в подразделе 6.2 МЭК 61508-1, предъявляются следующие требования.

6.2.2 Планирование функциональной безопасности должно определять стратегию поставок, разработки, интеграции, верификации, подтверждения соответствия и модификации программного обеспечения в той мере, в какой этого требует уровень полноты безопасности функций, реализуемых Э/Э/ПЭ системой, связанной с безопасностью.

Примечание - Философия настоящего подхода состоит в использовании планирования функциональной безопасности в качестве возможности для приспособления настоящего стандарта для учета требуемой полноты безопасности для каждой функции безопасности, реализуемой Э/Э/ПЭ системой, связанной с безопасностью.

6.2.3 Система управления конфигурацией программного обеспечения должна:

a) использовать административные и технические средства контроля на протяжении жизненного цикла программного обеспечения системы безопасности для того, чтобы управлять изменениями в программах и таким образом гарантировать непрерывное выполнение указанных в спецификациях требований к программному обеспечению, связанному с безопасностью;

b) гарантировать выполнение операций, необходимых для того, чтобы продемонстрировать достижение заданной стойкости к систематическим отказам программного обеспечения;

c) осуществлять аккуратную поддержку с использованием уникальной идентификации всех элементов конфигурации, которые необходимы для обеспечения требований полноты безопасности Э/Э/ПЭ системы, связанной с безопасностью. Элементы конфигурации должны включать в себя как минимум следующее: анализ системы безопасности и требования к системе безопасности; спецификацию программного обеспечения и проектную документацию; исходный текст программ; план и результаты тестирования; документацию о проверках; ранее разработанные программные элементы и пакеты, которые должны быть включены в Э/Э/ПЭ систему, связанную с безопасностью; все инструментальные средства и системы разработки, которые использовались при создании, тестировании или выполнении иных действий с программным обеспечением Э/Э/ПЭ системы, связанной с безопасностью;

d) использовать процедуры контроля над внесением изменений для того, чтобы:

- предотвращать несанкционированные модификации;

- документально оформлять запросы на выполнение модификаций;

- анализировать влияние предлагаемых модификаций и утверждать либо отвергать модификации;

- подробно документально оформлять модификации и выдавать полномочия на выполнение всех утвержденных модификаций;

- устанавливать основные параметры конфигурации системы для этапов разработки программного обеспечения и документально оформлять (частичное) тестирование интеграции системы;

- гарантировать объединение и встраивание всех подсистем программного обеспечения (включая переработку более ранних версий).

Примечания

1 Для осуществления руководства и применения административных и технических средств контроля необходимы наличие полномочий и принятие управленческих решений.

2 С одной стороны, анализ влияния может включать неформальную оценку. С другой стороны, анализ влияния может включать в себя строгий формальный анализ возможного неблагоприятного воздействия всех предложенных изменений, которые могут быть неверно поняты или неверно осуществлены. Руководство по анализу влияния см. [5];

e) гарантировать, что осуществлены соответствующие меры, чтобы корректно загружать прошедшие подтверждение соответствия элементы программного обеспечения и данные в систему во время ее выполнения.

Примечание -Допускается рассматривать отдельные целевые системы, а также общие системы. Программному обеспечению, кроме приложений, возможно, понадобился бы безопасный метод загрузки, например, для встроенных программ программируемых устройств;

f) документально оформлять перечисленную ниже информацию, для того чтобы обеспечить возможность последующего аудита функциональной безопасности: состояние конфигурации, текущее состояние системы, обоснование (с учетом результатов анализа влияния) и утверждение всех модификаций, подробное описание всех модификаций;

g) строго документально оформлять каждую версию программного обеспечения, связанного с безопасностью. Обеспечить хранение всех версий программного обеспечения и всей относящейся к ним документации, а также версий данных для обеспечения возможности сопровождения и выполнения модификаций на протяжении всего периода использования разработанного программного продукта.

Примечание - Дополнительную информацию по управлению конфигурацией см. [5].

7 Требования к жизненному циклу программного обеспечения системы безопасности

7.1 Общие положения

7.1.1 Цели

Целью требований, излагаемых в настоящем подразделе, является разделение процесса разработки программного обеспечения на этапы и процессы (см. таблицу 1 и рисунки 3 - 6).

7.1.2 Требования

7.1.2.1 В соответствии с МЭК 61508-1 (раздел 6) при планировании системы безопасности должен быть выбран и специфицирован жизненный цикл для разработки программного обеспечения системы безопасности.

7.1.2.2 Может использоваться любая модель жизненного цикла программного обеспечения системы безопасности при условии, что она соответствует всем целям и требованиям настоящего раздела.

7.1.2.3 Каждая стадия жизненного цикла программного обеспечения системы безопасности должна быть разделена на элементарные процессы. Для каждой стадии должны быть определены область применения, входные данные и выходные данные.

Примечание - См. рисунки 3, 4 и таблицу 1.

7.1.2.4 При условии, что жизненный цикл программного обеспечения системы безопасности соответствует требованиям таблицы 1, приемлемо адаптировать V-модель (см. рисунок 6) с учетом полноты безопасности и сложности проекта.

Примечания

1 Модель жизненного цикла программного обеспечения системы безопасности, которая соответствует требованиям данного раздела, может быть соответственно настроена для конкретных потребностей проекта или организации. Полный список стадий жизненного цикла, приведенный в таблице 1, относится к большим заново разрабатываемым системам. Для небольших систем может оказаться целесообразным, например, объединить стадии проектирования системы программного обеспечения и проектирования архитектуры.

2 Характеристики систем, управляемых данными, описание которых можно найти в приложении G (например, языки программирования с полной или ограниченной изменчивостью, степень конфигурации данных), могут использоваться для настройки жизненного цикла программного обеспечения системы безопасности.

 

Таблица 1 - Жизненный цикл программного обеспечения (ПО) системы безопасности: обзор

Рисунок 3 - Структура жизненного цикла Э/Э/ПЭ системы безопасности (стадия реализации)

Рисунок 4 - Структура жизненного цикла программного обеспечения системы безопасности
(стадия реализации)

Рисунок 5 - Взаимосвязь и области применения МЭК 61508-2 и МЭК 61508-3

Рисунок 6 - Стойкость к систематическим отказам и жизненный цикл разработки программного обеспечения
(V-модель)

7.1.2.5 Любая настройка жизненного цикла программного обеспечения системы безопасности должна быть обоснована функциональной безопасностью.

7.1.2.6 Процедуры обеспечения качества и безопасности должны быть интегрированы в процессы жизненного цикла систем безопасности.

7.1.2.7 Для каждой стадии жизненного цикла следует использовать соответствующие методы и мероприятия. В приложениях A и B приведены рекомендации по выбору методов и средств, а также ссылки на [5] и [6]. В [5] и [6] приведены рекомендации по выбору конкретного метода для обеспечения свойств, требуемых для систематической полноты безопасности. Методы, выбранные в соответствии с этими рекомендациями, сами по себе не гарантируют достижения необходимой полноты безопасности.

Примечание - Успех в достижении систематической полноты безопасности зависит от выбора методов с учетом следующих факторов:

- согласованность и взаимодополняющий характер выбранных методов, языков и инструментов для всего цикла разработки;

- полностью ли понимают разработчики используемые ими методы, языки и инструментальные средства;

- насколько соответствуют методы, языки и инструментальные средства конкретным проблемам, с которыми сталкиваются разработчики в процессе разработки.

7.1.2.8 Результаты процессов жизненного цикла программного обеспечения системы безопасности должны быть документально оформлены (см. раздел 5).

Примечание - МЭК 61508-1 (раздел 5) рассматривает документальное оформление результатов стадий жизненного цикла системы безопасности. При разработке некоторых Э/Э/ПЭ систем, связанных с безопасностью, результаты некоторых стадий жизненного цикла системы безопасности могут быть оформлены в виде отдельных документов, тогда как результаты от других стадий могут объединяться в один документ. Существенным является требование, чтобы результаты стадии жизненного цикла системы безопасности соответствовали ее предназначению.

7.1.2.9 Если на какой-либо стадии жизненного цикла программного обеспечения системы безопасности возникает необходимость внести изменение, относящееся к более ранней стадии жизненного цикла, то, во-первых, используя анализ влияния, необходимо определить, какие модули программного обеспечения затрагиваются изменениями, и во-вторых, какие действия на более ранней стадии жизненного цикла системы безопасности должны быть выполнены повторно.

Примечание - С одной стороны, анализ влияния может представлять собой неформальную оценку. С другой стороны, он может включать в себя строгий формальный анализ возможных неблагоприятных последствий всех предполагаемых изменений, которые, возможно, были плохо продуманы или неверно реализованы. Руководящие указания по анализу влияния см. [5].

7.2 Спецификация требований к программному обеспечению системы безопасности

Примечание - Данная стадия представлена на рисунке 4 (см. 10.1).

7.2.1 Цели

7.2.1.1 Первой целью настоящего подраздела является определение требований к программному обеспечению, связанному с безопасностью, как требований к функциям безопасности программного обеспечения и требований к стойкости к систематическим отказам программного обеспечения.

7.2.1.2 Второй целью настоящего подраздела является определение требований к функциям безопасности программного обеспечения каждой Э/Э/ПЭ системы, связанной с безопасностью, которые нужны для реализации этих функций безопасности.

7.2.1.3 Третьей целью настоящего подраздела является определение требований к стойкости к систематическим отказам программного обеспечения для каждой связанной с безопасностью Э/Э/ПЭ системы, необходимых для достижения уровня полноты безопасности, назначенного каждой функции безопасности, реализуемой Э/Э/ПЭ системой, связанной с безопасностью.

7.2.2 Требования

Примечания

1 В большинстве случаев эти требования выполняются комбинацией базового встраиваемого программного обеспечения и программных модулей, которые разработаны специально для конкретного применения. Именно комбинация этих двух видов программного обеспечения позволяет достигать характеристик, описанных в подразделах, приводимых ниже. Точная граница между базовым и прикладным программным обеспечением зависит от выбранной архитектуры программной системы (см. 7.4.3).

2 Для выбора соответствующих методов и средств (см. приложения А и В) для осуществления требования данного пункта, необходимо рассмотреть следующие свойства (см. приложение С, где даны указания по интерпретации свойств, и приложение F МЭК 61508-7, где даны их неформальные определения) спецификации требований к программному обеспечению системы безопасности:

- полнота охвата потребностей безопасности программным обеспечением;

- корректность охвата потребностей безопасности программным обеспечением;

- отсутствие ошибок в самой спецификации, включая отсутствие неоднозначности;

- ясность требований к системе безопасности;

- отсутствие неблагоприятного взаимовлияния функций, не связанных с безопасностью, и функций безопасности, реализуемых программным обеспечением системы безопасности;

- способность обеспечения проведения оценки и подтверждения соответствия.

3 Потребности безопасности, которым должно соответствовать программное обеспечение, описываются набором функций безопасности и соответствующими требованиями полноты безопасности, определенных для функций программного обеспечения в проекте Э/Э/ПЭ системы. (Полный набор требований к системе безопасности гораздо шире, так как включает также функции безопасности, которые не выполняются программным обеспечением). Полнота спецификации требований к программному обеспечению системы безопасности решающим образом зависит от эффективности более ранних стадий жизненного цикла системы.

7.2.2.1 Если требования к программному обеспечению, связанному с безопасностью, уже были определены в требованиях к Э/Э/ПЭ системе, связанной с безопасностью (см. подраздел 7.2 МЭК 61508-2), повторять их не требуется.

7.2.2.2 Спецификация требований к программному обеспечению, связанному с безопасностью, должна быть выработана на основе заданных требований к безопасности Э/Э/ПЭ системы, связанной с безопасностью (МЭК 61508-2), и любых требований к планированию безопасности (см. раздел 6). Эта информация должна быть доступна для разработчика программного обеспечения.

Примечания

1 Это требование означает, что должно быть тесное взаимодействие между разработчиком Э/Э/ПЭ системы и разработчиком программного обеспечения (МЭК 61508-2 и МЭК 61508-3). По мере того как требования к безопасности и архитектура программного обеспечения (см. 7.4.3) становятся более определенными, может проявляться влияние на архитектуру аппаратных средств Э/Э/ПЭ системы, и по этой причине становится важным тесное взаимодействие между разработчиками аппаратных средств и программного обеспечения (см. рисунок 5).

2 Проект программного обеспечения может включать уже существующее и многократно использованное программное обеспечение. Такое программное обеспечение может быть разработано без учета спецификации требования к создаваемой системе. В 7.4.2.12 представлены требования к уже существующему программному обеспечению, чтобы удовлетворить спецификации требований к программному обеспечению системы безопасности.

7.2.2.3 Спецификация требований к программному обеспечению, связанному с безопасностью, должна быть достаточно подробной для того, чтобы обеспечить стадии проектирования и внедрения информацией для реализации требуемой полноты безопасности (включая требования к независимости, см. МЭК 61508-2) и позволить выполнить оценку функциональной безопасности.

Примечание - Уровень детальности спецификации может изменяться в зависимости от сложности применения. Соответствующая спецификация функционального поведения может включать требования к точности, синхронизации и производительности, емкости, устойчивости, допустимой перегрузки и другие свойства, характеризующие конкретное применение.

7.2.2.4 Для решения проблемы независимости должен быть выполнен подходящий анализ отказов по общей причине. Если выявлены вероятные механизмы отказа, то должны быть приняты эффективные меры защиты.

Примечание - В приложении F приведены методы достижения одного аспекта независимости программного обеспечения.

7.2.2.5 Разработчик программного обеспечения должен просмотреть информацию, содержащуюся в 7.2.2.2 для того, чтобы гарантировать, что требования определены адекватным образом. В частности, разработчик программного обеспечения должен учесть:

a) функции безопасности;

b) конфигурацию или архитектуру системы;

c) требования к полноте безопасности аппаратных средств (программируемой электроники, датчиков и исполнительных устройств);

d) требования к стойкости к систематическим отказам программного обеспечения;

e) производительность и время отклика;

f) интерфейсы оборудования и оператора, включая разумно предвидимые нарушения.

Примечание - Необходимо рассмотреть совместимость с любыми уже существующими применениями.

7.2.2.6 В специфицированных требованиях к программному обеспечению, связанному с безопасностью, должны быть подробно описаны все соответствующие режимы работы УО, Э/Э/ПЭ системы и любых оборудования или системы, подсоединенных к Э/Э/ПЭ системе, если только они не были уже адекватно определены в требованиях к системе безопасности, специфицированных для Э/Э/ПЭ системы, связанной с безопасностью.

7.2.2.7 В спецификации требований к программному обеспечению системы безопасности должны быть определены и документально оформлены все, связанные с безопасностью, и иные необходимые ограничения, связанные с взаимодействием между аппаратными средствами и программным обеспечением.

7.2.2.8 В той степени, в которой этого требует описание проекта архитектуры аппаратных средств Э/Э/ПЭ систем, и с учетом возможного увеличения сложности спецификация требований к программному обеспечению системы безопасности должна учитывать:

a) самоконтроль программного обеспечения (например, МЭК 61508-7);

b) мониторинг программируемой электронной аппаратуры, датчиков и исполнительных устройств;

c) периодическое тестирование функций безопасности во время выполнения программы;

d) предоставление возможности тестирования функций безопасности во время работы УО;

e) функции программного обеспечения для выполнения контрольных испытаний и всех диагностических тестов, чтобы выполнить требование полноты безопасности Э/Э/ПЭ системы, связанной с безопасностью.

Примечание - Увеличение сложности, которое может возникнуть из вышеупомянутых соображений, может потребовать пересмотра архитектуры.

7.2.2.9 Если Э/Э/ПЭ система, связанная с безопасностью, должна выполнять функции, не относящиеся к безопасности, эти функции должны быть четко указаны в спецификации требований к программному обеспечению системы безопасности.

Примечание - Требования к отсутствию взаимовлияния функций, связанных и не связанных с безопасностью, см. 7.4.2.8 и 7.4.2.9.

7.2.2.10 Спецификация требований к программному обеспечению системы безопасности должна выражать необходимые характеристики безопасности продукции, а не его проекта, как это определяется при планировании системы безопасности (см. раздел 6 МЭК 61508-1). С учетом 7.2.2.1 - 7.2.2.9 в зависимости от конкретных обстоятельств должны быть определены следующие положения:

a) требования к функциям программного обеспечения системы безопасности:

1) функции, которые позволяют УО достигать или поддерживать безопасное состояние,

2) функции, связанные с обнаружением, оповещением и обработкой ошибок аппаратных средств программируемой электроники,

3) функции, связанные с обнаружением, оповещением и обработкой ошибок датчиков и исполнительных устройств,

4) функции, связанные с обнаружением, оповещением и обработкой ошибок в самом программном обеспечении (самоконтроль программного обеспечения),

5) функции, связанные с периодическим тестированием функций безопасности в режиме реального времени (в предопределенной операционной среде),

6) функции, связанные с периодическим тестированием функций безопасности в автономном режиме (то есть в условиях, в которых функция безопасности УО не выполняется),

7) функции, обеспечивающие модификацию ПЭ системы безопасности,

8) интерфейсы функций, не связанных с безопасностью,

9) производительность и время отклика,

10) интерфейсы между программным обеспечением и ПЭ системой.

Примечание - Интерфейсы должны включать в себя средства программирования в автономном и неавтономном режиме,

11) средства коммуникации, связанные с безопасностью;

b) требования к стойкости к систематическим отказам программного обеспечения:

1) уровень(ни) полноты безопасности для каждой функции по перечислению a).

Примечание - Назначение полноты безопасности элементам программного обеспечения описано в приложении А МЭК 61508-5,

2) требования независимости между функциями.

7.2.2.11 Если требования к программному обеспечению системы безопасности выражены или выполнены в виде конфигурации данных, то эти данные должны быть:

a) согласованы с требованиями к системе безопасности;

b) выражены значениями из допустимого диапазона и санкционированными комбинациями реализующих их параметров;

c) определены способом, который совместим с базовым программным обеспечением (например, последовательность выполнения, время выполнения, структуры данных и т.д.).

Примечания

1 Это требование к прикладным данным относится, в частности, к применениям, управляемым данными. Они характеризуются следующим образом: исходный код уже существует, а главная цель разработки состоит в обеспечении уверенности, что конфигурации данных правильно задает поведение, требуемое от применения. Между элементами данных могут быть сложные зависимости, и достоверность данных может меняться с течением времени.

2 Указания по системам, управляемым данными, см. в приложении G.

7.2.2.12 Если данные определяют интерфейс между программным обеспечением и внешними системами, то в дополнение к пункту 7.4.11 МЭК 61508-2 необходимо рассмотреть следующие характеристики:

a) необходимость согласованности при определении данных;

b) недостоверные, находящиеся вне определенного диапазона или несвоевременные значения;

c) время отклика и пропускная способность, включая условия максимальной загрузки;

d) время выполнения в лучшем и худшем случаях и зависание;

e) переполнение и потеря данных в памяти.

7.2.2.13 Параметры эксплуатации должны быть защищены от:

a) недостоверных, находящихся вне определенного диапазона или несвоевременных значений;

b) несанкционированных изменений;

c) искажений.

Примечания

1 Следует рассмотреть защиту от несанкционированных изменений как программных, так и непрограммных средств. Необходимо отметить, что эффективная защита от несанкционированных изменений программного обеспечения может отрицательно отразиться на безопасности, например, если изменения необходимо выполнить быстро и в напряженных условиях.

2 Хотя человек может быть частью системы, связанной с безопасностью (см. раздел 1 МЭК 61508-1), требования человеческого фактора, связанные с проектированием Э/Э/ПЭ систем, связанных с безопасностью, в настоящем стандарте подробно не рассматриваются. Однако там, где это необходимо, должны быть рассмотрены следующие соображения, связанные с человеком:

- информационная система оператора должна использовать пиктографическое представление и терминологию, с которой знакомы операторы. Они должны быть четкими, понятными и лишенными ненужных деталей и/или аспектов;

- информация об УО, выведенная оператору на экран, должна подробно и достоверно отображать физическое состояние УО;

- если на экране дисплея оператору представлена информация о выполняющихся в УО процессах и/или если оператор выполняет возможные действия, последствия которых нельзя сразу заметить, то выведенная на экран в автоматическом режиме информация должна показать состояние, в котором находится представленная на дисплее система, или последовательность действий, в которой указано, какое состояние последовательности достигнуто, какие операции могут быть выполнены и какие могут быть возможные последствия.

7.3 Планирование подтверждения соответствия безопасности системы для аспектов программного обеспечения

Примечания

1 Эта стадия представлена на рисунке 4 (см. блок 10.2).

2 Подтверждение соответствия для программного обеспечения обычно не может быть выполнено отдельно от используемого им оборудования и системной среды.

7.3.1 Цель

Целью требований настоящего подраздела является разработка плана подтверждения соответствия аспектов, связанного с безопасностью программного обеспечения, безопасности системы.

7.3.2 Требования

7.3.2.1 В ходе планирования должны быть определены процедурные и технические шаги, которые необходимо выполнить для того, чтобы продемонстрировать, что программное обеспечение соответствует требованиям безопасности.

7.3.2.2 План подтверждения соответствия безопасности системы для аспектов программного обеспечения должен содержать следующие положения:

a) точная дата, когда должно происходить подтверждение соответствия;

b) перечень лиц, осуществляющих подтверждение соответствия;

c) идентификацию соответствующих режимов работы УО, включая:

- подготовку к использованию, а также установку и настройку,

- работу в режиме запуска и обучения, в автоматическом, ручном, полуавтоматическом и стационарном режимах,

- переустановку, выключение, сопровождение,

- предполагаемые ненормальные условия и предполагаемые ошибки оператора;

d) идентификация программного обеспечения, связанная с безопасностью, для которого должна быть проведена процедура подтверждения соответствия, для каждого режима работы УО до момента его ввода в эксплуатацию;

e) техническая стратегия для подтверждения соответствия (например, аналитические методы, статистическое тестирование и т.п.);

f) средства (методы) и процедуры в соответствии с перечислением e), которые должны быть использованы для того, чтобы подтвердить, что каждая функция безопасности соответствует установленным требованиям к функциям безопасности и требованиям к стойкости к систематическим отказам программного обеспечения;

g) условия, в которых должны происходить процедуры подтверждения соответствия (например, при тестировании может потребоваться использование калиброванных инструментов и оборудования);

h) критерии прохождения/непрохождения подтверждения соответствия;

i) политика и процедуры, используемые для оценки результатов подтверждения соответствия, в частности, при оценке отказов.

Примечание - Эти требования основаны на общих требованиях подраздела 7.8 МЭК 61508-1.

7.3.2.3 Подтверждение соответствия должно дать обоснование выбранной стратегии. Техническая стратегия для подтверждения соответствия программного обеспечения, связанного с безопасностью, должна содержать следующую информацию:

a) выбор ручных или автоматических методов, или и тех и других;

b) выбор статических или динамических методов, или и тех и других;

c) выбор аналитических или статистических методов, или и тех и других;

d) выбор критериев приемки на основе объективных факторов или экспертной оценки, или и того и другого.

7.3.2.4 В рамках процедуры подтверждения соответствия аспектов программного обеспечения, связанного с безопасностью, если этого требует уровень полноты безопасности (раздел 8 МЭК 61508-1), область применения и содержание плана подтверждения соответствия безопасности системы аспектов программного обеспечения должны быть изучены экспертом или третьей стороной, представляющей эксперта. Эта процедура должна также включать в себя заявление о присутствии эксперта при испытаниях.

7.3.2.5 Критерии прохождения/непрохождения при завершении подтверждения соответствия программного обеспечения должны включать в себя:

a) необходимые входные сигналы, включая их последовательность и значения;

b) предполагаемые выходные сигналы, включая их последовательность и значения и

c) другие критерии приемки, например использование памяти, синхронизацию, допустимые интервалы значений.

7.4 Проектирование и разработка программного обеспечения

Примечание - Эта стадия представлена на рисунке 4 (см. 10.3).

7.4.1 Цели

7.4.1.1 Первой целью требований настоящего подраздела является создание такой архитектуры программного обеспечения, которая соответствовала бы заданным требованиям к программному обеспечению, связанному с безопасностью, в отношении необходимого уровня полноты безопасности.

7.4.1.2 Второй целью требований настоящего подраздела является оценка требований, предъявляемых к программному обеспечению со стороны архитектуры аппаратных средств Э/Э/ПЭ системы, связанной с безопасностью, включая значение взаимодействия между аппаратными средствами и программным обеспечением Э/Э/ПЭ систем для обеспечения безопасности управляемого оборудования.

7.4.1.3 Третьей целью требований настоящего подраздела является выбор подходящего набора инструментальных средств, включая языки программирования и компиляторы, интерфейсы системы времени выполнения, интерфейсы пользователя и форматы и представления данных, который соответствовал бы заданному уровню полноты безопасности на протяжении всего жизненного цикла программного обеспечения системы безопасности и способствовал бы выполнению процессов верификации, подтверждения соответствия, оценки и модификации.

7.4.1.4 Четвертой целью требований настоящего подраздела является проектирование и реализация программного обеспечения, которое соответствовало бы специфицированным требованиям к программному обеспечению, связанному с безопасностью, для необходимого уровня полноты безопасности. Это программное обеспечение должно быть пригодным для анализа и верификации и обладать способностью к безопасной модификации.

7.4.1.5 Пятой целью требований настоящего подраздела является проверка выполнения требований к программному обеспечению, связанному с безопасностью (в отношении необходимых функций безопасности и стойкости к систематическим отказам программного обеспечения).

7.4.1.6 Шестой целью требований настоящего подраздела является гарантирование, в той мере, насколько это уместно, того, что конфигурирование данными ПЭ систем соответствует указанным в настоящем подразделе требованиям стойкости к систематическим отказам программного обеспечения.

7.4.2 Общие требования

7.4.2.1 В зависимости от природы процесса разработки программного обеспечения ответственными за соответствие требованиям 7.4 могут быть: или только поставщик связанного с безопасностью программного окружения (например, поставщик PLS), или только пользователь этого окружения (например, разработчик прикладных программ), или поставщик и пользователь. Распределение ответственности должно быть определено во время планирования системы безопасности (см. раздел 6).

Примечание - О характеристиках системы и архитектуры программного обеспечения, для которых необходима определенность при выборе подразделения, ответственного за соответствие требованиям 7.4, см. 7.4.3.

7.4.2.2 В соответствии с требуемым уровнем полноты безопасности и конкретными техническими требованиями к функции безопасности выбранный метод проектирования должен обладать характеристиками, которые облегчают:

a) абстрактное представление, разделение на модули и другие характеристики, контролирующие уровень сложности;

b) выражение:

1) выполняемых функций;

2) обмена данными между элементами;

3) информации, относящейся к последовательности и времени выполнения программ;

4) ограничений синхронизации;

5) параллельного и синхронизированного доступа к совместно используемым ресурсам;

6) структур данных и их свойств;

7) проектных предположений и их зависимостей;

8) обработки исключений;

9) проектных предположений (предварительных условий, постусловий, инвариантов);

10) комментариев;

c) возможность описания нескольких представлений проекта, включая представление структуры и представление поведения;

d) понимание разработчиками и другими лицами, которые должны иметь дело с проектом;

e) верификацию и оценку соответствия.

7.4.2.3 Тестируемость и способность к модификации системы безопасности должны быть предусмотрены на этапе проектирования для того, чтобы облегчить реализацию этих характеристик в окончательной версии системы, связанной с безопасностью.

Примечание - Например, режимы эксплуатации в машиностроении и на обрабатывающих предприятиях.

7.4.2.4 Выбранный метод проектирования должен обладать характеристиками, облегчающими модификацию программного обеспечения. К числу таких характеристик относят модульность, скрытие информации и инкапсуляцию.

7.4.2.5 Представление проекта должно основываться на нотации, которая является однозначно определенной или ограничена до однозначно определенных свойств.

7.4.2.6 Проект должен по возможности минимизировать ту часть программного обеспечения, которая связана с безопасностью.

7.4.2.7 Проект программного обеспечения должен включать в себя (соразмерно требуемому уровню полноты безопасности) средства самоконтроля потоков управления и потоков данных. При обнаружении отказа должны быть выполнены соответствующие действия.

7.4.2.8 Если программное обеспечение должно реализовать функции как относящиеся, так и не относящиеся к безопасности, оно в целом должно рассматриваться как относящееся к безопасности, если в проекте не предусмотрены соответствующие меры, гарантирующие, что отказы функций, не относящихся к безопасности, не могут оказать негативное влияние на функции, относящиеся к безопасности.

7.4.2.9 Если программное обеспечение должно реализовать функции безопасности, имеющие различный уровень полноты безопасности, то следует считать, что все программное обеспечение имеет уровень, наивысший среди этих уровней, если только в проекте не будет продемонстрирована достаточная независимость функций, имеющих различный уровень полноты безопасности. Должно быть продемонстрировано, что либо независимость обеспечена в пространстве и во времени, либо любые нарушения независимости находятся под контролем. Обоснование независимости должно быть документально оформлено.

Примечание - Методы достижения одного аспекта независимости программного обеспечения приведены в приложении F.

7.4.2.10 Если стойкость к систематическим отказам элемента программного обеспечения ниже, чем уровень полноты безопасности функции безопасности, к которой он относится, то этот элемент должен использоваться в сочетании с другими элементами, такими, что стойкость к систематическим отказам такого сочетания элементов будет равна уровню полноты безопасности функции безопасности.

7.4.2.11 Если функция безопасности реализуется с использованием комбинации элементов программного обеспечения, для которых известны их значения стойкости к систематическим отказам, то к такой комбинации элементов должны применяться требования к стойкости к систематическим отказам, представленные в пункте 7.4.3 МЭК 61508-2.

Примечание - Существует различие между функцией безопасности, от начала до конца реализуемой одним или более элементами, и функцией безопасности элемента, то есть каждого из элементов, участвующего в реализации. Если два элемента объединяются для достижения более высокой стойкости к систематическим отказам, то в такой комбинации каждый из этой пары элементов должен быть способен к предотвращению/смягчению опасного события, при этом функции безопасности каждого из этих элементов не обязательно должны быть идентичны, и не требуется, чтобы каждый из элементов комбинации был способен независимо обеспечивать функциональную безопасность, которая задана для всей комбинации.

Пример - В управлении электронного дросселя автомобиля функция безопасности «предотвращение нежелательного ускорения» полностью реализуется на двух процессорах. Функция безопасности элемента, реализуемая основным контроллером, управляет поведением дросселя в режиме запрос/ответ. Функция безопасности элемента, реализуемая вторым процессором, выполняет разнообразный контроль (см. C.3.4 МЭК 61508-7) и аварийный останов в случае необходимости. Комбинация этих двух процессоров дает более высокую уверенность в том, что выполнение всей функции безопасности «предотвращение нежелательного ускорения» будет обеспечено.

7.4.2.12 Если для реализации всей или части функции безопасности используется вновь уже существующий элемент программного обеспечения, то этот элемент должен соответствовать обоим следующим требованиям систематической полноты безопасности:

а) соответствовать требованиям одного из следующих способов обеспечения соответствия:

- способ 1_S: разработка, соответствующая требованиям. Соответствие требованиям настоящего стандарта для предотвращения и управления систематическими отказами в программном обеспечении;

- способ 2_S: проверка в эксплуатации. Представить свидетельства, что элемент проверен в эксплуатации. См. пункт 7.4.10 МЭК 61508-2;

- способ 3_S: оценка разработки, не соответствующей требованиям. Соблюдение требований 7.4.2.13.

Примечания

1 Способы 1_S, 2_S и 3_S соответствуют способам, описанным в перечислении c) пункта 7.4.2.2 МЭК 61508-2, для элементов программного обеспечения. Они воспроизведены исключительно для того, чтобы минимизировать обращение к МЭК 61508-2.

2 В соответствии с пунктом 3.2.8 МЭК 61508-4 уже существующее программное обеспечение может быть доступным коммерческим продуктом, или оно, возможно, было разработано конкретной организацией для предыдущего изделия или системы. Уже существующее программное обеспечение могло или не могло быть разработано в соответствии с требованиями настоящего стандарта.

3 Требования к уже существующим элементам применяются также к библиотеке времени выполнения или интерпретатору;

b) разработать руководство по безопасности (см. приложение D МЭК 61508-2 и приложение D настоящего стандарта), которое дает достаточно точное и полное описание элемента для обеспечения оценки полноты конкретной функции безопасности, полностью или частично зависящей от уже существующего элемента программного обеспечения.

Примечания

1 Руководство по безопасности может быть получено из собственной документации поставщика элемента и описания процесса разработки поставщика элемента или создано, или расширено дополнительными квалифицированными действиями, выполненными разработчиком системы, связанной с безопасностью, или третьей стороной. В некоторых случаях может понадобиться инженерный анализ для создания спецификации или разработки документации, соответствующей требованиям данного пункта с учетом сложившихся правовых условий (например, авторское право или права интеллектуальной собственности).

2 Обоснование элемента может быть разработано во время планирования безопасности (см. раздел 6).

7.4.2.13 В соответствии со способом обеспечения соответствия 3_S уже существующий элемент программного обеспечения должен соответствовать всем следующим требованиям перечислений a) - i):

a) Спецификация требований к программному обеспечению системы безопасности для элемента в его новом приложении должна быть документально оформлена подробно, в соответствии с требованиями настоящего стандарта для любого элемента, связанного с безопасностью, стой же стойкостью к систематическим отказам. Спецификация требований к программному обеспечению системы безопасности должна охватывать функциональное и безопасное поведение и применяться к элементу в его новом применении, как определено в 7.2 (см. таблицу 1).

b) Обоснование для использования элемента программного обеспечения должно представить свидетельства о том, что были рассмотрены требуемые свойства системы безопасности, определенные в 7.2.2, 7.4.3, 7.4.4, 7.4.5, 7.4.6, 7.4.7, 7.5.2, 7.7.2, 7.8.2, 7.9.2 и разделе 8 с учетом требований приложения C.

c) В достаточно подробно документально оформленном проекте элемента должны быть представлены свидетельства соответствия со спецификацией требований и требуемой стойкостью к систематическим отказам. См. 7.4.3, 7.4.5 и 7.4.6 и таблицы A.2 и A.4 приложения A.

d) Свидетельства по 7.4.2.13, перечисление a), и по 7.4.2.13, перечисление b), должны охватывать интеграцию программного обеспечения и аппаратных средств. См. 7.5 и таблицу 6 приложения A.

e) Требуется доказательство, что для элемента были выполнены процедуры проверки и подтверждения соответствия, используя систематический подход с документально оформленным тестированием и анализом всех частей проекта элемента и кода. См. 7.4.7, 7.4.8, 7.5, 7.7, 7.9 и таблицы A.5 - A.7 и A.9 приложения A, а также связанные с ними таблицы приложения B.

Примечание - Для того чтобы удовлетворить требованиям тестирования, может быть использован положительный опыт применения вероятностных методов и метода «черного ящика» (см. таблицы A.7 приложения A и B.3 приложения B).

f) Если элемент программного обеспечения выполняет функции, которые не требуются системе, связанной с безопасностью, то должно быть представлено свидетельство о том, что ненужные функции не мешают Э/Э/ПЭ системе соответствовать требованиям безопасности.

Примечание - Способы, соответствующие данному требованию, включают в себя:

- устранение таких функций из проекта;

- отключение таких функций;

- использование соответствующей архитектуры системы (например, декомпозиция на части, упаковка в отдельный файл, разнообразие, проверка достоверности выходов);

- широкое тестирование.

g) Должно быть доказано, что все вероятностные механизмы отказа элемента программного обеспечения были идентифицированы и реализованы соответствующие меры их ослабления.

Примечание - Соответствующие меры ослабления включают в себя:

- использование соответствующей архитектуры системы (например, декомпозиция на части, упаковка в отдельный файл, разнообразие, проверка достоверности выходов);

- широкое тестирование.

h) При планировании использования элемента должны быть идентифицированы конфигурация элемента программного обеспечения, среды выполнения программного и аппаратного обеспечения и (при необходимости) конфигурация системы компиляции/редактирования связей.

i) Обоснованием использования элемента должно быть проведение для него процедуры подтверждения соответствия только для тех применений, которые соответствуют предположениям руководства для этого элемента по безопасности применяемых изделий (см. приложение D МЭК 61508-2 и приложение D настоящего стандарта).

7.4.2.14 7.4.2, насколько это уместно, должен применяться к данным и языкам генерации данных.

Примечание - Руководящие указания по системам, управляемым данными, см. в приложении G.

a) Если ПЭ система обладает уже существующей функциональностью, которая сконфигурирована данными и соответствует конкретным требованиям применения, то проект прикладного программного обеспечения должен соответствовать степени конфигурируемости применения, существующей у предварительно поставляемой функциональности и сложности ПЭ системы, связанной с безопасностью.

b) Если функциональность ПЭ системы, связанной с безопасностью, определена в значительной степени или в основном конфигурационными данными, то для предотвращения появления отказов во время проектирования, производства, загрузки и модификации данных конфигурации и уверенности, что конфигурационные данные правильно формируют логику применения, должны использоваться соответствующие методы и средства.

c) Спецификация структур данных должна быть:

1) не противоречащей функциональным требованиям системы, включая данные применения;

2) полной;

3) внутренне непротиворечивой;

4) такой, чтобы структуры данных были защищены от изменения или повреждения.

d) Если ПЭ система обладает уже существующей функциональностью, которая сконфигурирована данными и соответствует определенным требованиям применения, то сам процесс конфигурации должен быть соответственно документально оформлен.

7.4.3 Требования к проектированию архитектуры программного обеспечения

Примечания

1 Архитектура программного обеспечения определяет основные элементы и подсистемы программного обеспечения, их взаимосвязь, способ реализации необходимых характеристик и, в частности, полноты безопасности. Архитектура программного обеспечения также определяет общее поведение программного обеспечения и то, как элементы программного обеспечения реализуют интерфейс и взаимодействуют между собой. Примеры основных компонентов программного обеспечения включают в себя операционные системы, базы данных, подсистемы ввода и вывода УО, коммуникационные подсистемы, прикладные программы, инструментальные средства программирования и диагностики и т.п.

2 В некоторых отраслях промышленности архитектура программного обеспечения может называться «описание функций или спецификация функций проекта» (хотя эти документы могут также включать в себя вопросы, относящиеся к аппаратным средствам).

3 В некоторых случаях пользовательского прикладного программирования, в частности, в языках, используемых в программируемых логических контроллерах (ПЛК) (приложение Е МЭК 61508-6), архитектура определяется поставщиком как стандартная характеристика ПЛК. Однако в соответствии с требованиями настоящего стандарта к поставщику может быть предъявлено требование гарантировать пользователю соответствие поставляемого продукта требованиям 7.4. Пользователь приспосабливает ПЛК, используя стандартные возможности программирования, например многозвенные логические схемы. Требования 7.4.3 - 7.4.8 остаются в силе. Требование определения и документирования архитектуры может рассматриваться как информация, которую пользователь может использовать при выборе ПЛК (или эквивалентного ему устройства) для применения.

4 С точки зрения системы безопасности стадия разработки архитектуры программного обеспечения соответствует периоду, когда для программного обеспечения разрабатывается базовая стратегия безопасности.

5 Хотя стандарты серии МЭК 61508 устанавливают числовые значения целевых мер отказов для функций безопасности, выполняемых Э/Э/ПЭ системами, связанными с безопасностью, систематическая полнота безопасности обычно не определяется количественно (см. пункт 3.5.6 МЭК 61508-4), но полнота безопасности программного обеспечения (см. пункт 3.5.5 МЭК 61508-4) определяется как стойкость к систематическим отказам со шкалой уверенности от 1 до 4 (см. пункт 3.5.9 МЭК 61508-4). Для целей настоящего стандарта принято, что программная ошибка может быть безопасной или опасной в зависимости от специфики использования программного обеспечения. Архитектура системы/программного обеспечения должна быть такой, чтобы опасные отказы элемента были ограничены каким-либо архитектурным ограничением, а методы разработки должны эти ограничения учитывать. В соответствии с требованиями настоящего стандарта методы разработки и подтверждения соответствия применяют со всей строгостью, которая является качественно согласованной с требуемой стойкостью к систематическим отказам.

6 Для выбора соответствующих методов и средств (см. приложения А и В), выполняющих требования настоящего пункта, должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С и неформальные описания методов и средств в приложении F МЭК 61508-7) архитектуры программного обеспечения:

- полнота спецификации требований к программному обеспечению системы безопасности;

- корректность спецификации требований к программному обеспечению системы безопасности;

- отсутствие собственных ошибок проекта;

- простота и ясность;

- предсказуемость поведения;

- верифицируемость и тестируемость проекта;

- отказоустойчивость;

- защита от отказов по общей причине, вызванной внешним событием.

7.4.3.1 В зависимости от характера разработки программного обеспечения ответственность за соответствие 7.4.4 может лежать на нескольких сторонах. Распределение ответственности должно быть документально оформлено во время планирования системы безопасности (см. раздел 6 МЭК 61508-1).

7.4.3.2 Проект архитектуры программного обеспечения должен быть создан поставщиком программного обеспечения и/или разработчиком, описание архитектуры должно быть подробным. Описание должно:

a) содержать выбор и обоснование (см. 7.1.2.7) интегрированного набора методов и мероприятий, которые будут необходимы в течение жизненного цикла программного обеспечения системы безопасности, для того чтобы соответствовать требованиям к программному обеспечению системы безопасности для заданного уровня полноты безопасности. Эти методы и мероприятия включают в себя стратегию проектирования программного обеспечения для обеспечения устойчивости к отказам (совместимую с аппаратными средствами) и избежания отказов, в том числе включая в себя (при необходимости) избыточность и разнообразие;

b) основываться на разделении на элементы/подсистемы, для каждой из которых должна предоставляться следующая информация:

1) проводилась ли верификация и если проводилась, то при каких условиях,

2) связан ли каждый из этих компонентов/подсистем с безопасностью или нет,

3) существует ли стойкость к систематическим отказам для компонента/подсистемы программного обеспечения;

c) определять все взаимодействия между программным обеспечением и аппаратным средствами, а также оценивать и детализировать их значение.

Примечание - Если взаимодействие между программным обеспечением и аппаратным средствами уже определено архитектурой системы, то достаточно сослаться на архитектуру системы;

d) использовать для представления архитектуры нотацию, которая является однозначно определенной или ограничена до подмножества однозначно определенных характеристик;

e) содержать набор проектных характеристик, которые должны использоваться для поддержания полноты безопасности всех данных. В число таких данных допускается включать входные и выходные производственные, коммуникационные данные, данные интерфейса оператора, сопровождения и хранящиеся во внутренних базах данных;

f) определять соответствующие тесты интеграции архитектуры программного обеспечения для обеспечения выполнения спецификации требований к программному обеспечению системы безопасности для заданного уровня полноты безопасности.

7.4.3.3 Любые изменения, которые может потребоваться внести в спецификацию требований к Э/Э/ПЭ системе безопасности (см. 7.4.3.2), после использования мероприятий по 7.4.3.2 должны быть согласованы с разработчиком Э/Э/ПЭ систем и документально оформлены.

Примечание - Итерационное взаимодействие между архитектурой аппаратных средств и программного обеспечения является неизбежным (см. рисунок 5), поэтому существует необходимость в обсуждении с разработчиком аппаратуры таких вопросов, как спецификация тестирования интеграции программируемой электронной аппаратуры и программного обеспечения (см. 7.5).

7.4.4 Требования к инструментальным средствам поддержки, включая языки программирования

Примечание - Для выбора соответствующих методов и средств (см. приложения А и В) для выполнения требований настоящего пункта должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С и неформальные описания методов и средств в приложении F МЭК 61508-7) архитектуры программного обеспечения:

- уровень, до которого инструментальные средства поддерживают разработку программного обеспечения с требуемыми свойствами программного обеспечения;

- четкость работы и функциональность инструментальных средств;

- корректность и воспроизводимость результата.

7.4.4.1 Программное обеспечение инструментальных средств поддержки, работающее в неавтономном режиме, должно рассматриваться как элемент программного обеспечения системы, связанной с безопасностью.

Примечание - Примеры инструментальных средств поддержки, работающие в автономном и неавтономном режиме, см. в пунктах 3.2.10 и 3.2.11 МЭК 61508-4.

7.4.4.2 Действие по выбору программного обеспечения инструментальных средств поддержки, работающих в автономном режиме, должно быть тесно связанным с частью действий по разработке программного обеспечения.

Примечания

1 Требования к жизненному циклу разработки программного обеспечения см. в 7.1.2.

2 Для увеличения целостности программного обеспечения за счет уменьшения вероятности появления или необнаружения отказов во время его разработки должны использоваться соответствующие инструментальные средства, работающие в неавтономном режиме, поддерживающие разработку программного обеспечения. Примерами инструментальных средств, использующихся на стадиях разработки жизненного цикла программного обеспечения, являются:

a) инструментальные средства преобразования или трансляции, которые преобразуют программное обеспечение или представление проекта (например, текст или схему) из одного уровня абстрактного представления в другой уровень: инструментальные средства усовершенствования проекта, компиляторы, ассемблеры, компоновщики, редакторы связей, загрузчики и средства генерации кода;

b) средства оценки и подтверждения соответствия, такие как статические анализаторы кода, средства контроля тестового охвата, средства доказательства теорем и средства моделирования;

c) инструментальные средства диагностики для поддержки и контроля программного обеспечения в процессе эксплуатации;

d) инструментальные средства инфраструктуры, такие как системы поддержки разработок;

e) инструментальные средства управления конфигурацией, такие как средства управления версиями;

f) инструментальные средства данных применения, которые создают или поддерживают данные, необходимые для определения параметров и создания экземпляров функций системы. Такие данные включают в себя параметры функций, диапазоны инструментальных средств, уровни срабатывания и отключения аварийных сигналов, состояния выхода, которые будут восприняты как отказы.

3 Инструментальные средства поддержки, работающие в автономном режиме, должны быть выбраны как интегрируемые. Инструментальные средства интегрированы, если они работают совместно так, чтобы выходы одного инструментального средства имели соответствующее содержание и формат для автоматической передачи на вход к следующему инструментальному средству, минимизируя таким образом возможность появления ошибки человека при повторной обработке промежуточных результатов.

4 Инструментальные средства поддержки, работающие в автономном режиме, должны быть выбраны как совместимые с потребностями применения системы, связанной с безопасностью, и интегрированного комплекса инструментальных средств.

5 Необходимо рассмотреть наличие подходящих инструментальных средств, чтобы предоставить сервисы, необходимые для всего жизненного цикла Э/Э/ПЭ системы, связанной с безопасностью (например, средства поддержки спецификаций, проектирования, реализации, документирования, модификации).

6 Необходимо уделить внимание компетентности пользователей выбранных инструментальных средств. Требования к компетентности см. раздел 6 МЭК 61508-1.

7.4.4.3 Выбор инструментальных средств поддержки, работающих в автономном режиме, должен быть обоснован.

7.4.4.4 Все инструментальные средства поддержки классов T2 и T3, работающие в автономном режиме, должны иметь спецификацию или документацию на это средство, в которой ясно определено поведение инструментального средства и любые инструкции или ограничения при их использовании. Требования к жизненному циклу разработки программного обеспечения см. в 7.1.2, а для категорий программного обеспечения инструментальных средств поддержки, работающих в автономном режиме, см. пункт 3.2.11 МЭК 61508-4.

Примечание - Такая «спецификация или документация на инструментальное средство» не является руководством по безопасности применяемого элемента (см. приложение D МЭК 61508-2 и настоящий стандарт) непосредственно для самого инструментального средства. Руководство по безопасности для применяемого элемента касается уже существующего элемента, который включен в исполняемую систему, связанную с безопасностью. Если уже существующий элемент был сгенерирован инструментальным средством класса T3 и затем включен в исполняемую систему, связанную с безопасностью, то любая релевантная информация (например, если в документации для оптимизирующего компилятора указано, что порядок оценки параметров функции не гарантируется) из «спецификации или документации на инструментальное средство» должна быть включена в руководство по безопасности для применяемого элемента, что позволяет провести оценку полноты конкретной функции безопасности, которая полностью или частично зависит от элемента, включенного в исполняемую систему, связанную с безопасностью.

7.4.4.5 Для того чтобы определить уровень доверия к инструментальным средствам и возможные механизмы отказа инструментальных средств, которые могут повлиять на исполняемое программное обеспечение, должна быть выполнена оценка инструментальных средств поддержки классов T2 и T3, работающих в автономном режиме. Если механизмы отказа идентифицированы, то должны быть использованы соответствующие меры по их ослаблению.

Примечания

1 Программное обеспечение HAZOP реализует один из методов анализа последствий возможных отказов, который можно использовать для программного обеспечения инструментального средства.

2 Примерами мер по ослаблению являются: предотвращение известных ошибок, ограниченное использование функциональности инструментального средства, проверка выходных результатов инструментального средства, использование разнообразных инструментальных средств для той же цели.

7.4.4.6 Для каждого инструментального средства в классе T3 должно быть в наличии свидетельство о том, что инструментальное средство соответствует спецификации или документации на него. Такое свидетельство может быть основано на подходящей комбинации информации о предыдущем успешном использовании в подобных средах и для подобных применений (в данной организации или в других организациях) и подтверждении соответствия инструментального средства, как определено в 7.4.4.7.

Примечания

1 История версий может обеспечивать уверенность в полноте готовности инструментального средства, а также должны быть учтены записи ошибок/несоответствий, когда инструментальное средство используется для разработки в новой среде.

2 Свидетельство для инструментального средства класса T3 может также использоваться для инструментальных средств класса T2 для оценки правильности их результатов.

7.4.4.7 Результаты подтверждения соответствия инструментальных средств должны быть документально оформлены и содержать:

a) хронологическую запись действий по подтверждению соответствия;

b) версию используемого руководства по инструментальному средству;

c) функции инструментального средства, для которых проводится процедура подтверждения соответствия;

d) используемые инструментальные средства и оборудование;

e) результаты действия по подтверждению соответствия; документально оформленные результаты подтверждения соответствия должны установить, что подтверждено соответствие программного обеспечения или существуют причины для отказа;

f) контрольные примеры и их результаты для последующего анализа;

g) несоответствия между ожидаемыми и фактическими результатами.

7.4.4.8 Если свидетельство соответствия по 7.4.4.6 недоступно, то должны быть предприняты эффективные меры для управления отказами рассматриваемой системы, связанной с безопасностью, которые являются следствием ошибок инструментального средства.

Примечание - Примером такой меры является средство генерации разнообразного избыточного кода, которое позволяет обнаружить и управлять отказами рассматриваемой системы, связанной с безопасностью, которые произошли в ней из-за ошибок транслятора.

7.4.4.9 Должна быть проверена совместимость инструментальных средств в интегрированном комплексе инструментальных средств.

Примечание - Инструментальные средства интегрированы, если они работают совместно так, чтобы выходы одного инструментального средства имели соответствующее содержание и формат для автоматической передачи на вход к следующему инструментальному средству, минимизируя таким образом возможность появления ошибки человека при повторной обработке промежуточных результатов. См. B.3.5 приложения В МЭК 61508-7.

7.4.4.10 В той степени, в которой этого требует уровень полноты безопасности, выбранное представление программного обеспечения или проекта (включая язык программирования) должно:

a) иметь транслятор, оцененный для проверки его пригодности (если необходимо), включая подтверждение соответствия требованиям национальных или международных стандартов;

b) использовать свойства языка, определенные только для него;

c) соответствовать характеристикам применения;

d) обладать свойствами, облегчающими обнаружение ошибок при проектировании или программировании;

e) поддерживать характеристики, соответствующие методу проектирования.

Примечания

1 Языки программирования являются классом программного обеспечения и используются для представлений проекта. Транслятор преобразует программное обеспечение или представление проекта (например, текст или блок-схему) из одного уровня абстракции в другой уровень. Примерами трансляторов являются: инструменты усовершенствования проекта, компиляторы, ассемблеры, компоновщики, редакторы связей, загрузчики и инструменты генерации кода.

2 Оценка транслятора может быть выполнена для конкретного проекта применения или класса применений. В последнем случае вся необходимая информация об инструментальном средстве («спецификация или руководство по инструментальному средству», см. 7.4.4.4), его назначении и надлежащем использовании должна быть доступной пользователю инструментального средства. В таком случае оценка инструментального средства для конкретного проекта может быть сокращена до проверки общей пригодности инструментального средства для проекта и соответствия со «спецификацией или руководством по инструментальному средству» (то есть оценивают правильное использование инструментального средства). Правильное использование инструментального средства может включать в себя дополнительные действия по проверке в рамках конкретного проекта.

3 Для того чтобы оценить пригодность транслятора для выполнения своей цели согласно заданным критериям, которые должны включать в себя функциональные и нефункциональные требования, может использоваться процедура подтверждения соответствия (то есть набор тестовых программ, корректная трансляция которых известна заранее). Основным методом подтверждения соответствия транслятора его функциональным требованиям может быть динамическое тестирование. По возможности должна использоваться автоматическая процедура тестирования.

7.4.4.11 Если требования 7.4.4.10 не могут быть полностью выполнены, то необходимо обосновать пригодность языка для выполнения своей цели, а также использовать любые дополнительные меры, направленные на устранение любых идентифицированных недостатков языка.

7.4.4.12 Языки программирования для разработки всего программного обеспечения, связанного с безопасностью, должны использоваться в соответствии со стандартами составления программ для таких языков.

Примечание - Руководящие указания по использованию стандартов кодирования для программного обеспечения системы безопасности см. в МЭК 61508-7.

7.4.4.13 Стандарты составления программ должны определять правильные методы программирования, запрещать использование небезопасных возможностей языка (например, неопределенных особенностей языка, неструктурированных конструкций и т.п.), упрощать проверку и тестирование и определять процедуры для документирования исходного текста. Документация, относящаяся к исходному тексту, должна содержать по меньшей мере следующую информацию:

a) юридическое лицо [например, компания, автор(ы), и т.д.];

b) описание;

c) входные и выходные данные;

d) историю управления конфигурацией.

7.4.4.14 Если выполняется автоматическая генерация кода или применяется автоматический транслятор, то необходимо провести оценку пригодности автоматического транслятора для разработки системы, связанной с безопасностью, для тех стадий жизненного цикла разработки, на которых применяют инструментальные средства поддержки разработки.

7.4.4.15 Если инструментальные средства поддержки классов T2 и T3, работающие в автономном режиме, генерируют элементы для базовой конфигурации, то управление конфигурацией должно гарантировать, чтобы информация об инструментальных средствах была записана в базовой конфигурации. В частности, информация об инструментальных средствах должна включать в себя:

a) идентификацию инструментального средства и его версии;

b) идентификацию элементов базовой конфигурации, для которых использовалась данная версия инструментального средства;

c) последовательность использования инструментального средства (включая параметры инструментального средства, опции и выбранные сценарии) для каждого базового элемента конфигурации.

Примечание - Цель настоящего подпункта состоит в том, чтобы позволить реконструировать базовую конфигурацию.

7.4.4.16 Управление конфигурацией должно гарантировать, что для инструментальных средств в классах Т2 и Т3 используются только квалифицированные версии.

7.4.4.17 Управление конфигурацией должно гарантировать, что используются только инструментальные средства, совместимые друг с другом и с системой, связанной с безопасностью.

Примечание - Аппаратные средства системы, связанной с безопасностью, могут также наложить ограничения на совместимость программного обеспечения инструментальных средств, например, эмулятор процессора должен быть точной моделью реальной электроники процессора.

7.4.4.18 Каждая новая версия инструментального средства поддержки, работающего в автономном режиме, должна быть квалифицирована. Эта квалификация может опираться на доказательства, представленные для более ранней версии, при наличии достаточных доказательств, при условии, что:

a) функциональные различия (при наличии) не будут влиять на совместимость инструментального средства с остальной частью набора инструментальных средств и

b) новая версия вряд ли будет содержать принципиально новые, неизвестные отказы.

Примечание - Доказательство того, что новая версия вряд ли будет содержать принципиально новые, неизвестные отказы, может быть основано на ясной идентификации выполненных изменений, анализе действий по проверке и подтверждению соответствия, выполняемых для новой версии, и любом существующем опыте работы других пользователей с новой версией.

7.4.4.19 В зависимости от характера разработки программного обеспечения ответственность за соответствие требованиям 7.4.4 может лежать на нескольких сторонах. Распределение ответственности должно быть документально оформлено во время планирования системы безопасности (см. раздел 6 МЭК 61508-1).

7.4.5 Требования к детальному проектированию и разработке - проектирование системы программного обеспечения

Примечания

1 Под детальным проектированием понимается разделение основных элементов архитектуры на систему программных модулей, проектирование отдельных программных модулей и их программирование. В небольших приложениях проектирование программных систем и архитектуры может быть объединено.

2 Характер детального проектирования и разработки может изменяться в зависимости от характера процессов разработки программ и архитектуры программного обеспечения (см. 7.4.3). Если прикладное программирование выполняется, например, с помощью языков многозвенных логических схем и функциональных блоков, то детальное проектирование может рассматриваться скорее как конфигурирование, чем как программирование. Тем не менее, правильный стиль программирования состоит в структурировании программного обеспечения, включая организацию модульной структуры, которая выделяет (насколько это возможно) блоки, связанные с безопасностью; в использовании проверок на попадание в интервал допустимых значений и других возможностей защиты от ошибок при вводе исходных данных; в использовании ранее верифицированных программных модулей; в применении проектных решений, которые облегчают выполнение будущих модификаций программного обеспечения.

3 При выборе соответствующих методов и средств (см. приложения А и В настоящего стандарта) для выполнения требований настоящего пункта должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении C настоящего стандарта и неформальные описания методов и средств в приложении F МЭК 61508-7) проектирования и разработки:

- полнота спецификации требований к программному обеспечению системы безопасности;

- корректность спецификации требований к программному обеспечению системы безопасности;

- отсутствие собственных ошибок проекта;

- простота и ясность;

- предсказуемость поведения;

- поддающийся проверке и тестированию проект;

- отказоустойчивость/обнаружение неисправностей;

- отсутствие отказов по общей причине.

7.4.5.1 В зависимости от характера разработки программного обеспечения ответственность за соответствие требованиям 7.4.4 может лежать на нескольких сторонах. Распределение ответственности должно быть документально оформлено во время планирования системы безопасности (см. раздел 6 МЭК 61508-1).

7.4.5.2 До начала детального проектирования должна быть подготовлена следующая информация: спецификация требований к Э/Э/ПЭ системе, связанной с безопасностью, описание проекта архитектуры программного обеспечения, план подтверждения соответствия аспектов программного обеспечения системы безопасности.

7.4.5.3 Программное обеспечение следует разрабатывать так, чтобы достигалась модульность, тестируемость и способность к модификации системы безопасности.

7.4.5.4 Дальнейшее уточнение проекта для каждого главного элемента/подсистемы в описании проекта архитектуры программного обеспечения должно основываться на декомпозиции системы на программные модули (то есть на спецификации проекта программной системы). Необходимо специфицировать проект каждого программного модуля и проверки этих модулей.

Примечания

1 Об уже существующих элементах программного обеспечения см. 7.4.2.

2 Верификация состоит из тестирования и анализа.

7.4.5.5 Должны быть определены соответствующие проверки интеграции программной системы, показывающие, что программная система соответствует требованиям к программному обеспечению системы безопасности для заданного уровня полноты безопасности.

7.4.6 Требования к реализации исходных текстов программ

Примечание - В соответствии с требуемым уровнем полноты безопасности исходный код должен обладать следующими свойствами (о конкретных методах см. приложения А и В, руководящие указания по интерпретации свойств см. в приложении C к настоящему стандарту):

- быть читаемым, понятным и пригодным к проверке;

- соответствовать специфицированным требованиям к проекту программного модуля (см. 7.4.5);

- соответствовать специфицированным требованиям к стандартам составления программ (см. 7.4.4);

- соответствовать требованиям, определенным при планировании системы безопасности (см. раздел 6).

7.4.6.1 Каждый модуль программного обеспечения должен быть просмотрен. Если код создан с помощью автоматических средств, то он должен соответствовать требованиям 7.4.4. Если исходный код состоит из повторно используемого уже существующего программного обеспечения, то он должен соответствовать требованиям 7.4.2.

Примечание - Просмотр кода относится к процессам верификации (см. 7.9). Просмотр кода может быть выполнен с помощью контроля кода (в порядке увеличения строгости): 1) - человеком; 2) - сквозным контролем программного обеспечения (см. C.5.15 приложения C МЭК 61508-7) или 3) - формальной проверкой (см. C.5.14 приложения C МЭК 61508-7).

7.4.7 Требования к тестированию программных модулей

Примечания

1 Процесс проверки того, что программный модуль корректно выполняет все требования, содержащиеся в спецификации тестирования, относится к процессам верификации (см. 7.9). Сочетание просмотра исходных текстов и тестирования программных модулей дает гарантию того, что программный модуль соответствует требованиям своей спецификации, то есть верифицирует модуль.

2 При выборе соответствующих методов и средств (см. приложения А и В настоящего стандарта) для выполнения требований настоящего пункта должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С настоящего стандарта и неформальные описания методов и средств в приложении F МЭК 61508-7) тестирования программных модулей:

- полнота тестирования в соответствии со спецификацией проекта программного обеспечения;

- корректность тестирования в соответствии со спецификацией проекта программного обеспечения (успешное выполнение);

- воспроизводимость;

- точно определенная конфигурация тестирования.

7.4.7.1 Каждый программный модуль должен быть протестирован в соответствии со спецификацией, разработанной при проектировании программного обеспечения (см. 7.4.5).

Примечание - Верификация состоит из тестирования и анализа.

7.4.7.2 Эти проверки должны продемонстрировать, что каждый программный модуль выполняет функции, для которых он предназначен, и не выполняет функций, которые не были для него предусмотрены.

Примечания

1 Сказанное выше не означает тестирования всех комбинаций входных и выходных данных. Достаточным может быть тестирование всех классов эквивалентности или структурное тестирование. Анализ граничных значений или потоков управления может сократить число проверок до приемлемого уровня. Программы, пригодные для анализа, могут помочь в достижении более быстрого выполнения требований. Перечисленные методы см. в приложении C МЭК 61508-7.

2 Если при разработке используют формальные методы, формальные доказательства или операторы проверки условий, то область применения подобных проверок может быть уменьшена. Перечисленные методы см. в приложении C МЭК 61508-7.

3 Хотя систематическая полнота безопасности обычно количественно не определяется (см. пункт 3.5.6 МЭК 61508-4), определенные количественно статистические данные (например, статистическое тестирование, повышение надежности) являются приемлемыми, если удовлетворены все соответствующие условия для статистически достоверного доказательства. Например, см. приложение D МЭК 61508-7.

4 Если модуль настолько прост, что для него реально провести исчерпывающий тест, то это может быть самым эффективным способом демонстрации соответствия.

7.4.7.3 Результаты тестирования программных модулей должны быть документально оформлены.

7.4.7.4 Должны быть определены процедуры для коррекции при непрохождении теста.

7.4.8 Требования к тестированию интеграции программного обеспечения

Примечание - Проверка того, что интеграция программного обеспечения является корректной, относится к процессам верификации (см. 7.9).

7.4.8.1 Проверки интеграции программного обеспечения должны разрабатываться на этапе проектирования и разработки (см. 7.4.5).

7.4.8.2 Проверки интеграции системы программного обеспечения должны определять:

a) разделение программного обеспечения на контролируемые интегрируемые подмножества;

b) контрольные примеры и контрольные данные;

c) типы проверок, которые должны быть проведены;

d) условия тестирования, используемые инструменты, конфигурацию и программы;

e) условия, при которых проверка считается выполненной, и

f) процедуры, которые необходимо выполнить, если проверка дала отрицательный результат.

7.4.8.3 Программное обеспечение должно быть проверено в соответствии с тестами интеграции программ, определенными в спецификации тестирования интеграции системы программного обеспечения. Эти тесты должны продемонстрировать, что все программные модули и программные элементы/подсистемы корректно взаимодействуют для выполнения функций, для которых они предназначены, и не выполняют непредусмотренных функций.

Примечания

1 Сказанное выше не означает тестирования всех комбинаций входных и выходных данных. Достаточным может быть тестирование всех классов эквивалентности или структурное тестирование. Анализ граничных значений или потоков управления может сократить число проверок до приемлемого уровня. Программы, пригодные для анализа, могут помочь в достижении более быстрого выполнения требований. Перечисленные методы см. в приложении C МЭК 61508-7.

2 Если при разработке используют формальные методы, формальные доказательства или операторы проверки условий, то область применения подобных проверок может быть уменьшена. Перечисленные методы см. в приложении C МЭК 61508-7.

3 Хотя систематическая полнота безопасности обычно количественно не определяется (см. пункт 3.5.6 МЭК 61508-4), определенные количественно статистические данные (например, статистическое тестирование, повышение надежности) являются приемлемыми, если удовлетворены все соответствующие условия для статистически достоверного доказательства. Например, см. приложение D МЭК 61508-7.

7.4.8.4 Результаты проверки интеграции программного обеспечения должны быть документально оформлены; в документации должны быть сформулированы результаты проверки и должно быть указано, были ли выполнены цели и критерии проверки. Если тестирование окончилось неудачно, должны быть описаны причины.

7.4.8.5 При интеграции программного обеспечения все модификации должны быть объектом анализа влияния, который должен определить, какие программные модули затрагиваются изменениями, и установить необходимость повторной верификации и проектирования.

7.5 Интеграция программируемой электроники (аппаратных средств и программного обеспечения)

Примечание - Эта стадия представлена на рисунке 4 (см. Блок 10.4).

7.5.1 Цели

7.5.1.1 Первой целью требований настоящего подраздела является интеграция программного обеспечения с используемой программируемой электронной аппаратурой.

7.5.1.2 Второй целью требований настоящего подраздела является объединение программного обеспечения и аппаратных средств в программируемый электронный комплекс, связанный с безопасностью, проверка их совместимости и выполнения требований назначенного уровня полноты безопасности.

Примечания

1 Проверка корректности интеграции программного обеспечения с аппаратными средствами программируемой электроники относится к процессам верификации (см. 7.9).

2 В зависимости от характера применения эти проверки могут быть объединены с проверками по 7.4.8.

7.5.2 Требования

Примечание - При выборе соответствующих методов и средств (см. приложения А и В настоящего стандарта) для выполнения требований настоящего пункта должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С настоящего стандарта и неформальные описания методов и средств в приложении F МЭК 61508-7) интеграции:

- полнота интеграции в соответствии со спецификациями проекта;

- корректность интеграции в соответствии со спецификациями проекта (успешное выполнение);

- воспроизводимость;

- точно определенная конфигурация интеграции.

7.5.2.1 Проверки интеграции должны быть определены на этапе проектирования и разработки (см. 7.4.3), их целью является проверка совместимости программного обеспечения и аппаратных средств в программируемом электронном устройстве, связанном с безопасностью.

Примечание - При разработке проверок интеграции может потребоваться тесная кооперация с разработчиком Э/Э/ПЭ системы.

7.5.2.2 Спецификация тестов интеграции для программируемой электроники (аппаратных средств и программного обеспечения) должна определять:

a) разбиение системы на уровни интеграции;

b) тестовые примеры и тестовые данные;

c) типы выполняемых проверок;

d) условия тестирования, включая инструменты, программы поддержки и описание конфигурации;

e) условия, при которых проверка считается выполненной.

7.5.2.3 Тесты интеграции программируемой электроники (аппаратных средств и программного обеспечения) должны различать операции, выполняемые разработчиком на его оборудовании, и операции, требующие доступа к пользовательскому оборудованию.

7.5.2.4 Тесты интеграции программируемой электроники (аппаратных средств и программного обеспечения) должны различать следующие процессы:

а) включение программного обеспечения в целевое программируемое электронное оборудование;

b) интеграцию Э/Э/ПЭ систем, т.е. добавление интерфейсов, таких как датчики и исполнительные устройства;

c) полную интеграцию УО и Э/Э/ПЭ системы, связанной с безопасностью.

Примечание - Процессы по перечислениям b) и c) рассматриваются в МЭК 61508-1 и МЭК 61508-2.

7.5.2.5 Программное обеспечение должно быть интегрировано с программируемой электронной аппаратурой, связанной с безопасностью, в соответствии со специфицированными тестами интеграции для программируемой электроники (аппаратных средств и программного обеспечения).

7.5.2.6 При тестировании интеграции программируемой электроники, связанной с безопасностью (аппаратных средств и программного обеспечения), все изменения в интегрированной системе должны стать объектом анализа влияния, который должен определить, какие программные модули затрагиваются изменениями, и установить необходимость повторной верификации.

7.5.2.7 Тестовые примеры и результаты их выполнения должны быть документально оформлены для последующего анализа.

7.5.2.8 Результаты проверки интеграции программируемой электроники (аппаратных средств и программного обеспечения) должны быть документально оформлены, в документации должны быть сформулированы результаты проверки, а также указано, были ли выполнены цели и критерии проверки. Если тестирование окончилось неудачно, должны быть описаны причины неудачи. Все модификации или изменения, являющиеся результатом тестирования, должны быть объектом анализа влияния, который должен определить, какие программные элементы/модули затрагиваются изменениями, и установить необходимость повторной верификации и проектирования.

7.6 Процедуры эксплуатации и модификации программного обеспечения

Примечание - Эта стадия представлена на рисунке 4 (см. Блок 10.5).

7.6.1 Цели

Целью требований настоящего подраздела является представление информации и процедур, касающихся программного обеспечения, необходимых, чтобы убедиться в том, что функциональная безопасность Э/Э/ПЭ, связанной с безопасностью системы, сохраняется при эксплуатации и модификациях.

7.6.2 Требования

Требования приведены в подразделе 7.6 МЭК 61508-2 и 7.8 настоящего стандарта.

Примечание - В настоящем стандарте программное обеспечение (в отличие от аппаратных средств) не может подвергаться техническому обслуживанию, оно всегда модифицируется.

7.7 Подтверждение соответствия аспектов программного обеспечения безопасности системы

Примечания

1 Данная стадия представлена на рисунке 4 (см. Блок 10.6).

2 Обычно подтверждение соответствия программного обеспечения не может проводиться отдельно от его аппаратных средств и системного окружения.

7.7.1 Цели

Целью требований настоящего подраздела является гарантировать соответствие интегрированной системы специфицированным требованиям к программному обеспечению системы безопасности для заданного уровня полноты безопасности.

7.7.2 Требования

Примечание - При выборе соответствующих методов и средств (см. приложения А и В настоящего стандарта) для выполнения требований настоящего подраздела должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С настоящего стандарта и неформальные описания методов и средств в приложении F МЭК 61508-7) подтверждения соответствия безопасности системы:

- полнота подтверждения соответствия в соответствии со спецификацией проекта программного обеспечения;

- корректность подтверждения соответствия в соответствии со спецификацией проекта программного обеспечения (успешное выполнение);

- воспроизводимость;

- подтверждение соответствия точно определенной конфигурации.

7.7.2.1 Если для программного обеспечения, связанного с безопасностью, соответствие с требованиями уже было установлено при планировании подтверждения соответствия безопасности для Э/Э/ПЭ системы, связанной с безопасностью (см. подраздел 7.7 МЭК 61508-2), то проводить повторное подтверждение соответствия не требуется.

7.7.2.2 Операции подтверждения соответствия должны проводиться в соответствии со спецификациями, разработанными при планировании подтверждения соответствия аспектов программного обеспечения безопасности системы.

7.7.2.3 В зависимости от характера разработки программного обеспечения ответственность за соответствие требованиям 7.7 может лежать на нескольких сторонах. Распределение ответственности должно быть документально оформлено во время планирования безопасности системы (см. раздел 6 МЭК 61508-1).

7.7.2.4 Результаты подтверждения соответствия аспектов программного обеспечения безопасности системы должны быть документально оформлены.

7.7.2.5 При проведении подтверждения соответствия программного обеспечения безопасности системы для каждой функции безопасности должны быть документально оформлены следующие результаты:

a) хронологический перечень операций подтверждения соответствия, который позволит восстановить последовательность действий.

Примечание - При записи результатов испытаний важно, чтобы последовательность действий могла быть восстановлена. Главное в этом требовании - восстановить последовательность действий, а не создать упорядоченный по времени/дате список документов;

b) используемая версия плана подтверждения соответствия программного обеспечения безопасности системы (см. 7.3);

c) подтверждаемые функции безопасности (с использованием тестирования или анализа), со ссылками на план подтверждения соответствия аспектов программного обеспечения безопасности системы (см. 7.3);

d) используемые инструменты и оборудование, а также данные калибровки;

e) результаты операций подтверждения соответствия;

f) расхождения между ожидаемыми и фактическими результатами.

7.7.2.6 При наличии расхождений между ожидаемыми и фактическими результатами проводят анализ и принимают решение о продолжении подтверждения соответствия или о подготовке запроса на изменение и возвращении к более ранней стадии жизненного цикла разработки. Это решение должно быть документально оформлено как часть результатов подтверждения соответствия аспектов программного обеспечения безопасности системы.

Примечание - Требования 7.7.2.2 - 7.7.2.5 основываются на общих требованиях подраздела 7.14 МЭК 61508-1.

7.7.2.7 Подтверждение соответствия аспектов связанного с безопасностью программного обеспечения безопасности системы должно соответствовать следующим требованиям:

a) основным методом подтверждения соответствия для программного обеспечения должно быть тестирование; анимацию и моделирование допускается использовать как дополнительные методы;

b) прогон программного обеспечения должен проводиться путем имитации:

- входных сигналов в нормальном режиме работы,

- предполагаемых случаев,

- нежелательных условий, требующих вмешательства системы;

c) поставщик и/или разработчик (либо несколько сторон, ответственных за соответствие) должны предоставить документально оформленные результаты подтверждения соответствия аспектов программного обеспечения безопасности системы и всю имеющую отношение к этой операции документацию в распоряжение разработчика системы, чтобы дать ему возможность выполнить требования МЭК 61508-1 и МЭК 61508-2.

7.7.2.8 Инструментальные средства программного обеспечения должны соответствовать требованиям 7.4.4.

7.7.2.9 К результатам подтверждения соответствия аспектов связанного с безопасностью программного обеспечения безопасности системы предъявляют следующие требования:

a) проверки должны показать, что все заданные требования, предъявляемые к программному обеспечению, связанному с безопасностью (см. 7.2), выполняются правильно и что программная система не выполняет непредусмотренных функций;

b) тестовые примеры и их результаты должны быть документально оформлены для последующего анализа и независимо оценены в соответствии с требованиями уровня полноты безопасности (см. раздел 8 МЭК 61508-1);

c) документально оформленные результаты подтверждения соответствия аспектов программного обеспечения безопасности системы должны содержать либо утверждение о том, что программа получила подтверждение соответствия, либо причины, по которым она его не получила.

7.8 Модификация программного обеспечения

Примечание - Эта стадия представлена на рисунке 4 (см. Блок 10.5).

7.8.1 Цель

Целью требований настоящего подраздела является внесение корректировок, улучшений или изменений в принятое программное обеспечение, гарантирующих сохранение стойкости к систематическим отказам программного обеспечения.

Примечание - В настоящем стандарте программное обеспечение (в отличие от аппаратного обеспечения) не может поддерживаться, оно всегда модифицируется.

7.8.2 Требования

Примечание - При выборе соответствующих методов и средств (см. приложения А и В настоящего стандарта) для выполнения требований настоящего подраздела должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С настоящего стандарта и неформальные описания методов и средств в приложении F МЭК 61508-7) модификации программного обеспечения:

- полнота модификации в соответствии с требованиями модификации;

- корректность модификации в соответствии с требованиями модификации;

- отсутствие собственных ошибок проекта;

- предотвращение нежелательного поведения;

- верифицируемость и тестируемость проекта;

- регрессионное тестирование и охват проверкой.

7.8.2.1 Перед выполнением какой-либо модификации программного обеспечения должны быть подготовлены процедуры модификации (см. подраздел 7.16 МЭК 61508-1).

Примечания

1 Требования 7.8.2.1 - 7.8.2.9 относятся в первую очередь к изменениям, выполняемым на стадии эксплуатации программного обеспечения. Требования 7.8.2.1 - 7.8.2.9 могут также применяться на стадии интеграции программируемой электроники, а также на стадиях установки и ввода в эксплуатацию всей системы безопасности (см. подраздел 7.13 МЭК 61508-1).

2 Пример модели процедуры модификации приведен на рисунке 9 МЭК 61508-1.

7.8.2.2 Процесс модификации может начинаться только после появления запроса на санкционированную модификацию программного обеспечения в рамках процедур, определенных на этапе планирования системы безопасности (см. раздел 6), в котором приведена подробная информация:

a) об опасностях, на которые могут повлиять изменения;

b) о предлагаемых изменениях;

c) о причинах изменений.

Примечание - Причины появления запроса на модификацию могут быть, например, связаны с:

- тем, что функциональная безопасность оказалась ниже той, которая была определена в спецификациях;

- накопленным опытом о систематических отказах;

- появлением нового или изменением действующего законодательства, относящегося к безопасности;

- модификацией управляемого оборудования или способа его использования;

- модификацией общих требований к системе безопасности;

- анализом характеристик эксплуатации и технического обслуживания, который показывает, что эти характеристики имеют значения ниже запланированных;

- текущим аудитом систем функциональной безопасности.

7.8.2.3 Должен быть выполнен анализ влияния предлагаемых модификаций программного обеспечения на функциональную безопасность Э/Э/ПЭ системы, связанной с безопасностью, чтобы определить:

a) необходим ли анализ рисков;

b) какие стадии жизненного цикла программного обеспечения системы безопасности следует повторить.

7.8.2.4 Результаты анализа влияния, полученные в соответствии с 7.8.2.3, должны быть документально оформлены.

7.8.2.5 Все модификации, оказывающие влияние на функциональную безопасность Э/Э/ПЭ системы, связанной с безопасностью, должны приводить к возврату на соответствующую стадию жизненного цикла программного обеспечения системы безопасности. Все последующие стадии должны выполняться в соответствии с процедурами, определенными для конкретных стадий в соответствии с требованиями настоящего стандарта. При планировании системы безопасности (см. раздел 6) должны быть подробно описаны все последующие процессы.

Примечание - Может потребоваться проведение полного анализа рисков и опасностей, в результате которого может появиться потребность в иных уровнях полноты безопасности, чем те, которые определены для функций безопасности, реализуемых Э/Э/ПЭ системами, связанными с безопасностью.

7.8.2.6 Планирование системы безопасности для модификации программного обеспечения, связанного с безопасностью, должно соответствовать требованиям, представленным в разделе 6 МЭК 61508-1, в частности к:

a) идентификации персонала и определению требований к его квалификации;

b) подробной спецификации модификации;

c) планированию верификации;

d) определению области применения процедур повторного подтверждения соответствия и тестирования модификации в той степени, в которой этого требует уровень полноты безопасности.

Примечание - В зависимости от характера применения может быть важным участие экспертов в области данного применения.

7.8.2.7 Модификация должна быть проведена в соответствии с разработанным планом.

7.8.2.8 Все модификации должны быть подробно документированы, включая:

a) запрос на модификацию/корректировку;

b) результаты анализа влияния, которое окажут предлагаемые модификации программного обеспечения на функциональную безопасность, и принятые решения с их обоснованием;

c) сведения об изменениях конфигурации программного обеспечения;

d) отклонения от нормальной работы и нормальных условий работы;

e) документы, которые затрагиваются процессами модификации.

7.8.2.9 Информация о деталях всех проведенных модификаций должна быть документально оформлена. Документация должна включать в себя данные и результаты повторной верификации и повторного подтверждения соответствия.

7.8.2.10 Оценка необходимых модификаций или корректировок должна зависеть от результатов анализа влияния модификаций и стойкости к систематическим отказам программного обеспечения.

7.9 Верификация программного обеспечения

7.9.1 Цель

Целью требований настоящего подраздела является проверка и оценка в соответствии с требуемым уровнем полноты безопасности результатов, полученных на заданной стадии жизненного цикла программного обеспечения системы безопасности, а также гарантия того, что эти результаты являются корректными и соответствуют исходной информации для соответствующей стадии.

Примечания

1 Настоящий подраздел учитывает базовые аспекты верификации, которые являются общими для нескольких стадий жизненного цикла системы безопасности. Настоящий подраздел не предъявляет дополнительных требований к элементам проверки при верификации в 7.4.7 (проверка программных модулей), 7.4.8 (интеграция программного обеспечения) и 7.5 (интеграция программируемой электроники), которые сами по себе представляют процессы верификации. Данный подраздел не требует также дополнительной верификации для процессов подтверждения соответствия программного обеспечения (см. 7.7), так как подтверждение соответствия в настоящем стандарте определяется как демонстрация соответствия спецификации требований к системе безопасности. Проверка того, является ли корректной сама спецификация, проводится специалистами по предметным областям.

2 В зависимости от архитектуры программного обеспечения ответственность за проведение верификации программного обеспечения может быть поделена между всеми организациями, вовлеченными в разработку и модификацию программного обеспечения.

7.9.2 Требования

Примечание - При выборе соответствующих методов и средств (см. приложения А и В настоящего стандарта) для выполнения требований настоящего подраздела должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С настоящего стандарта и неформальные описания методов и средств в приложении F МЭК 61508-7) верификации данных:

- полнота верификации в соответствии с предыдущей стадией;

- корректность верификации в соответствии с предыдущей стадией (успешное выполнение);

- воспроизводимость;

- верификация точно определенной конфигурации.

7.9.2.1 Верификация программного обеспечения для каждой стадии жизненного цикла программного обеспечения системы безопасности должна планироваться (см. 7.4) одновременно с разработкой; вся информация, относящаяся к этому вопросу, должна быть документально оформлена.

7.9.2.2 Планирование верификации программного обеспечения должно касаться критериев, методов и инструментария, используемого при верификации; в ходе его должны быть рассмотрены:

a) оценка требований полноты безопасности;

b) выбор и документирование стратегии, процессов и методов верификации;

c) выбор и использование инструментов верификации (тестовая программа, специальные программные средства для тестирования, имитаторы ввода/вывода и т.п.);

d) оценка результатов верификации;

e) исправления, которые должны быть сделаны.

7.9.2.3 Верификация программного обеспечения должна быть проведена в соответствии с планом.

Примечание - Выбор методов и средств, предназначенных для верификации, а также степень независимости процессов верификации определяются рядом факторов и могут быть определены в стандартах для прикладных отраслей. К числу таких факторов относятся, например:

- размер проекта;

- степень сложности;

- степень новизны проекта;

- степень новизны технологии.

7.9.2.4 Должны быть документально оформлены свидетельства того, что верифицируемая стадия завершена удовлетворительно во всех отношениях.

7.9.2.5 Документация, составляемая после каждой верификации, должна включать в себя:

a) идентификацию параметров, подлежащих верификации;

b) идентификацию информации, необходимой для выполнения верификации.

Примечание - Информация, необходимая для проведения верификации, включает в себя (но не ограничивается): входную информацию, полученную от предыдущей стадии жизненного цикла, стандарты проектирования, стандарты кодирования и используемые инструментальные средства;

c) перечень несоответствий.

Примечание - Например, несоответствия возможны в программных модулях, структурах данных и алгоритмах, плохо адаптированных к задаче.

7.9.2.6 Вся существенная информация, относящаяся к стадии N жизненного цикла программного обеспечения системы безопасности, необходимая для правильного выполнения следующей стадии N+1, должна быть доступна и верифицирована. К выходной информации стадии N относятся:

a) информация об адекватности спецификации, описания проекта либо исходного текста программ, разработанных в ходе стадии N:

- функциональности,

- полноте безопасности, характеристикам и другим требованиям планирования системы безопасности (см. раздел 6),

- требованию понятности для коллектива разработчиков,

- тестируемости для дальнейшей верификации,

- безопасной модификации, допускающей дальнейшее развитие;

b) информация об адекватности планирования подтверждения соответствия и/или тестов, определенных для стадии N, определению и описанию проекта стадии N;

c) результаты проверки несовместимости между:

- тестами, определенными для стадии N, и тестами, определенными для предыдущей стадии N-1,

- выходными данными стадии N.

7.9.2.7 В соответствии с выбором жизненного цикла разработки программного обеспечения (см. подраздел 7.1) должны быть выполнены:

a) верификация требований к программному обеспечению системы безопасности;

b) верификация архитектуры программного обеспечения;

c) верификация проекта системы программного обеспечения;

d) верификация проектов программных модулей;

e) верификация исходных текстов программ;

f) верификация данных;

g) тестирование программных модулей (см. 7.4.7);

h) тестирование интеграции программного обеспечения (см. 7.4.8);

i) тестирование интеграции программируемой электроники (см. 7.5);

j) подтверждение соответствия аспектов программного обеспечения системы безопасности (см. 7.7).

Примечание - Требования по перечислениям a) - g) представлены ниже.

7.9.2.8 Верификация требований к программному обеспечению системы безопасности: после определения требований к программному обеспечению системы безопасности и перед началом следующей стадии проектирования и разработки программного обеспечения, верификация должна проверять:

a) соответствует ли спецификация требований к программному обеспечению системы безопасности спецификации требований к Э/Э/ПЭ системе безопасности (см. подразделы 7.10 МЭК 61508-1 и 7.2 МЭК 61508-2) в отношении функциональности, полноты безопасности, характеристик и других требований к планированию системы безопасности;

b) соответствует ли план подтверждения соответствия аспектов программного обеспечения безопасности системы спецификации требований к программному обеспечению системы безопасности;

c) наличие несовместимости между:

1) спецификацией требований к программному обеспечению системы безопасности и спецификацией требований к Э/Э/ПЭ системе безопасности (см. подразделы 7.10 МЭК 61508-1 и 7.2 МЭК 61508-2);

2) спецификацией требований к программному обеспечению системы безопасности и планом подтверждения соответствия аспектов программного обеспечения безопасности системы.

7.9.2.9 Верификация архитектуры программного обеспечения: после того как выполнен проект архитектуры программного обеспечения, верификация должна проверить:

a) соответствует ли проект архитектуры программного обеспечения спецификации требований к программному обеспечению системы безопасности;

b) адекватны ли проверки интеграции, специфицированные в проекте архитектуры программного обеспечения;

c) адекватность атрибутов каждого основного элемента/подсистемы по отношению к:

1) реализуемости требуемых характеристик системы безопасности,

2) возможности проверки при последующей верификации,

3) пониманию персоналом, выполняющим разработку и верификацию,

4) модификации системы безопасности, позволяющей выполнять дальнейшее развитие программы;

d) наличие несовместимости между:

1) описанием проекта архитектуры программного обеспечения и спецификацией требований к программному обеспечению системы безопасности,

2) описанием проекта архитектуры программного обеспечения и специфицированными тестами интеграции архитектуры программного обеспечения,

3) специфицированными тестами интеграции проекта архитектуры программного обеспечения и планом подтверждения соответствия аспектов программного обеспечения безопасности системы.

7.9.2.10 Верификация проекта системы программного обеспечения: после завершения проектирования системы программного обеспечения верификация должна проверить:

a) соответствует ли проект системы программного обеспечения (см. 7.4.5) проекту архитектуры программного обеспечения;

b) соответствуют ли специфицированные тесты интеграции системы программного обеспечения (см. 7.4.5) проекту системы программного обеспечения (см. 7.4.5);

c) адекватность спецификации атрибутов каждого основного элемента проекта системы программного обеспечения (см. 7.4.5) по отношению к:

1) реализуемости требуемых характеристик системы безопасности,

2) возможности проверки при последующей верификации,

3) пониманию персоналом, выполняющим разработку и верификацию,

4) модификации системы безопасности, позволяющей выполнять дальнейшее развитие программы.

Примечание - Проверки интеграции системы программного обеспечения могут быть определены как часть проверок интеграции архитектуры программного обеспечения;

d) наличие несовместимости между:

1) спецификацией проекта системы программного обеспечения (см. 7.4.5) и описанием проекта архитектуры программного обеспечения;

2) спецификацией проекта системы программного обеспечения (см. 7.4.5) и спецификацией тестов интеграции системы программного обеспечения (см. 7.4.5);

3) тестами, заданными спецификацией тестов интеграции системы программного обеспечения (см. 7.4.5), и спецификацией тестов интеграции архитектуры программного обеспечения (см. 7.4.3).

7.9.2.11 Верификация проекта модулей программного обеспечения: после того как выполнен проект каждого программного модуля, верификация должна проверить:

a) соответствует ли спецификация проекта программного модуля (см. 7.4.5) спецификации проекта системы программного обеспечения (см. 7.4.5);

b) адекватна ли спецификация проверок каждого программного модуля (см. 7.4.5) спецификации проекта программного модуля (см. 7.4.5);

c) адекватность атрибутов каждого программного модуля по отношению к:

1) реализуемости требуемых характеристик системы безопасности (см. спецификацию требований к программному обеспечению системы безопасности),

2) возможности проверки при последующей верификации,

3) пониманию персоналом, выполняющим разработку и верификацию,

4) модификации системы безопасности, позволяющей выполнять дальнейшее развитие программы;

d) наличие несовместимости между:

1) спецификацией проекта программного модуля (см. 7.4.5) и спецификацией проекта системы программного обеспечения (см. 7.4.5),

2) спецификацией проекта каждого программного модуля (см. 7.4.5) и спецификацией проверок этого программного модуля (см. 7.4.5),

3) спецификацией проверок программных модулей (см. 7.4.5) и спецификацией проверок интеграции системы программного обеспечения (см. 7.4.5).

7.9.2.12 Верификация исходного текста: исходный текст должен быть верифицирован статическими методами для того, чтобы гарантировать соответствие спецификации проекта программных модулей (см. 7.4.5), необходимым стандартам кодирования (см. 7.4.4) и плану подтверждения соответствия аспектов программного обеспечения безопасности системы.

Примечание - На ранних стадиях жизненного цикла программного обеспечения системы безопасности верификация является статической (например, изучение, просмотр, формальная проверка и т.п.). При верификации исходного текста используют такие методы, как просмотр и прогон программного обеспечения. Сочетание результатов верификации исходных текстов и проверок программного обеспечения гарантирует, что каждый программный модуль будет соответствовать своей спецификации. С этого момента тестирование становится основным средством проверки.

7.9.2.13 Верификация данных:

a) Структуры данных должны быть проверены.

b) Прикладные данные должны быть проверены на:

1) соответствие структурам данных;

2) полноту по отношении к требованиям применения;

3) совместимость с системным программным обеспечением (например, для организации последовательности, управления во время выполнения и др.) и

4) правильность значений данных.

c) Все эксплуатационные параметры должны быть проверены по отношению к требованиям применения.

d) Все промышленные интерфейсы и соответствующее программное обеспечение [датчики и исполнительные устройства, а также автономные интерфейсы (см. 7.2.2.12)] должны быть проверены на:

1) выявление предполагаемых отказов интерфейса,

2) устойчивость по отношению к предполагаемым отказам интерфейса.

e) Все коммуникационные интерфейсы и соответствующее программное обеспечение должны быть проверены на наличие адекватного уровня:

1) обнаружения ошибок;

2) защиты от повреждения;

3) подтверждения соответствия данных.

7.9.2.14 Верификация временны́х характеристик: должна быть проверена предсказуемость поведения во времени.

Примечание - Поведение во времени может определяться: производительностью средств, наличием ресурсов, временем реакции, временем выполнения в наихудшем случае, случаями переполнения памяти, случайными зависаниями, временем работы системы.

8 Оценка функциональной безопасности

Примечание - При выборе соответствующих методов и средств (см. приложения А и В настоящего стандарта) для выполнения требований настоящего раздела должны быть рассмотрены следующие свойства (см. руководство по интерпретации свойств в приложении С настоящего стандарта и неформальные описания методов и средств в приложении F МЭК 61508-7) оценки функциональной безопасности:

- полнота оценки функциональной безопасности в соответствии с требованиями настоящего стандарта;

- корректность оценки функциональной безопасности в соответствии с проектными спецификациями (успешное завершение);

- доступное для анализа решение всех выявленных проблем;

- возможность модификации оценки функциональной безопасности после изменения проекта без необходимости проведения серьезной переработки оценки;

- воспроизводимость;

- своевременность;

- точно определенная конфигурация.

8.1 Цели и требования раздела 8 МЭК 61508-1 относятся к оценке программного обеспечения, связанного с безопасностью.

8.2 Если иное не оговорено в стандартах на область применения, то минимальный уровень независимости для лиц, выполняющих оценку функциональной безопасности, должен быть определен по разделу 8 МЭК 61508-1.

8.3 Оценка функциональной безопасности может использовать результаты процессов, приведенных в таблице A.10 (приложение A).

Примечание - Выбор методов, приведенных в приложениях A и B, не гарантирует, что будет достигнута необходимая полнота безопасности (см. 7.1.2.7). Лицо, проводящее оценку, должно также рассмотреть:

- совместимость и взаимное дополнение выбранных методов, языков и инструментальных средств для всего цикла разработки;

- полностью ли разработчики понимают методы, языки и инструментальные средства, которые они используют;

- насколько хорошо адаптированы методы, языки и инструментальные средства к конкретным проблемам, с которыми приходится сталкиваться при разработке.

Приложение A
(обязательное)
Руководство по выбору методов и средств

Некоторые из подразделов настоящего стандарта имеют ассоциированные с ними таблицы, например подраздел 7.2 (спецификация требований к программному обеспечению системы безопасности) связан с таблицей A.1. Более подробные таблицы, содержащиеся в приложении B, раскрывают содержание некоторых элементов таблиц приложения A, например, таблица B.2 раскрывает содержание динамического анализа и тестирования из таблицы A.5.

Обзор методов и средств, упоминаемых в приложениях A и B, приведен в МЭК 61508-7. Для каждого из них приведены рекомендации по уровню полноты безопасности, изменяющемуся от 1 до 4. Эти рекомендации обозначаются следующим образом:

HR	Настоятельно рекомендуется применять этот метод или средство для данного уровня полноты безопасности. Если метод или средство не используется, то на этапе планирования системы безопасности этому должно быть дано подробное объяснение со ссылкой на приложение C, и это объяснение должно быть согласовано с экспертом
R	Метод или средство рекомендуется применять для данного уровня полноты безопасности, но степень обязательности рекомендации ниже, чем в случае рекомендации HR
-	Для данного метода или средства рекомендации ни за, ни против не приводятся
NR	Данный метод или средство не рекомендуется для этого уровня полноты безопасности. Если данный метод или средство применяют, то на стадии планирования системы безопасности этому должно быть дано подробное обоснование со ссылкой на приложение C, которое следует согласовать с экспертом

Методы и средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы и средства обозначают буквой, следующей за номером. Следует применять только один из альтернативных или эквивалентных методов/средств.

Могут применяться другие методы и средства при условии, что они соответствуют требованиям и целям стадии разработки программного обеспечения. Руководящие указания по выбору методов см. в приложении C.

Ранжирование методов и средств связано с концепцией эффективности, используемой в МЭК 61508-2. При прочих равных условиях методы, имеющие ранг HR, будут более эффективны в предотвращении внесения систематических ошибок при разработке программного обеспечения либо (при разработке архитектуры программ) при выявлении ошибок, оставшихся необнаруженными на стадии выполнения, по сравнению с методами, имеющими ранг R.

При большом числе факторов, влияющих на стойкость к систематическим отказам программного обеспечения, невозможно дать алгоритм, определяющий такую комбинацию методов и средств, которая была бы корректной для любого заданного применения. Тем не менее в приложении С приведено руководство по выбору конкретных методов для достижения стойкости к систематическим отказам программного обеспечения.

В случае конкретного применения соответствующая комбинация методов или средств должна быть сформулирована при планировании системы безопасности, при этом методы и средства должны применяться, если примечания к таблице не содержат иных требований.

Предварительное руководство в виде двух рабочих примеров по интерпретации таблиц приведено в [6].

Таблица A.1 - Спецификация требований к программному обеспечению системы безопасности (см. 7.2)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1а Полуформальные методы	Таблица B.7	R	R	HR	HR
1b Формальные методы	B.2.2, C.2.4	-	R	R	HR
2 Прямая прослеживаемость между требованиями к системе безопасности и требованиями к программному обеспечению системы безопасности	C.2.11	R	R	HR	HR
3 Обратная прослеживаемость между требованиями к системе безопасности и предполагаемыми потребностями безопасности	C.2.11	R	R	HR	HR
4 Компьютерные средства разработки спецификаций для поддержки перечисленных выше подходящих методов/средств	B.2.4	R	R	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует применять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 Спецификация требований к программному обеспечению системы безопасности всегда будет требовать описания задачи на естественном языке и использования необходимой системы математических обозначений, отражающих содержание приложения. 2 Таблица отражает дополнительные требования для ясного и точного определения требований к программному обеспечению системы безопасности. 3 См. таблицу C.1. 4 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенные в приложениях B и C [5].

Таблица A.2 - Проектирование и разработка программного обеспечения: проектирование архитектуры программного обеспечения (см. 7.4.3)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Обнаружение ошибок	C.3.1	-	R	HR	HR
2 Коды обнаружения ошибок	C.3.2	R	R	R	HR
3а Программирование с проверкой ошибок	C.3.3	R	R	R	HR
3b Методы контроля (при реализации процесса контроля и контролируемой функции на одном компьютере обеспечивается их независимость)	C.3.4	-	R	R	-
3c Методы контроля (реализация процесса контроля и контролируемой функции на разных компьютерах)	C.3.4	-	R	R	HR
3d Многовариантное программирование, реализующее одну спецификацию требований к программному обеспечению системы безопасности	C.3.5	-	-	-	R
3e Функционально многовариантное программирование, реализующее различные спецификации требований к программному обеспечению системы безопасности	C.3.5	-	-	R	HR
3f Восстановление предыдущего состояния	C.3.6	R	R	-	HR
3g Проектирование программного обеспечения, не сохраняющего состояние (или проектирование ПО, сохраняющего ограниченное описание состояния)	C.2.12	-	-	R	HR
4a Механизмы повторных попыток парирования сбоя	C.3.7	R	R	-	-
4b Постепенное отключение функций	C.3.8	R	R	HR	HR
5 Исправление ошибок методами искусственного интеллекта	C.3.9	-	NR	NR	NR
6 Динамическая реконфигурация	C.3.10	-	NR	NR	NR
7 Модульный подход	Таблица B.9	HR	HR	HR	HR
8 Использование доверительных/проверенных элементов программного обеспечения (при наличии)	C.2.10	R	HR	HR	HR
9 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и архитектурой программного обеспечения	C.2.11	R	R	HR	HR
10 Обратная прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и архитектурой программного обеспечения	C.2.11	R	R	HR	HR
11a Методы структурных диаграмм2)	C.2.1	HR	HR	HR	HR
11b Полуформальные методы2)	Таблица B.7	R	R	HR	HR
11c Формальные методы проектирования и усовершенствования2)	B.2.2, C.2.4	-	R	R	HR
11d Автоматическая генерация программного обеспечения	C.4.6	R	R	R	R
12 Автоматизированные средства разработки спецификаций и проектирования	B.2.4	R	R	HR	HR
13a Циклическое поведение с гарантированным максимальным временем цикла	C.3.11	R	HR	HR	HR
13b Архитектура с временны́м распределением	C.3.11	R	HR	HR	HR
13c Управление событиями с гарантированным максимальным временем реакции	C.3.11	R	HR	HR	-
14 Статическое выделение ресурсов	C.2.6.3	-	R	HR	HR
15 Статическая синхронизация доступа к разделяемым ресурсам	C.2.6.3	-	-	R	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует применять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. 2) Из группы 11 «Структурированные методы» следует применять метод 11a, только если метод 11b не подходит для предметной области с УПБ3 + УПБ4. Примечания 1 Некоторые методы в таблице A.2 посвящены концепциям проектирования, другие тому, как проект представляется. 2 Приведенные в настоящей таблице средства, касающиеся устойчивости к ошибкам (контроль ошибок), должны рассматриваться совместно с требованиями по МЭК 61508-2 к архитектуре и контролю ошибок для аппаратных средств программируемых электронных устройств. 3 См. таблицу C.2. 4 Группа методов 13a - 13c применяется только к системам и программному обеспечению с требованиями к синхронизации системы безопасности. 5 Метод 14: использование динамических объектов (например, при работе со стеком или с неупорядоченным массивом) может наложить требования на доступную память и время выполнения. Метод 14 не должен быть применен, если используется компилятор, который гарантирует, что: a) перед выполнением будет выделено достаточно памяти для всех динамических переменных и объектов или в случае ошибки при выделении памяти будет достигнуто безопасное состояние; b) время отклика соответствует заданным требованиям. 6 Метод 4a: устранение неисправностей с помощью повторных попыток часто подходит при любом УПБ, но должен быть установлен предел для числа повторений. 7 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.3 - Проектирование и разработка программного обеспечения: инструментальные средства поддержки и языки программирования (см. 7.4.4)

Метод/средство1)	Ссыпка	УПБ1	УПБ2	УПБ3	УПБ4
1 Выбор соответствующего языка программирования	C.4.5	HR	HR	HR	HR
2 Строго типизированные языки программирования	C.4.1	HR	HR	HR	HR
3 Подмножество языка	C.4.2	-	-	HR	HR
4a Сертифицированные средства и сертифицированные трансляторы	C.4.3	R	HR	HR	HR
4b Инструментальные средства, заслуживающие доверия на основании опыта использования	C.4.4	HR	HR	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует выполнять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 См. таблицу C.3. 2 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» вв второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.4 - Проектирование и разработка программного обеспечения: детальное проектирование (см. 7.4.5 и 7.4.6) (включает в себя проектирование системы программного обеспечения, проектирование модуля программного обеспечения и кодирование)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1a Методы структурных диаграмм2)	C.2.1	HR	HR	HR	HR
1b Полуформальные методы2)	Таблица B.7	R	R	HR	HR
1c Формальные методы проектирования и усовершенствования2)	B.2.2, C.2.4	-	R	R	HR
2 Средства автоматизированного проектирования	B.3.5	R	R	HR	HR
3 Программирование с защитой	C.2.5	-	R	HR	HR
4 Модульный подход	Таблица B.9	HR	HR	HR	HR
5 Стандарты для проектирования и кодирования	C.2.6, таблица B.1	R	HR	HR	HR
6 Структурное программирование	C.2.7	HR	HR	HR	HR
7 Использование доверительных/проверенных программных модулей и компонентов (по возможности)	C.2.10	R	HR	HR	HR
8 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и проектом программного обеспечения	C.2.11	R	R	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует выполнять только один из альтернативных или эквивалентных методов/средств. 2) Из группы 1 «Структурированные методы» следует использовать метод 1а, только если метод 1b не подходит для предметной области с УПБ3 и УПБ4. Примечания 1 См. таблицу C.4. 2 Все еще обсуждается пригодность разработки объектно-ориентированного программного обеспечения для систем, связанных с безопасностью. Руководящие указания по использованию объектно-ориентированного подхода при разработке архитектуры и в проектировании см. приложение G МЭК 61508-7. 3 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.5 - Проектирование и разработка программного обеспечения: тестирование и интеграция программных модулей (см. 7.4.7 и 7.4.8)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Вероятностное тестирование	C.5.1	-	R	R	HR
2 Динамический анализ и тестирование	B.6.5, таблица B.2	R	HR	HR	HR
3 Регистрация и анализ данных	C.5.2	HR	HR	HR	HR
4 Функциональное тестирование и тестирование методом «черного ящика»	B.5.1, B.5.2, таблица B.3	HR	HR	HR	HR
5 Тестирование рабочих характеристик	Таблица B.6	R	R	HR	HR
6 Тестирование, основанное на модели	C.5.27	R	R	HR	HR
7 Тестирование интерфейса	C.5.3	R	R	HR	HR
8 Управление тестированием и средства автоматизации	C.4.7	R	HR	HR	HR
9 Прямая прослеживаемость между спецификацией проекта программного обеспечения и спецификациями тестирования модуля и интеграции	C.2.11	R	R	HR	HR
10 Формальная верификация	C.5.12	-	-	R	R
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Примечания 1 Тестирование программных модулей и интеграции относится к процессам верификации (см. таблицу A.9). 2 См. таблицу C.5. 3 Формальная проверка может уменьшить размер и объем занимаемой памяти модуля, поэтому необходимо тестирование интеграции. 4 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.6 - Интеграция программируемых электронных устройств (программное обеспечение и аппаратные средства) (см. 7.5)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Функциональное тестирование и тестирование методом «черного ящика»	B.5.1, B.5.2, таблица B.3	HR	HR	HR	HR
2 Тестирование рабочих характеристик	Таблица B.6	R	R	HR	HR
3 Прямая прослеживаемость между требованиями проекта системы и программного обеспечения к интеграции программных и аппаратных средств и спецификациями тестирования интеграции программных и аппаратных средств	C.2.11	R	R	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Примечания 1 Интеграция программируемых электронных устройств относится к процессам верификации (см. таблицу A.9). 2 См. таблицу C.6. 3 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.7 - Подтверждение соответствия аспектов программного обеспечения безопасности системы (см. 7.7)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Вероятностное тестирование	C.5.1	-	R	R	HR
2 Моделирование процесса	C.5.18	R	R	HR	HR
3 Моделирование	Таблица B.5	R	R	HR	HR
4 Функциональное тестирование и тестирование методом «черного ящика»	B.5.1, B.5.2, таблица B.3	HR	HR	HR	HR
5 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и планом подтверждения соответствия программного обеспечения системы безопасности	C.2.11	R	R	HR	HR
6 Обратная прослеживаемость между планом подтверждения соответствия программного обеспечения системы безопасности и спецификацией требований к программному обеспечению системы безопасности	C.2.11	R	R	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Примечания 1 См. таблицу C.6. 2 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.8 - Модификация (см. 7.8)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Анализ влияния	C.5.23	HR	HR	HR	HR
2 Повторная верификация измененных программных модулей	C.5.23	HR	HR	HR	HR
3 Повторная верификация программных модулей, на которые оказывают влияние изменения в других модулях	C.5.23	R	HR	HR	HR
4a Повторное подтверждение соответствия системы в целом	Таблица A.7	-	R	HR	HR
4b Регрессионное подтверждение соответствия	C.5.25	R	HR	HR	HR
5 Управление конфигурацией программного обеспечения	C.5.24	HR	HR	HR	HR
6 Регистрация и анализ данных	C.5.2	HR	HR	HR	HR
7 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и планом модификации программного обеспечения (включая повторные верификацию и подтверждение соответствия)	C.2.11	R	R	HR	HR
8 Обратная прослеживаемость между планом модификации программного обеспечения (включая повторную верификацию и подтверждение соответствия) и спецификацией требований к программному обеспечению системы безопасности	C.2.11	R	R	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует выполнять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 См. таблицу C.8. 2 Методы группы 1 «Анализ влияния» являются необходимой частью метода «Регрессионного подтверждения соответствия». См. МЭК 61508-7. 3 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.9 - Верификация программного обеспечения (см. 7.9)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Формальное доказательство	C.5.12	-	R	R	HR
2 Анимация спецификации и тестирования	C.5.26	R	R	R	R
3 Статический анализ	B.6.4, таблица B.8	R	HR	HR	HR
4 Динамический анализ и тестирование	B.6.5, таблица B.2	R	HR	HR	HR
5 Прямая прослеживаемость между спецификацией проекта программного обеспечения и планом верификации (включая верификацию данных) программного обеспечения	C.2.11	R	R	HR	HR
6 Обратная прослеживаемость между планом верификации (включая верификацию данных) программного обеспечения и спецификацией проекта программного обеспечения	C.2.11	R	R	HR	HR
7 Численный анализ в автономном режиме	C.2.13	R	R	HR	HR
Тестирование и интеграция программного модуля	См. таблицу A.5
Проверка интеграции программируемых электронных устройств	См. таблицу A.6
Тестирование программной системы (подтверждение соответствия)	См. таблицу A.7
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Примечания 1 Для удобства все процессы, связанные с верификацией, были объединены в настоящей таблице. Это, однако, не накладывает дополнительных требований на элементы верификации, связанные с динамическим тестированием, в таблицах A.5 и A.6, которые сами по себе относятся к процессам верификации. Настоящая таблица также не требует проведения верификационного тестирования в дополнение к подтверждению соответствия программного обеспечения (см. таблицу B.7), которая в настоящем стандарте представляет демонстрацию соответствия спецификации требований к системе безопасности (конечную верификацию). 2 Требования к верификации включены в МЭК 61508-1 - МЭК 61508-3. Следовательно, первая верификация системы, связанной с безопасностью, относится к ранним спецификациям системного уровня. 3 На ранних стадиях жизненного цикла программного обеспечения системы безопасности верификация является статической, она может включать в себя, например, изучение, просмотр, формальную проверку. Когда программа готова, становится возможным проведение динамического тестирования. Для верификации требуется объединение информации обоих типов. Например, верификация программного модуля статическими средствами включает в себя такие методы, как просмотр программ, прогон, статический анализ, формальная проверка. Верификация программ динамическими средствами включает в себя функциональное тестирование, тестирование методом белого ящика, статистическое тестирование. Использование проверок обоих типов позволяет утверждать, что каждый программный модуль удовлетворяет соответствующей спецификации. 4 См. таблицу C.9. 5 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица A.10 - Оценка функциональной безопасности (см. раздел 8)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Таблица контрольных проверок	B.2.5	R	R	R	R
2 Таблицы решений (таблицы истинности)	C.6.1	R	R	R	R
3 Анализ отказов	Таблица B.4	R	R	HR	HR
4 Анализ отказов по общей причине различного программного обеспечения (если различное программное обеспечение используется)	C.6.3	-	R	HR	HR
5 Структурные схемы надежности	C.6.4	R	R	R	R
6 Прямая прослеживаемость между требованиями раздела 8 и планом оценки функциональной безопасности программного обеспечения	C.2.11	R	R	HR	HR
1) Соответствующие методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Примечания 1 См. таблицу C.10. 2 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Приложение B
(обязательное)
Подробные таблицы

Таблица B.1 - Стандарты для проектирования и кодирования (см. таблицу A.4 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Использование стандартов кодирования для сокращения вероятности ошибок	C.2.6.2	HR	HR	HR	HR
2 Не использовать динамические объекты	C.2.6.3	R	HR	HR	HR
3а Не использовать динамические переменные	C.2.6.3	-	R	HR	HR
3b Проверка создания динамических переменных в неавтономном режиме	C.2.6.4	-	R	HR	HR
4 Ограниченное использование прерываний	C.2.6.5	R	R	HR	HR
5 Ограниченное использование указателей	C.2.6.6	-	R	HR	HR
6 Ограниченное использование рекурсий	C.2.6.7	-	R	HR	HR
7 Не использовать неструктурированное управление в программах, написанных на языках высокого уровня	C.2.6.2	R	HR	HR	HR
8 Не использовать автоматическое преобразование типов	C.2.6.2	R	HR	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует применять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 Методы 2, 3a и 5: использование динамических объектов (например, при реализации стека или динамически распределяемой области памяти) может наложить ограничения на объем доступной памяти и время выполнения. Методы 2, 3a и 5 не должны применяться, если используется компилятор, который обеспечивает, что: a) для всех динамических переменных и объектов перед выполнением будет выделено достаточно памяти, а в случае ошибки выделения памяти система перейдет в безопасное состояние; b) время реакции системы соответствует заданным требованиям. 2 См. таблицу C.11. 3 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.2 - Динамический анализ и тестирование (см. таблицы A.5 и A.9 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Выполнение тестового примера, связанного с анализом граничных значений	C.5.4	R	HR	HR	HR
2 Выполнение тестового примера, связанного с предполагаемой ошибкой	C.5.5	R	R	R	R
3 Выполнение тестового примера, связанного с введением ошибки	C.5.6	-	R	R	R
4 Выполнение тестового примера, сгенерированного на основе модели	C.5.27	R	R	HR	HR
5 Моделирование реализации	C.5.20	R	R	R	HR
6 Разделение входных данных на классы эквивалентности	C.5.7	R	R	R	HR
7а Структурный тест со 100 %-ным охватом (точки входа)2)	C.5.8	HR	HR	HR	HR
7b Структурный тест со 100 %-ным охватом (операторы) 2)	C.5.8	R	HR	HR	HR
7с Структурный тест со 100 %-ным охватом (условные переходы) 2)	C.5.8	R	R	HR	HR
7d Структурный тест со 100 %-ным охватом (составные условия, MC/DC) 2)	C.5.8	R	R	R	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. 2) Если 100 %-ный охват не может быть достигнут (например, охват оператора кода защиты), то должно быть дано соответствующее объяснение. Примечания 1 Анализ с использованием тестовых примеров проводят на уровне подсистем, он основывается на спецификациях и/или спецификациях и текстах программ. 2 См. таблицу C.12. 3 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.3 - Функциональное тестирование и проверка методом «черного ящика» (см. таблицы A.5, A.6 и A.7 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Выполнение тестового примера, на основе причинно-следственных диаграмм	B.6.6.2	-	-	R	R
2 Выполнение тестового примера, сгенерированного на основе модели	C.5.27	R	R	HR	HR
3 Макетирование/анимация	C.5.17	…	-	R	R
4 Разделение входных данных на классы эквивалентности, включая анализ граничных значений	C.5.7, C.5.4	R	HR	HR	HR
5 Моделирование процесса	C.5.18	R	R	R	R
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Примечания 1 Анализ с использованием тестовых примеров выполняется на уровне систем программного обеспечения и он основывается только на спецификациях. 2 Полнота моделирования будет зависеть от уровня полноты безопасности, сложности и применения. 3 См. таблицу C.13. 4 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.4 - Анализ отказов (см. таблицу A.10 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1а Причинно-следственные диаграммы	B.6.6.2	R	R	R	R
1в Анализ методом дерева событий	B.6.6.3	R	R	R	R
2 Анализ методом дерева отказов	B.6.6.5	R	R	R	R
3 Анализ функциональных отказов программного обеспечения	B.6.6.4	R	R	R	R
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует применять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 Предварительно должен быть проведен анализ рисков для определения, к какому уровню полноты безопасности следует отнести программное обеспечение. 2 См. таблицу C.14. 3 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.5 - Моделирование (см. таблицу A.7 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Диаграммы потоков данных	C.2.2	R	R	R	R
2а Метод конечных автоматов	B.2.3.2	-	R	HR	HR
2b Формальные методы	B.2.2, C.2.4	-	R	R	HR
2с Моделирование во времени сетями Петри	B.2.3.3	-	R	HR	HR
3 Моделирование реализации	C.5.20	R	HR	HR	HR
4 Макетирование/анимация	C.5.17	R	R	R	R
5 Структурные диаграммы	C.2.3	R	R	R	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует выполнять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 Если какой-то конкретный метод не перечислен в таблице, не следует считать, что он был исключен из рассмотрения. Этот метод должен соответствовать требованиям настоящего стандарта. 2 Количественное значение вероятностей не требуется. 3 См. таблицу C.15. 4 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.6 - Тестирование рабочих характеристик (см. таблицы A.5 и A.6 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Проверка на критические нагрузки и стресс-тестирование	C.5.21	R	R	HR	HR
2 Ограничения на время ответа и объем памяти	C.5.22	HR	HR	HR	HR
3 Требования к реализации	C.5.19	HR	HR	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Примечания 1 См. таблицу C.16. 2 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.7 - Полуформальные методы (см. таблицы A.1, A.2 и A.4 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Логические/функциональные блок-схемы	См. примечание 1	R	R	HR	HR
2 Диаграммы последовательности действий	См. примечание 1	R	R	HR	HR
3 Диаграммы потоков данных	C.2.2	R	R	R	R
4a Конечные автоматы/диаграммы переходов	B.2.3.2	R	R	HR	HR
4b Моделирование во времени сетями Петри	B.2.3.3	R	R	HR	HR
5 Модели данных сущность-связь-атрибут	B.2.4.4	R	R	R	R
6 Диаграммы последовательности сообщений	C.2.14	R	R	R	R
7 Таблицы решений и таблицы истинности	C.6.1	R	R	HR	HR
8 UML	C.3.12	R	R	R	R
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует выполнять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 Логические и функциональные блок-схемы и диаграммы последовательности действий приведены в [7]. 2 См. таблицу C.17. 3 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.8 - Статический анализ (см. таблицу A.9 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Анализ граничных значений	C.5.4	R	R	HR	HR
2 Таблица контрольных проверок	B.2.5	R	R	R	R
3 Анализ потоков управления	C.5.9	R	HR	HR	HR
4 Анализ потоков данных	C.5.10	R	HR	HR	HR
5 Предположение ошибок	C.5.5	R	R	R	R
6а Формальные проверки, включая конкретные критерии	C.5.14	R	R	HR	HR
6b Сквозной контроль (программного обеспечения)	C.5.15	R	R	R	R
7 Тестирование на символьном уровне	C.5.11	-	-	R	R
8 Анализ проекта	C.5.16	HR	HR	HR	HR
9 Статический анализ выполнения программы с ошибкой	B.2.2, C.2.4	R	R	R	HR
10 Временно́й анализ выполнения при наихудших условиях	C.5.20	R	R	R	R
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Альтернативные или эквивалентные методы/средства обозначают буквами, следующими за числом. Следует выполнять только один из альтернативных или эквивалентных методов/мероприятий. Выбор альтернативных методов должен быть обоснован в соответствии со свойствами, приведенными в приложении С, желательно для каждого применения. Примечания 1 См. таблицу C.18. 2 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Таблица B.9 - Модульный подход (см. таблицу A.4 приложения A)

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1 Ограничение размера программного модуля	C.2.9	HR	HR	HR	HR
2 Управление сложностью программного обеспечения	C.5.13	R	R	HR	HR
3 Ограничение доступа/инкапсуляция информации	C.2.8	R	HR	HR	HR
4 Ограниченное число параметров/фиксированное число параметров подпрограммы	C.2.9	R	R	R	R
5 Одна точка входа и одна точка выхода в каждой подпрограмме и функции	C.2.9	HR	HR	HR	HR
6 Полностью определенный интерфейс	C.2.9	HR	HR	HR	HR
1) Методы/средства следует выбирать в соответствии с уровнем полноты безопасности. Использование одного метода является, по-видимому, недостаточным. Следует рассматривать все подходящие методы. Примечания 1 См. таблицу C.19. 2 Ссылки (являющиеся справочными, а не обязательными) «B.x.x.x», «C.x.x.x» во второй графе указывают на подробные описания методов/средств, изложенных в приложениях B и C [5].

Приложение C
(справочное)
Свойства стойкости к систематическим отказам программного обеспечения

C.1 Введение

Учитывая большое число факторов, влияющих на стойкость к систематическим отказам программного обеспечения, невозможно создать алгоритм, включающий методы и средства, который обеспечит необходимый результат для любого заданного применения. Целью настоящего приложения является:

- привести указания по выбору конкретных методов из приложений A и B, чтобы обеспечить стойкость к систематическим отказам программного обеспечения;

- помочь в обосновании использования методов, которые не перечислены явно в приложениях A и B.

Настоящее приложение является дополнением к приложениям A и B.

C.1.1 Структура приложения С, связанная с приложениями A и B

Выходные данные каждой стадии жизненного цикла программного обеспечения системы безопасности определены в таблице 1. Например, рассмотрена спецификация требований к программному обеспечению системы безопасности.

Таблица A.1 («Спецификация требований к программному обеспечению системы безопасности») приложения A рекомендует конкретные методы разработки спецификации требований к программному обеспечению системы безопасности:

Метод/средство1)	Ссылка	УПБ1	УПБ2	УПБ3	УПБ4
1а Полуформальные методы	Таблица B.7	R	R	HR	HR
1b Формальные методы	B.2.2, C.2.4	-	R	R	HR
2 Прямая прослеживаемость между требованиями к системе безопасности и требованиями к программному обеспечению системы безопасности	C.2.11	R	R	HR	HR
3 Обратная прослеживаемость между требованиями к системе безопасности и предполагаемыми потребностями безопасности	C.2.11	R	R	HR	HR
4 Компьютерные средства разработки спецификаций для поддержки, перечисленных выше, подходящих методов/средств	B.2.4	R	R	HR	HR

Таблица C.1 («Свойства систематической полноты безопасности - спецификация требований к программному обеспечению системы безопасности») устанавливает, что спецификация требований к программному обеспечению системы безопасности характеризуется следующими требуемыми свойствами (которые неформально определены в [5], приложение F):

Свойства
Полнота охвата потребностей безопасности программным обеспечением	Корректность охвата потребностей безопасности программным обеспечением	Отсутствие ошибок в самой спецификации, включая отсутствие неоднозначности	Ясность требований к системе безопасности	Отсутствие неблагоприятного взаимовлияния функций, не связанных с безопасностью, и функций безопасности, реализуемых программным обеспечением системы безопасности	Способность обеспечения проведения оценки и подтверждения соответствия

Таблица C.1 с помощью неформальной шкалы R1/R2/R3 также ранжирует эффективность конкретных методов в достижении этих требуемых свойств:

Методы/средства	Свойства
	Полнота охвата потребностей безопасности программным обеспечением	Корректность охвата потребностей безопасности программным обеспечением	Отсутствие ошибок в самой спецификации, включая отсутствие неоднозначности	Ясность требований к системе безопасности	Отсутствие неблагоприятного взаимовлияния функций, не связанных с безопасностью, и функций безопасности, реализуемых программным обеспечением системы безопасности	Способность обеспечения проведения оценки и подтверждения соответствия
1а Полуформальные методы	R1 Дружественный или зависящий от предметной области метод спецификации и нотация, используемые специалистами в проблемной области	R1 Дружественный или зависящий от предметной области метод спецификации и нотация, используемые специалистами в проблемной области. R2 Верификация спецификации согласно критерию охвата	R1 Метод и нотация, которые помогают предотвратить или обнаружить внутреннюю несогласованность, отсутствующее поведение или математически несовместимые выражения. R2 Проверка спецификации согласно критериям охвата. R3 Проверка спецификации, основанная на систематическом анализе и/или систематическом предотвращении определенных типов отказов внутри спецификации	R1 Определяемая нотация, ограничивающая возможность для непонимания. R2 Применение пределов сложности в спецификации	-	R1 Определяемая нотация, снижающая неоднозначность в спецификации

Уверенность, которую можно связать со свойствами спецификации требований к программному обеспечению системы безопасности, как основание для обеспечения безопасности программного обеспечения, зависит от строгости методов, с помощью которых были достигнуты требуемые свойства спецификации требований к программному обеспечению системы безопасности. Строгость метода неформально ранжируется по шкале от R1 до R3, где R1 - наименее строгий и R3 - самый строгий метод.

R1	Без объективных критериев приемки или с ограниченными объективными критериями приемки. Например, тестирование методом «черного ящика», основанное на профессиональном суждении, полевые испытания
R2	С объективными критериями приемки, которые могут дать высокий уровень уверенности в том, что необходимое свойство достигнуто (исключения должны быть определены и обоснованы); например, тест или аналитические методы с метриками охвата, охват таблицами контрольных проверок
R3	С объективным, систематическим рассуждением о том, что необходимое свойство достигнуто. Например, формальное доказательство, демонстрирующее соблюдение архитектурных ограничений, которые гарантируют свойство
-	Данный метод не относится к этому свойству

Для каждого метода, обеспечивающего конкретное свойство, определяется одно из ранжированных значений R1/R2/R3 в зависимости от уровня строгости этого метода.

Методы/средства	Свойства
	Полнота охвата потребностей безопасности программным обеспечением	Корректность охвата потребностей безопасности программным обеспечением	Отсутствие ошибок в самой спецификации, включая отсутствие неоднозначности	Ясность требований к системе безопасности	Отсутствие неблагоприятного взаимовлияния функций, не связанных с безопасностью, и функций безопасности, реализуемых программным обеспечением системы безопасности	Способность обеспечения проведения оценки и подтверждения соответствия
1а Полуформальные методы				R1 Определяемая нотация, ограничивающая возможность для непонимания. R2 Применение пределов сложности в спецификации

В этом примере полуформальный метод со строгостью R1 обеспечивает ограниченную нотацию, которая улучшает точность выражений, и со строгостью R2 еще более ограничивает сложность спецификации, что в противном случае могло бы привести к путанице.

C.1.2 Метод использования - 1

Руководящий принцип. Если можно убедительно продемонстрировать, что требуемые свойства были достигнуты при разработке спецификации требований к программному обеспечению системы безопасности, то обоснована уверенность в том, что спецификация требований к программному обеспечению системы безопасности является соответствующей основой для разработки программного обеспечения с достаточным уровнем систематической полноты безопасности.

Из таблицы C.1 видно, что каждый из методов по таблице A.1 приложения A в той или иной степени обычно обеспечивает выполнение одного или более из вышеупомянутых свойств по таблице C.1, которые относятся к спецификации требований к программному обеспечению системы безопасности.

Однако важно отметить, что хотя таблица A.1 рекомендует конкретные методы, эти рекомендации не являются нормативными и фактически приложение A ясно показывает, что «Учитывая большое число факторов, влияющих на стойкость к систематическим отказам программного обеспечения, невозможно создать алгоритм, включающий методы и средства, который обеспечит необходимый результат для любого заданного применения».

Практически методы, использующиеся при разработке спецификации требований к программному обеспечению системы безопасности, выбирают с учетом ряда практических ограничений (см. 7.1.2.7) в дополнение к собственным возможностям методов. Такие ограничения могут включать в себя:

- непротиворечивость и взаимодополняющий характер выбранных методов, языков и инструментов для всего цикла разработки;

- полностью ли понимают разработчики используемые ими методы, языки и инструменты;

- насколько хорошо адаптированы методы, языки и инструменты к конкретным проблемам, для разработки которых они используются.

Таблица C.1 может использоваться для сравнения относительной эффективности конкретных методов по таблице A.1 в достижении требуемых свойств на стадии жизненного цикла «спецификация требований к программному обеспечению системы безопасности» и в то же время для факторизации практических ограничений конкретного разрабатываемого проекта.

Например, для верификации и подтверждения соответствия использование формального метода (R3) более обосновано, чем полуформального метода (R2), однако другие ограничения проекта (например, доступность сложных компьютерных инструментов поддержки или узкоспециализированное представление формальной нотации) могут повлиять на выбор полуформального подхода.

Таким образом, требуемые свойства таблицы C.1 могут служить основанием для аргументированного и практического сравнения альтернативных методов, которые рекомендованы в таблице A.1 и предназначены для разработки спецификации требований к программному обеспечению системы безопасности. Или (в общем случае) при рассмотрении требуемых свойств, перечисленных в соответствующей таблице приложения C для конкретной стадии жизненного цикла, может быть сделан аргументированный выбор метода из нескольких альтернативных, рекомендуемых приложением A.

Но особо следует обратить внимание на то, что вследствие систематической природы поведения, свойства приложения C, возможно, не будут достигнуты или строго доказаны. Скорее свойства являются целью, к которой необходимо стремиться. Достижение этих целей может даже потребовать компромиссов между различными свойствами, например, между проектом защиты и его простотой.

Наконец, в дополнение к определению критериев R1/R2/R3 полезно в качестве рекомендации сформировать неформальную связь между ростом уровня строгости от R1 к R3 и ростом уверенности в корректности программного обеспечения. Так как рекомендация является общей и неформальной, необходимо стремиться к следующим минимальным уровням строгости, когда приложение A требует соответствующий ему УПБ:

C.1.3 Метод использования - 2

Хотя приложение A рекомендует конкретные методы, разрешено также применять другие методы и средства, если они соответствуют требованиям и целям стадии жизненного цикла.

Уже было отмечено, что на стойкость к систематическим отказам программного обеспечения влияет много факторов, и невозможно создать алгоритм для выбора и объединения методов, гарантирующий достижение требуемых свойств для любого заданного применения.

Может существовать несколько эффективных способов обеспечить требуемые свойства и следует признать, что разработчики системы могут быть в состоянии представить альтернативные доказательства. Информация в таблицах настоящего приложения может использоваться в качестве основы для весомого аргумента, чтобы обосновать выбор методов, отсутствующих в таблицах приложения A.

C.2 Свойства для систематической полноты безопасности

Руководящие указания, представленные в настоящем стандарте и [5], определяют конкретные методы обеспечения свойств систематической полноты безопасности и формирования убедительных доказательств. Если метод не способствует достижению свойства, то в таблицах настоящего приложения это показано как «-». Если метод может отрицательно влиять на некоторые свойства и положительно - на другие, то приводится пояснение в примечании к соответствующей таблице.

Таблица C.1 - Свойства систематической полноты безопасности - спецификация требований к программному обеспечению системы безопасности (см. 7.2. и таблицу A.1)

Методы/средства	Свойства
	Полнота охвата потребностей безопасности программным обеспечением	Корректность охвата потребностей безопасности программным обеспечением	Отсутствие ошибок в самой спецификации, включая отсутствие неоднозначности	Ясность требований к системе безопасности	Отсутствие неблагоприятного взаимовлияния функций, не связанных с безопасностью, и функций безопасности, реализуемых программным обеспечением системы безопасности	Способность обеспечения проведения оценки и подтверждения соответствия
1а Полуформальные методы	R1 Дружественный или зависящий от предметной области метод спецификации и нотация, используемая специалистами в проблемной области	R1 Дружественный или зависящий от предметной области метод спецификации и нотация, используемая специалистами в проблемной области. R2 Верификация спецификации согласно критерию охвата	R1 Метод и нотация, которые помогают предотвратить или обнаружить внутреннюю несогласованность, отсутствующее поведение или математически несовместимые выражения. R2 Проверка спецификации согласно критериям охвата. R3 Проверка спецификации, основанная на систематическом анализе и/или систематическом предотвращении определенных типов отказов внутри спецификации	R1 Определяемая нотация, ограничивающая возможность для непонимания. R2 Применение пределов сложности в спецификации	-	R1 Определяемая нотация, уменьшающая неоднозначность в спецификации
1b Формальные методы	R1 Дружественный или зависящий от предметной области метод спецификации и нотация, используемая специалистами в проблемной области	R1 Дружественный или зависящий от предметной области метод спецификации и нотация, используемая специалистами в проблемной области. R2 Верификация спецификации согласно критерию охвата. R3 Гарантия правильности на ограниченных аспектах поведения	R1 Метод и нотация, которые помогают предотвратить или обнаружить внутреннюю несогласованность, отсутствующее поведение или математически несовместимые выражения. R2 Проверка спецификации согласно критериям охвата. R3 Проверка спецификации, основанная на систематическом анализе и/или систематическом предотвращении определенных типов отказов внутри спецификации	- Примечание - Может усложнить достижение этого свойства, если метод не является дружественным для приложения или не зависящим от предметной области	-	R1 Уменьшает неоднозначность в спецификации
2 Прямая прослеживаемость между спецификацией требований к безопасности системы и требованиями к безопасности программного обеспечения	R1 Уверенность в том, что спецификация требований к безопасности программного обеспечения получает системные требования к безопасности	-	-	-	-	-
3 Обратная прослеживаемость между требованиями к системе безопасности и предполагаемыми потребностями в безопасности	-	R1 Уверенность в том, что спецификация требований к программному обеспечению системы безопасности не содержит ненужной сложности	-	R1 Прослеживаемость потребностей безопасности управляемого оборудования улучшает понятность	R1	R1
4 Компьютерные средства разработки спецификаций для поддержки, перечисленных выше, подходящих методов/средств	R1 Инкапсуляция знаний проблемной области управляемого оборудования и программной среды. R2 Если перечень вопросов, которые необходимо учесть в таблице контрольных проверок, определен, обоснован и охватывает проблему	R1 Методы функционального моделирования. R2 Функциональное моделирование в соответствии с определенными и обоснованными критериями охвата	R2 Синтаксическая и семантическая проверки, чтобы убедиться в том, что соответствующие правила выполнены	R1 Анимация или просмотр спецификации	R1 Идентификация связанных и несвязанных с безопасностью функций	R1 Помощь в прослеживаемости и в охвате. R2 Измерение прослеживаемости и охвата

Таблица C.2 - Свойства систематической полноты безопасности - проектирование и разработка программного обеспечения - проектирование архитектуры программ (см. 7.4.3 и таблицу A.2 приложения A)

Методы/средства	Свойства
	Полнота спецификации требований к программному обеспечению системы безопасности	Корректность спецификации требований к программному обеспечению системы безопасности	Отсутствие собственных ошибок проекта	Простота и ясность	Предсказуемость поведения	Верифицируемость и тестируемость проекта	Отказоустойчивость	Защита от отказов по общей причине, вызванной внешним событием
1 Обнаружение ошибок	-	-	-	- Достижение этого свойства может быть сложным	R1 Контроль логики выполнения программы	-	R1 (R2, если цели охвата определены, обоснованы и выполнены)	R1 или -
2 Коды обнаружения ошибок	-	-	-	- Достижение этого свойства может быть сложным	- Достижение этого свойства может быть сложным	-	R1 (R2, если цели охвата определены, обоснованы и выполнены). Эффективен для конкретных областей применения, например для передачи данных	R1 Эффективен для конкретных областей применения, например для передачи данных
3а Программирование с проверкой ошибок	-	R2 С помощью постусловий проверяется соответствие детальным требованиям	-	R2 Предусловия ограничивают входное пространство	R2 Постусловия проверяют выходы, которые должны быть ожидаемыми либо приемлемыми	R2 Предусловия ограничивают входное пространство и, следовательно, необходимое тестируемое пространство	R3 Эффективен для конкретных отказов	R3 Эффективен для конкретных отказов
3b Методы контроля (при реализации процесса контроля и контролируемой функции на одном компьютере обеспечивается их независимость)	-	-	R2 Независимый контроль реализует минимальные требования безопасности	R2 Независимый контроль обеспечивает неявное разнообразие	R2 Независимый контроль простым способом реализует лишь минимальные требования безопасности	R2 Независимый контроль реализует лишь минимальные требования безопасности	R1 (R2, если цели охвата определены, обоснованы и выполнены)	R1 (R2, если цели охвата определены, обоснованы и выполнены)
3с Методы контроля (реализация процесса контроля и контролируемой функции на разных компьютерах)	-	-	R2 Независимый контроль реализует минимальные требования безопасности	R2 Независимый контроль обеспечивает неявное разнообразие	R2 Независимый контроль простым способом реализует лишь минимальные требования безопасности	R2 Независимый контроль реализует лишь минимальные требования безопасности	R1 (R2, если цели охвата определены, обоснованы и выполнены)	R1 (R2, если цели охвата определены, обоснованы и выполнены)
3d Многовариантное программирование, реализующее одну спецификацию требований к программному обеспечению системы безопасности	-	-	R1	- Примечание -Достижение этого свойства может быть сложным, если реализуется в одной исполнимой программе	-	-	R1 Если отказ одной программы не оказывает негативное влияние на другие. R2 Если цели охвата определены, обоснованы и выполнены. Не защищает от отказов в спецификации требований	R1 Если отказ одной программы не оказывает негативное влияние на другие. R2 Если цели охвата определены, обоснованы и выполнены. Не защищает от отказов в спецификации требований
3е Функционально многовариантное программирование, реализующее различные спецификации требований к программному обеспечению системы безопасности. Обычно это требуется, если применяются датчики, работающие на различных физических принципах	-	-	R1	- Примечание - Достижение этого свойства может быть сложным, если реализуется в одной исполнимой программе	-	-	R1 Если отказ одной программы не оказывает негативное влияние на другие	R1 Если отказ одной программы не оказывает негативное влияние на другие. Защищает от отказов в спецификации требований
3f Восстановление предыдущего состояния	-	-	- Примечание - Достижение этого свойства может быть сложным	-	- Примечание - Достижение этого свойства может быть сложным	-	R2	R1 (R2, если цели охвата определены, обоснованы и выполнены)
3g Проектирование программного обеспечения, не сохраняющего состояние (или проектирование программного обеспечения, сохраняющего ограниченное описание состояния)	R2 Если несохранение или сохранение ограниченного описания состояния предусмотрено в требованиях к системе безопасности	R2 Если несохранение или сохранение ограниченного описания состояния предусмотрено в требованиях к системе безопасности	R2 Если несохранение или сохранение ограниченного описания состояния предусмотрено в требованиях к системе безопасности	R1 R2 Если определены, обоснованы и выполнены ограничения для определенного возможного числа состояний	R1 R2 Если определены, обоснованы и выполнены ограничения для определенного возможного числа состояний	R1 R2 Если определены, обоснованы и выполнены цели верификации/тестового охвата возможных состояний	R1 Если это приводит к самовосстановлению проекта. R2 Если определены, обоснованы и выполнены цели самовосстановления	R1 Если это приводит к самовосстановлению проекта. R2 Если определены, обоснованы и выполнены цели самовосстановления
4а Механизмы повторных попыток парирования сбоя	-	-	-	-	Достижение этого свойства может быть сложным	-	R1 (R2, если цели охвата определены, обоснованы и выполнены)	R1 (R2, если цели охвата определены, обоснованы и выполнены)
4b Постепенное отключение функций	-	-	- Примечание - Достижение этого свойства может быть сложным	-	-	-	R1 R2, если цели охвата определены, обоснованы и выполнены	R1 R2, если цели охвата определены, обоснованы и выполнены
5 Исправление ошибок методами искусственного интеллекта	-	- Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	R1 Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	-	-
6 Динамическая реконфигурация	-	- Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	-	-
7 Модульный подход	-	R1 R2, если цели декомпозиции определены, обоснованы и выполнены. В противном случае только R1	R1 Если отсутствие конкретных типов собственных ошибок в проекте может быть верифицировано независимо для каждого модуля. R3 Если отсутствие конкретных типов собственных ошибок в проекте может быть строго обосновано при проектировании модуля	R1 R2, если цели декомпозиции определены, обоснованы и выполнены	R1 R2, если цели декомпозиции определены, обоснованы и выполнены	R1 R2, если цели декомпозиции определены, обоснованы и выполнены	R1 Если модули, на которые не влияет отказ модуля, способствуют ослаблению отказа/восстановлению отказавшего модуля. R3 Если появление конкретных отказов может быть строго обосновано	R1 Если модули, на которые могут влиять внешние события, и которые могут повлиять на несколько каналов одновременно, выявлены и полностью проверены. R3 Если появление конкретных внешних событий может быть строго обосновано
8 Использование доверительных/ проверенных элементов программного обеспечения (при наличии)	-	R1 R2 R3 Если элемент вносит существенный вклад в выполнение требований к системе безопасности и правильно используется	R1 R2 R3 Элементы, проверенные на практике. Такая способность каждого элемента должна быть обоснована	R1 Модульный подход декомпозирует полную сложность на хорошо понятные блоки	R1 R2 R3 Элементы, проверенные на практике	-	R1 R2, если возможности отказоустойчивости незамедлительно предоставляются элементом и правильно используются или если вокруг элемента построен уровень защиты	R1 R2, если защита от внешних событий, которые могут повлиять на несколько каналов одновременно, незамедлительно предоставляется элементом и правильно используется или если вокруг элемента построен уровень защиты
9 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и архитектурой программного обеспечения	R1 Уверенность в том, что архитектура соответствует требованиям к программному обеспечению системы безопасности	-	-	-	-	-	-	-
10 Обратная прослеживаемость между архитектурой программного обеспечения и спецификацией требований к программному обеспечению системы безопасности	-	R1 Уверенность в том, что архитектура излишне не усложнена	-	-	-	-	-	-
11а Методы структурных диаграмм	-	R1	-	R1 (Графические описания легче понять)	-	R1 (Структурируемые проекты легче верифицировать и тестировать)	-	-
11b Полуформальные методы	R1 Дружественные или зависящие от предметной области метод спецификации и нотация	R1 Дружественные или зависящие от предметной области метод спецификации и нотация	R2 Может выявить внутреннюю несогласованность или неработоспособность или математически некорректные выражения	-	R2 (Предоставляет свидетельства для предсказуемости)	R2 (Предоставляет свидетельства для внутренней согласованности модели проекта)	-	-
11с Методы формального проектирования и усовершенствования	R1 Дружественные или зависящие от предметной области метод спецификации и нотация	R1 Обеспечивает точное определение ограниченных аспектов поведения, которые должны соответствовать предметной области	R3 Может выявить внутреннюю несогласованность или неработоспособность или математически некорректные выражения	- Примечание - Достижение этого свойства может быть сложным	R2 Предоставляет доказательства для предсказуемости	R2	-	-
11d Автоматическая генерация программного обеспечения	R1 Если исполнимое программное обеспечение автоматически сгенерировано в соответствии со спецификацией требований или проектом, который, как было показано, является корректным. R2 Если у инструментов генерации, как было показано, есть соответствующая история использования	R1 Если исполнимое программное обеспечение автоматически сгенерировано в соответствии со спецификацией требований или проектом, который, как было показано, является полным. R2 Если у инструментов генерации, как было показано, есть соответствующая история использования	R1 Если инструменты генерации гарантируют предотвращение определенных внутренних отказов проекта. R2 Если у инструментов генерации, как было показано, есть соответствующая история использования	-	-	-	R1 R2 R3 Если способность к отказоустойчивости генерируется автоматически	-
12 Компьютерные средства разработки спецификаций и проектирования	R1 Инкапсуляция знаний проблемной области управляемого оборудования и программной среды R2 Если определена, обоснована и охвачена таблица контрольных проверок, а также учтены ее проблемы	R1 Осуществление обратной прослеживаемости требований. Функциональные методы моделирования. R2 Функциональное моделирование согласно определенным и обоснованным критериям охвата	R2 Семантические и синтаксические проверки для гарантирования того, что соответствующие правила выполнены	R1 Анимация и просмотр	-	R2 Семантические и синтаксические проверки, чтобы гарантировать, что соответствующие правила выполнены	-	-
13a Циклическое поведение с гарантированным максимальным временем цикла	-	R1 Для вопросов синхронизации в спецификации. R3 Если максимальное время цикла определено строгим выводом	R1 Для вопросов синхронизации в спецификации. R3 Если максимальное время цикла определено строгим выводом	-	R1 Для вопросов синхронизации в спецификации. R3 Если максимальное время цикла определено строгим выводом	R1 Для вопросов синхронизации в спецификации. R3 Если максимальное время цикла определено строгим выводом	-	-
13b Архитектура с временны́м распределением	R3 Полнота гарантируется распределением (только для свойств синхронизации)	R3 Корректность гарантируется распределением (только для свойств синхронизации)	R3 Строгая гарантия от внутренних отказов синхронизации	R1 Определяемая нотация значительно снижает непонимание, в основе подхода - использование предсказуемости	R3 Неблагоприятное влияние: полное разделение во времени, поэтому влияния отсутствуют	R3 Существенное сокращение усилий, необходимых для тестирования и сертификации системы	R2 Прозрачная реализация отказоустойчивости	R3 Внешние прерывания не могут вмешаться в расписание с распределенным временем, приоритетом для которого являются задачи, критические к безопасности
13с Управление событиями с гарантированным максимальным временем реакции	-	-	-	R1 Архитектуры, управляемые событиями, могут быть непонятными	R2 Архитектуры, управляемые событиями, могут быть непонятными	R1 Делает тестирование более предсказуемым	-	-
14 Статическое выделение ресурсов	R1	R1	R1	R1 Делает проектирование более понятным	R2 С архитектурой, определяющей использование ресурсов	R1 Делает тестирование более предсказуемым	-	-
15 Статическая синхронизация доступа к разделяемым ресурсам	-	R1 Обеспечивает предсказуемость при доступе к ресурсам	R1 R3, если поддерживается строгими выводами, обеспечивающими корректность синхронизации	R1 Делает проектирование более понятным	R1 R3, если поддерживается строгими выводами, обеспечивающими корректность синхронизации	-	-	-

Таблица C.3 - Свойства систематической полноты безопасности - проектирование и разработка программного обеспечения - инструментальные средства поддержки и языки программирования (см. 7.4.4 и таблицу A.3 приложения A)

Методы/средства	Свойства
	Поддержка разработки программного обеспечения с требуемыми свойствами программного обеспечения	Четкость работы и функциональность инструментальных средств	Корректность и воспроизводимость результата
1 Выбор соответствующего языка программирования	R2 Если строгая типизация, ограниченное преобразование типов. R3 Если определены семантики для формального вывода	-	-
2 Строго типизированные языки программирования	R2	-	-
3 Подмножество языка	R2 В зависимости от выбранного подмножества	R1	R2 В зависимости от выбранного подмножества
4а Сертифицированные средства и сертифицированные трансляторы	-	R2	R2
4b Инструментальные средства, заслуживающие доверия на основании опыта использования	R1 Если класс обнаруживаемых программных ошибок определяется систематически. R2 Если существует объективное доказательство подтверждения соответствия эффективности инструментального средства	R1 Если инструментальное средство поддержки не является специальным для данной проблемной области. R2 Если инструментальное средство поддержки было создано специально для данной проблемной области	R1 R2 Если существует объективное доказательство подтверждения соответствия эффективности инструментального средства, например, набор средств для подтверждения соответствия компиляторов

Таблица C.4 - Свойства систематической полноты безопасности - проектирование и разработка программного обеспечения - детальное проектирование (включает в себя проектирование систем программного обеспечения, проектирование модулей программного обеспечения и кодирование) (см. 7.4.4, 7.4.6 и таблицу A.4 приложения A)

Методы/средства	Свойства
	Полнота спецификации требований к программному обеспечению системы безопасности	Корректность спецификации требований к безопасности программного обеспечения	Отсутствие собственных ошибок проекта	Простота и ясность	Предсказуемость поведения	Верифицируемость и тестируемость проекта	Отказоустойчивость	Отсутствие отказов по общей причине
1a Методы структурных диаграмм	R2	R1	R1	-	-	R1 Структурированные проекты более готовы к верификации и тестированию	-	-
1b Полуформальные методы	R2	R2	R2	-	R2	R2	-	-
1c Методы формального проектирования и усовершенствования	-	R3	R3	- Примечание - Достижение этого свойства может быть сложным	R3 (Предоставляет свидетельства для предсказуемости)	R2	-	-
2 Средства автоматизированного проектирования	R2 Автоматизированное средство разработки спецификации, применяющее семантические и синтаксические проверки и гарантирующее, что соответствующие правила удовлетворены	R1	R2 Автоматизированное средство разработки спецификации, применяющее семантические и синтаксические проверки и гарантирующее, что соответствующие правила удовлетворены	-	-	R2 Основанные на CASE технологии средства поддержки тестового охвата и статической проверки	-	-
3 Программирование с защитой	-	-	-	- Примечание - Достижение этого свойства может быть сложным	- Примечание - Достижение этого свойства может быть сложным	-	R1 (R2, если цели охвата определены, обоснованы и выполнены)	R1 (R2, если цели охвата определены, обоснованы и выполнены)
4 Модульный подход	-	-	R1	R1	R1	R1	-	-
5 Стандарты для проектирования и кодирования	-	-	R1	R1	R1	R1	-	-
6 Структурное программирование	-	R1	R1	R1	R1	R1	-	-
7 Использование проверенных/верифицированных программных модулей и компонентов (по возможности)	-	-	R1 Элементы, проверенные на практике	R1 Модульный подход декомпозирует сложность всей системы на хорошо понятные блоки	R1 Поведение элемента уже известно	-	-	-
8 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и проектом программного обеспечения	R1 Уверенность в том, что проект соответствует требованиям к программному обеспечению системы безопасности	-	-	-	-	-	-	-

Таблица C.5 - Свойства систематической полноты безопасности - проектирование и разработка программного обеспечения - тестирование и интеграция программных модулей (см. 7.4.7, 7.4.8 и таблицу A.5 приложения A)

Методы/средства	Свойства
	Полнота тестирования и интеграции в соответствии со спецификацией проекта программного обеспечения	Корректность тестирования и интеграции в соответствии со спецификацией проекта программного обеспечения (успешное выполнение)	Воспроизводимость	Точно определенная тестируемая конфигурация
1 Вероятностное тестирование	R1 (R2, если цели охвата набором тестовых данных, отражающих реальные условия функционирования программы, определены, обоснованы и выполнены)	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
2 Динамический анализ и тестирование	R1 (R2, если цели охвата структурированием определены, обоснованы и выполнены)	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
3 Регистрация и анализ данных	-	R1	R1 Способствует согласованности процедур тестирования	R2 Если журналы записей об отказах/тестах включают в себя подробную информацию о серии базовых программ
4 Функциональное тестирование и тестирование методом «черного ящика»	R1 (R2, если цели охвата набором тестовых данных, отражающих реальные условия функционирования программы, определены, обоснованы и выполнены)	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
5 Тестирование рабочих характеристик	-	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
6 Тестирование, основанное на модели (MBT)	R2 MBT позволяет на ранних стадиях выявлять неоднозначности в спецификации и проекте. MBT используется, начиная с требований. R3 Если при моделировании используются формальные выводы и генерация тестовых примеров (TCG)	R2 Оценка результатов и комплектов регрессионных тестов - ключевое преимущество MBT. R3 Если применять формальные модели, то можно получить объективные данные по охвату тестами	R3 MBT (с TCG) направлен на автоматическое выполнение сгенерированных тестов	R2 MBT работает автоматически, тестируемая конфигурация должна быть точно определена; выполнение сгенерированных тестов подобно тестированию методом «черного ящика» с возможностью измерения уровня охвата исходного кода
7 Тестирование интерфейса	-	R1 (R2, если необходимые выходы определены, обоснованы и выполнены)	-	-
8 Управление тестированием и средства автоматизации	R1 (R2, если цели охвата тестами определены, обоснованы и выполнены)	-	R1 Автоматизация способствует согласованности	R2 Обеспечивает воспроизводимость тестирования
9 Прямая прослеживаемость между спецификацией проекта программного обеспечения и спецификациями тестирования модуля и интеграции	R1 Уверенность в том, что спецификация тестов соответствует требованиям к программному обеспечению системы безопасности	-	-	R2 Уверенность в четкой основе тестируемых требований
10 Формальная верификация	R3 Если для создания тестовых примеров используется формальный вывод для того, чтобы показать, что все аспекты проекта были реализованы	R3 Дает объективные данные о выполнении всех требований к программному обеспечению системы безопасности	R1 Если средства поддержки недоступны. R2 Если инструмент поддерживается	-

Таблица C.6 - Свойства систематической полноты безопасности - интеграция программируемых электронных устройств (программное обеспечение и аппаратные средства) (см. 7.5 и таблицу A.6 приложения A)

Методы/средства	Свойства
	Полнота интеграции в соответствии со спецификацией проекта	Корректность интеграции в соответствии со спецификацией проекта (успешное выполнение)	Воспроизводимость	Точно определенная конфигурация интеграции
1 Функциональное тестирование и тестирование методом «черного ящика»	R1 (R2, если цели охвата набором тестовых данных, отражающих реальные условия функционирования программы, определены, обоснованы и выполнены)	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
2 Тестирование выполнения	-	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
3 Прямая прослеживаемость между требованиями проектирования системы и программного обеспечения к интеграции программных и аппаратных средств и спецификациями тестирования интеграции программных и аппаратных средств	R1 Уверенность в том, что спецификации тестирования интеграции программных и аппаратных средств соответствуют требованиям интеграции	-	-	R2 Уверенность в четкой основе тестируемых требований

Таблица C.7 - Свойства систематической полноты безопасности - подтверждение соответствия для аспектов программного обеспечения безопасности системы (см. 7.7 и таблицу A.7 приложения A)

Методы/средства	Свойства
	Полнота подтверждения соответствия в соответствии со спецификацией проекта программного обеспечения	Корректность подтверждения соответствия в соответствии со спецификацией проекта программного обеспечения (успешное выполнение)	Воспроизводимость	Подтверждение соответствия точно определенной конфигурации
1 Вероятностное тестирование	R1 (R2, если цели охвата набором тестовых данных, отражающих реальные условия функционирования программы, определены, обоснованы и выполнены)	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
2 Моделирование процесса	R1	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	R2 Дает определение внешнего окружения
3 Функциональное тестирование и тестирование методом «черного ящика»	R1 (R2, если цели охвата набором тестовых данных, отражающих реальные условия функционирования программы, определены, обоснованы и выполнены)	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
4 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и планом подтверждения соответствия программного обеспечения системы безопасности	R1 Уверенность в том, что план подтверждения соответствия программного обеспечения системы безопасности охватывает требования к программному обеспечению системы безопасности	-	-	R2 Уверенность в четкой основе тестируемых требований
5 Обратная прослеживаемость между планом подтверждения соответствия программного обеспечения системы безопасности и спецификацией требований к программному обеспечению системы безопасности	-	R1 Уверенность в том, что план подтверждения соответствия программного обеспечения системы безопасности не содержит излишней сложности	-	R2 Уверенность в четкой основе тестируемых требований

Таблица C.8 - Свойства систематической полноты безопасности - модификация программного обеспечения (см. 7.8 и таблицу A.8 приложения A)

Методы/средства	Свойства
	Полнота модификации в соответствии с требованиями к модификации	Корректность модификации в соответствии с требованиями к модификации	Отсутствие собственных ошибок проекта	Предотвращение нежелательного поведения	Верифицируемость и тестируемость проекта	Регрессионное тестирование и охват проверкой
1 Анализ влияния	-	-	-	R1	R1	R1
2 Повторная верификация измененных программных модулей	R1 (R2, если существуют объективные цели проверки)	R1 (R2, если существуют объективные цели проверки)	R1 (R2, если существуют объективные цели проверки)	-	-	R1/R2 (R2, если существуют объективные цели проверки)
3 Повторная верификация программных модулей, на которые оказывают влияние изменения в других модулях	R1 (R2, если существуют объективные цели проверки)	R1 (R2, если существуют объективные цели проверки)	R1 (R2, если существуют объективные цели проверки)	-	-	R1 (R2, если существуют объективные цели проверки)
4a Повторная верификация системы в целом	R1 (R2, если существуют объективные цели проверки)	R1 (R2, если существуют объективные цели проверки)	-	R1 (R2, если существуют объективные цели проверки)	-	R1 (R2, если существуют объективные цели проверки)
4b Регрессионное подтверждение соответствия	R1 (R2, если существуют объективные цели проверки)	R1 (R2, если существуют объективные цели проверки)	-	R1 (R2, если существуют объективные цели проверки)	-	R1 (R2, если существуют объективные цели проверки)
5 Управление конфигурацией программного обеспечения	-	-	-	-	-	R1
6 Регистрация и анализ данных	R1	R1	-	-	-	-
7 Прямая прослеживаемость между спецификацией требований к программному обеспечению системы безопасности и планом модификации программного обеспечения (включая повторные верификацию и подтверждение соответствия)	R1 Уверенность в том, что план модификации программного обеспечения (включая повторные верификацию и подтверждение соответствия) соответствует требованиям к программному обеспечению системы безопасности	-	-	-	-	-
8 Обратная прослеживаемость между планом модификации программного обеспечения (включая повторные верификацию и подтверждение соответствия) и спецификацией требований к программному обеспечению системы безопасности	-	R1 Уверенность в том, что план модификации программного обеспечения (включая повторные верификацию и подтверждение соответствия) не содержит излишней сложности	-	-	-	-

Таблица C.9 - Свойства систематической полноты безопасности - верификация программного обеспечения (см. 7.9 и таблицу A.9 приложения A)

Методы/средства	Свойства
	Полнота верификации в соответствии с предыдущей стадией	Корректность верификации в соответствии с предыдущей стадией (успешное выполнение)	Воспроизводимость	Верификация точно определенной конфигурации
1 Формальное доказательство	-	R3	-	-
2 Анимация спецификации и тестирования	R1	R1	-	-
3 Статический анализ	-	R1/R2/R3 (Строгость может меняться от возможностей подмножества языка до формального анализа)	-	-
4 Динамический анализ и тестирование	R1 (R2, если цели охвата структурированием определены, обоснованы и выполнены)	R1 (R2, если необходимые результаты определены, обоснованы и выполнены)	-	-
5 Прямая прослеживаемость между спецификацией проекта программного обеспечения и планом верификации (включающим в себя верификацию данных) программного обеспечения	R1 Уверенность в том, что план верификации программного обеспечения (включающий в себя верификацию данных) соответствует требованиям к программному обеспечению системы безопасности	-	-	R2 Уверенность в четкой основе тестируемых требований
6 Обратная прослеживаемость между планом верификации (включающим верификацию данных) программного обеспечения и спецификацией проекта программного обеспечения	-	R1 Уверенность в том, что план верификации программного обеспечения (включающий в себя верификацию данных) не содержит излишней сложности	-	R2 Уверенность в четкой основе тестируемых требований
7 Численный анализ в автономном режиме	-	R1 Высокая уверенность в ожидаемой точности вычислений. (R2 при объективных критериях приемки. R3, если используется вместе с объективным систематическим доказательством, обосновывающим критерии приемки)	-	-

Таблица C.10 - Свойства систематической полноты безопасности - оценка функциональной безопасности (см. раздел 8 и таблицу A.10 приложения A)

Методы/средства	Свойства
	Полнота оценки функциональной безопасности в соответствии с требованиями настоящего стандарта	Корректность оценки функциональной безопасности в соответствии с проектными спецификациями (успешное выполнение)	Доступное для анализа решение всех выявленных проблем	Возможность модификации оценки функциональной безопасности после изменения проекта без необходимости проведения серьезной переработки оценки	Воспроизводимость	Своевременность	Точно определенная конфигурация
1 Таблица контрольных проверок	R1	R1	R1	-	R1	-	-
2 Таблицы решений (таблицы истинности)	R1	R2	-	-	R2	-	-
3 Анализ отказов	R2	R2	R1 (Анализ отказов основан на согласованных списках отказов)	-	R1 (Анализ отказов основан на согласованных списках отказов)	-	-
4 Анализ отказов по общей причине различного программного обеспечения (если различное программное обеспечение используется)	R2	R2	R1 (Если анализ отказов по общей причине основан на согласованных списках источников общих причин)	-	R1 (Если анализ отказов по общей причине основан на согласованных списках источников общих причин)	-	-
5 Структурные схемы надежности	R1	R1	-	-	-	-	-
6 Прямая прослеживаемость между требованиями раздела 8 и планом оценки функциональной безопасности программного обеспечения	R1 Уверенность в том, что план оценки функциональной безопасности программного обеспечения соответствует требованиям раздела 8	-	-	-	-	-	-

C.3 Свойства систематической полноты безопасности. Подробные таблицы

Таблица C.11 - Подробные свойства - стандарты проектирования и кодирования (см. таблицу B.1 приложения В)

Методы/средства	Свойства
	Полнота спецификации требований к программному обеспечению системы безопасности	Корректность спецификации требований к программному обеспечению системы безопасности	Отсутствие собственных ошибок проекта	Простота и ясность	Предсказуемость поведения	Верифицируемость и тестируемость проекта	Отказоустойчивость/обнаружение отказов	Отсутствие отказов по общей причине
1 Использование стандартов кодирования для сокращения вероятности ошибок	-	-	R1	R1 Запрещает отдельные конструкции языка	R1	R1	-	-
2 Не использовать динамические объекты	-	-	R1/R2/R3 В зависимости от используемого языка	-	R1/R2 В зависимости от используемого языка	R1/R2 В зависимости от используемого языка	-	-
3а Не использовать динамические переменные	-	-	R1/R2/R3 В зависимости от используемого языка	-	R1/R2 В зависимости от используемого языка	R1/R2 В зависимости от используемого языка	-	-
3b Проверка создания динамических переменных при выполнении программы	-	-	R1/R2/R3 В зависимости от используемого языка	-	R1/R2 В зависимости от используемого языка	R1/R2 В зависимости от используемого языка	-	-
4 Ограниченное использование прерываний	-	-	R1/R2 В зависимости от используемого языка	R1 Повышает ясность логики и последовательностей событий	R1/R2 В зависимости от используемого языка	R1/R2 В зависимости от используемого языка	-	-
5 Ограниченное использование указателей	-	-	R1/R2 В зависимости от используемого языка	R1 Повышает ясность логики	R1/R2 В зависимости от используемого языка	R1/R2 В зависимости от используемого языка	-	-
6 Ограниченное использование рекурсий	-	-	R1/R2 В зависимости от используемого языка	-	R1/R2 В зависимости от используемого языка	R1/R2 В зависимости от используемого языка	-	-
7 Не использовать неструктурированное управление в программах, написанных на языках высокого уровня	-	-	R1/R2 В зависимости от используемого языка	R1 Повышает ясность логики	R1/R2 В зависимости от используемого языка	R1/R2 В зависимости от используемого языка	-	-
8 Не использовать автоматическое преобразование типов	-	R2 Предотвращает погрешности округления	R2 Предотвращает погрешности округления	R1	R1	-	-	-

Таблица C.12 - Подробные свойства - динамический анализ и тестирование (см. таблицу B.2 приложения В)

Методы/средства	Свойства
	Полнота тестирования и верификации в соответствии со спецификацией проекта программного обеспечения	Корректность тестирования и верификации в соответствии со спецификацией проекта программного обеспечения (успешное выполнение)	Воспроизводимость	Точно определенная тестируемая и верифицируемая конфигурация
1 Выполнение тестового примера, связанного с анализом граничных значений	-	R1 (R2, если заданы объективные критерии для граничных значений)	-	-
2 Выполнение тестового примера, связанного с предполагаемой ошибкой	-	R1	-	-
3 Выполнение тестового примера, связанного с введением ошибки	-	R1	-	-
4 Выполнение тестового примера, сгенерированного на основе модели	R2 MBT используется, начиная с требований, и позволяет на ранних стадиях выявлять ошибки при проектировании и разработке программного обеспечения. R3 Если при моделировании используются формальные выводы и генерация тестовых примеров (TCG)	R2 Оценка результатов и комплектов регрессионных тестов - ключевое преимущество MBT, что облегчает понимание последствий указанных требований. R3 Если применяются формальные модели, то можно получить объективные данные по охвату тестами	R3 MBT (с TCG) направлен на автоматическое выполнение сгенерированных тестов	R2 MBT работает автоматически, тестируемая конфигурация должна быть точно определена; выполнение сгенерированных тестов подобно тестированию методом «черного ящика» с возможностью измерения уровня охвата исходного кода
5 Моделирование реализации	-	R1 (R2, если цель - требования к производительности)	-	-
6 Разделение входных данных на классы эквивалентности	R1 Если профиль входных данных четко определен и прост в управлении своей структурой	R1 (Если разбиения, скорее всего, не содержат нелинейности, т. е. все члены класса являются действительно эквивалентными)	-	-
7 Структурное тестирование	-	R1 (R2 - существуют объективные цели охвата структурированием)	-	-

Таблица C.13 - Подробные свойства - функциональное тестирование и проверка методом «черного ящика» (см. таблицу B.3 приложения В)

Методы/средства	Свойства
	Полнота тестирования, интеграции и подтверждения соответствия в соответствии со спецификациями проекта	Корректность тестирования интеграции и подтверждения соответствия в соответствии со спецификациями проекта (успешное выполнение)	Воспроизводимость	Точно определенная конфигурация для тестирования, интеграции и подтверждения соответствия
1 Выполнение тестового примера, на основе причинно- следственных диаграмм	R1	R1	-	-
2 Выполнение тестового примера, сгенерированного на основе модели (MBT)	R2 Тестирование, основанное на модели, обеспечивает автоматическую генерацию эффективных контрольных примеров/процедур, используя модели системных требований и заданной функциональности. MBT облегчает раннее выявление ошибок и понимание последствий указанных требований. R3 Если при моделировании используются формальные выводы и генерация тестовых примеров (TCG)	R2 MBT основан на моделях (в основном функциональных/поведенческих), формируемых на основании требований. R3 Если применяются формальные модели, то можно получить объективные данные по охвату тестами	R3 MBT (с TCG) направлен на автоматическое выполнение сгенерированных тестов	R2 MBT работает автоматически, тестируемая конфигурация должна быть точно определена
3 Макетирование/анимация	-	R1	-	-
4 Разделение входных данных на классы эквивалентности, включая анализ граничных значений	R1 Если профиль входных данных четко определен и прост в управлении своей структурой	R1 (Если разбиения, как правило, не содержат нелинейности, то есть все члены класса являются действительно эквивалентными)	-	-
5 Моделирование процесса	-	R1	-	R2 Дает определение внешнего окружения

Таблица C.14 - Подробные свойства - анализ отказов (см. таблицу B.4 приложения В)

Методы/средства	Свойства
	Полнота оценки функциональной безопасности в соответствии с требованиями настоящго стандарта	Корректность оценки функциональной безопасности в соответствии с проектными спецификациями (успешное выполнение)	Доступное для анализа решение всех выявленных проблем	Возможность модификации оценки функциональной безопасности после изменения проекта без необходимости проведения серьезной переработки оценки	Воспроизводимость	Своевременность	Точно определенная конфигурация
1а Причинно-следственные диаграммы	R2	R2	-	-	-	-	-
1в Анализ методом дерева событий	R2	R2	-	-	-	-	-
2 Анализ методом дерева отказов	R2	R2	-	-	-	-	-
3 Анализ функциональных отказов программного обеспечения	R2	R2	-	-	-	-	-

Таблица C.15 - Подробные свойства - моделирование (см. таблицу B.5 приложения В)

Методы/средства	Свойства
	Полнота подтверждения соответствия в соответствии со спецификацией проекта программного обеспечения	Корректность подтверждения соответствия в соответствии со спецификацией проекта программного обеспечения (успешное выполнение)	Воспроизводимость	Точно определенная конфигурация подтверждения соответствия
1 Диаграммы потоков данных	-	R1	-	-
2а Метод конечных автоматов	R3	R3	-	-
2b Формальные методы	R3	R3	-	-
2с Моделирование во времени сетями Петри	-	R1	-	-
3 Моделирование реализации	-	R1	-	-
4 Макетирование/анимация	-	R1	-	-
5 Структурные диаграммы	-	R1	-	-

Таблица C.16 - Подробные свойства - тестирование характеристик реализации (см. таблицу B.6 приложения В)

Методы/средства	Свойства
	Полнота тестирования и интеграции в соответствии со спецификациями проекта	Корректность тестирования и интеграции в соответствии со спецификациями проекта (успешное выполнение)	Воспроизводимость	Точно определенная тестируемая и интегрируемая конфигурация
1 Проверка на критические нагрузки и стресс-тестирование	-	R1 (R2, если установлены объективные цели)	-	-
2 Ограничения на время ответа и объем памяти	-	R1 (R2, если установлены объективные цели)	-	-
3 Требования к реализации	-	R1 (R2, если установлены объективные цели)	-	-

Таблица C.17 - Подробные свойства - полуформальные методы (см. таблицу B.7 приложения В)

Методы/средства	Свойства
	Полнота спецификации требований к программному обеспечению системы безопасности	Корректность спецификации требований к программному обеспечению системы безопасности	Отсутствие собственных ошибок в проекте	Ясность требований к системе безопасности	Отсутствие неблагоприятного взаимовлияния функций, несвязанных с безопасностью, с системой безопасности, реализуемой программным обеспечением	Простота и ясность	Предсказуемость поведения	Верифицируемость и тестируемость проекта	Отказоустойчивость/ обнаружение отказов	Отсутствие отказов по общей причине от внешних событий
1 Логические диаграммы/диаграммы функциональных блоков	R2	R2	R2	-	-	R1	R2	-	-	R1
2 Последовательностные диаграммы	R2	R2	R2	-	-	R1	R2	-	-	R2
3 Диаграммы потоков данных	R1	R1	R1	-	-	R1 Подходит для обработки транзакций	-	-	-	R1
4a Конечные автоматы/диаграммы переходов	R2	R2	R2	-	-	R1 Математически полная спецификация последовательности событий	R2	-	-	R2
4b Моделирование во времени сетями Петри	R2	R2	R2	-	-	R1 Определяет взаимодействия в реальном времени	R2	-	-	R2
5 Модели данных сущность-связь-атрибут	R1	R1	R1	-	-	R1	-	-	-	R1
6 Диаграммы последовательности сообщений	R2	R2	R2	-	-	R1	R2	-	-	R2
7 Таблицы решений и таблицы истинности	R2	R2	R2	-	-	R1 Для комбинационной логики	R2	-	-	R2

Таблица C.18 - Свойства для систематической полноты безопасности - статический анализ (см. таблицу B.8 приложения В)

Методы/средства	Свойства
	Полнота верификации в соответствии с предыдущей стадией	Корректность верификации в соответствии с предыдущей стадией (успешное выполнение)	Воспроизводимость	Точно определенная верифицируемая конфигурация
1 Анализ граничных значений	-	R1 (R2, если заданы объективные критерии для граничных значений)	-	-
2 Таблица контрольных проверок	-	R1	-	R1
3 Анализ потоков управления	-	R1	-	-
4 Анализ потоков данных	-	R1	-	-
5 Предположение ошибок	-	R1	-	-
6a Формальные проверки, включая конкретные критерии	R2	R2	-	R2
6b Сквозной контроль (программного обеспечения)	R1	R1	-	R1
7 Тестирование на символьном уровне	-	R2 R3, если применяется для формально определенных предусловий и постусловий и выполняется инструментальным средством, использующим математически строгий алгоритм	-	-
8 Анализ проекта	R2	R1 R2 (с объективными критериями)	-	R2
9 Статический анализ выполнения программы с ошибкой	-	R1 R3 для определенных классов ошибок, если выполняется инструментальным средством, использующим математически строгий алгоритм	-	-
10 Временно́й анализ выполнения при наихудших условиях	R1	R3	-	R2

Таблица C.19 - Подробные свойства - модульный подход (см. таблицу B.9 приложения В)

Методы/средства	Свойства
	Полнота спецификации требований к программному обеспечению системы безопасности	Корректность спецификации требований к программному обеспечению системы безопасности	Отсутствие собственных ошибок проекта	Простота и ясность	Предсказуемость поведения	Верифицируемость и тестируемость проекта	Отказоустойчивость/обнаружение отказов	Отсутствие отказов по общей причине
1 Ограничение размера программного модуля	-	-	R1	R1	R1	R1	-	-
2 Управление сложностью программного обеспечения	-	-	R1	R1	R1	R1	-	-
3 Ограничение доступа/инкапсуляция информации	-	-	R1	R1	R1	R1	-	-
4 Ограниченное число параметров/фиксированное число параметров подпрограммы	-	-	R1	R1	R1	R1	-	-
5 Одна точка входа и одна точка выхода в каждой подпрограмме и функции	-	-	R1	R1	R1	R1	-	-
6 Полностью определенный интерфейс	-	-	R2	R1	R1	R1	-	-