Этика искусственного интеллекта на примере Арктики

 

С.И. Кренц

исполнительный директор, начальник Департамента 

Национальной Безопасности 

Института Военно-Гуманитарных Технологий

 

директор Центра Арктических исследований и проектов

Президентской Академии (РАНХиГС)

 

старший преподаватель кафедры Безопасности 

факультета Безопасности и Таможни РАНХиГС Санкт-Петербург 

 

Аннотация: в статье дается обоснование этики искусственного интеллекта, описывается практика использования некоторых частных система ИИ в Арктике.

Ключевые слова: этика, искусственный интеллект, Арктика

 

 

Под искусственным интеллектом мы понимаем моделирование когнитивных функций человека – восприятие и распознание образов и речи, их запоминание, хранение, обработка для формирования и воспроизведения новых образов и речи, направленных на разрешение актуального для человека вопроса.

Задачи, которые решают сложные алгоритмы моделирования когнитивных функций – машинное обучение на статистических выборках, распознание, соотнесение и создание новых визуальных образов, текстов, видео и аудио фрагментов поведения человека (не существующего или конкретного гражданина).

В этой связи становится актуальным вопрос об этике искусственного интеллекта.

Мы провели ряд исследований, и разработали основные понятия этики искусственного интеллекта.

Этика (греч. ἠθική, от др.-греч. ἦθος — нрав, обычай) — практическая  наука и философская дисциплина, исследующая нравственность и нравственные правила, лежащие в основе поведения людей.

Нравственность – это общее выражение свойств человека, которые выполняют функцию этического регулирования отношений между членами общества. Особый настрой мышления и поведения, позволяющий не причинять вред себе, окружающим, среде обитания. Формируется с помощью других граждан и организаций, постоянно корректирующих поведение и самооценку человека.

В науке под этикой понимают область знания, а под нравственностью  — то, что она изучает. Термин «этика» иногда употребляется также для обозначения системы моральных норм определённой социальной группы, построенных на базе того или иного нравственного правила или принципа с учетом особенностей своей культуры и жизнедеятельности, традиций и взглядов.

Старая этика, которую использовало человечество, была основана на манипуляторных понятиях «добро» и «зло», с помощью которых объект, подлежащий разграблению, раскашивался под «зло», а субъект ограбления под «добро». Таким образом старая этика обеспечивала высокую летальность войн, стала причиной постоянных кровопролитий при перераспределении ресурсов. Военные ученые В.А. Чигирев и П.И. Юнацкевич создали новую этику, основу которой составили ряд принципов, правило и метод: глобальный экологически принцип (ГЭП – человек не должен причинять вред человеку); глобальный этический нравственный принцип (ГЭНП – человек должен вести себя так, чтобы не причинять вред человеку); нравственное правило III-C (не вредить себе (С1), соседям (С2), среде (С3) ни мыслью, ни словом, ни делом; созидать для себя, соседей, среды мыслью, словом, делом); дискурсивно-оценочный метод (все социально-значимые решения должны обсуждаться, оцениваться с помощью групповых экспертных и массовых этических оценок, затем  совместно исполняться и корректироваться с позиции правила III-C. 

Новая этика составляет содержание мировоззрения нравственного человека, объединяет в себя традиционные российские духовно-нравственные ценности, отраженные в Указе Президента России № 809 от 09 ноября 2022 года, подлежащего неукоснительному исполнению.

Цель старой этики – разделить людей на «добрых» и «злых», «хороших» и «плохих», «наших» и «не наших». Она оказалась  противоречивой, обманчивой, вредной для всего человечества. Возникло неравенство, эксплуатация и угнетение человека человеком, летальные войны.

Разделив таким образом людей, социопаты (лица, лишенные совести и сострадания к людям),  маскировали свое обогащение, убивая и грабя целые народы и государства. 

Старая этика была направлена на удовлетворение извращенных потребностей меньшинства, «золотого миллиарда». «Материя» стала цениться выше человека. «Священной частной собственностью» объявлено то, что не может быть объявлено  собственностью человека в принципе – а именно то, что этим человеком не создано: космос, земля, недра, люди. 

Вещные отношения распространены и на людей (отношение к человеку как к товару: можно продать, использовать, утилизировать).  Примат материального над духовным, культ ценности денег и обесценивание человека стали удобным инструментом для лиц нетрадиционной нравственной ориентации, вредителей, социопатов, социальных паразитов, международных мошенников, преступников и аферистов.

Таким образом, развитие общества и государства, использовавших старую этику, привело к захвату небольшой группой социопатов всех планетарных ресурсов и тотальному кризису земной цивилизации, бесконечным летальным войнам.  

Цель и смысл существования большинства людей по-прежнему сводится сегодня к банальной борьбе за жизнь. Не следует всерьез думать, что человечество достигло  фантастических высот в своем развитии.  Отдельные личности, гении, пытались своим примером указать «истинный путь». Но истины, открытые ими, закрыты и недоступны для большинства. 

Большинство нуждается в простой и понятной истине, близкой и достижимой цели. Эта истина–цель находится рядом. Она интуитивно ясна и близка каждому человеку. Имя ей - «нравственность». Именно нравственность является имманентно присущей и принципиально не отчуждаемой собственностью человека.

Нравственный путь, по которому завтра или послезавтра будет вынуждено пойти человечество, и есть путь построения будущей цивилизации. 

Государство и общество призваны помочь человеку стать нравственным. Каждый человек, идя по пути достижения нравственности, вносит свой вклад в построение этой цивилизации. 

Путь нравственности для конкретного человека и для общества в целом интересен и неисчерпаем, как и сама жизнь. Мы – только в начале пути в будущее.  Однако, старательно исполняя Указ Президента России № 809 от 09.11.2022 года, путь в будущее станет нравственным, благостным для каждого гражданина России и народов всего мира.

Новая или дискурсивно-оценочная этика  – это область исследований, в рамках которой изучается нравственность и способы её воспитания, сохранения и укрепления. 

Нравственность - поведение человека, при котором не причиняется вред себе, другим и окружающей среде. 

Новая этика выражает  основную сферу регуляции человеческих отношений и связанные с ней чувства солидарности, справедливости, свободы и этических ограничений поведения.

Новая этика лежит в основе экологических социальных технологий (экосоциальных технологий).

Экосоциальные технологии - совокупность приемов применения дискурсивно-оценочного метода при формировании нравственного мировоззрения для всего человечества.  Эти технологии используются для обеспечения примата духовного над материальным в сознании и поведении человека, согласно Указа Президента Российской Федерации № 809 от 09.11.2022 года.

На базе экосоциальных технологий конструируются системы искусственного интеллекта со встроенной дискурсивно-оценочной этикой, и внедряются дискурсивно-оценочные сети, встроенные в единое пространство государственного управления с функцией публичной поддержки принятия решений которые обеспечивают нравственное и созидательное поведение людей, нравственное поведение и нравственное управление. 

Нравственное поведение – это поведение, при котором исключается причинение вреда себе, другим людям и окружающей среде.

Нравственное управление – это процессы целеполагания, мотивации, организации, исполнения и контроля решений органов власти и частных организаций, исключающие причинение вреда гражданам и среде их обитания.

Структуру новой этики составляют экосоциальные технологии, обеспечивающие формирование нравственного поведения у любого социального и виртуального (кибер, информационного) субъекта.  

Экосоциальные технологии были разработаны в СССР военными учеными В.А. Чигиревым и П.И. Юнацкевичем, которые занимались решением проблемы снижения летальности войн. Войны – постоянный процесс, с помощью которого разрешаются все противоречия в отношениях людей, их устранить не представляется возможным. Однако летальность войн можно существенно снизить, применяя новые технологии, получившие название «экосоциальных».

Разработанные технологии снижения летальности противоборства людей военные ученые разделили на две группы:

1. Экосоциальные технологии дисциплинирования, к которым относится формирование профилей личности, групп и коллективов, социальное рейтингование, индексирование на базе применения методов групповой, коллективной и массовой оценки личности (ГОЛ, КОЛ, МОЛ) и метода естественных тестов (МЕТ), основанных на распознании и  экспертной социально-психологической оценке  фрагментов поведения человека.  Применяются эти технологии в автоматическом режиме с помощью соответствующих автоматизированных систем управления (АСУ) для дисциплинирования поведения человека. Эти технологии позволяют купировать недостатки правовой системы государства, в котором институты права не в состоянии обеспечить дисциплинирование масс, минимизировать криминализацию государства и общества.  

2. Экосоциальные технологии воспитания и обучения, которые объеденены в новое педагогическое направление -  нравственную педагогику, состоящую их специальных учебно-воспитательных комплексов, реализуемых через традиционные педагогические системы (учреждения образования) на протяжении всей жизни человека, обеспечивающие формирование нравственного поведения человека, то есть практическую реализацию правила III-C в поведении и мышлении каждого гражданина: на вредить себе (С1), соседям (С2), среде (С3) ни мыслью, ни словом, ни делом; созидать для себя, соседей, среды мыслью, словом, делом.

Этика  ИИ (искусственного интеллекта) неразрывно связана с новой этикой, направленной на воспитание нового человека, невредящего и созидающего. Такой человек не будет вести летальных войн, а противоборство неизбежно и будет осуществляться с помощью нелетальных гуманных средств и способов борьбы, которые разработаны были еще в СССР нашими военными учеными.

Оценка этичности социального действия  каждого каждым обеспечивает права и свободы каждого не декларативно, а по существу. Ценности не возникают без их оценки. Сохранение и укрепление ценностей осуществляется путем их регулярной групповой и коллективной оценки. В этом принципиальное отличие новой или дискурсивно-оценочной этики от старой этики. Этическая норма задается дискурсом, корректируется групповой, коллективной и массовой оценкой поведения конкретных субъектов, придавая этому поведению этический, то есть нравственный характер.

Основным способом обеспечения нравственного применения, эксплуатации систем ИИ выступают групповые, коллективные и массовые этические оценки граждан и визуализация их результатов в режиме реального времени, их ответы на простой вопрос: не навредил ли им ИИ, распознавший образ, текст, речь, поведение конкретного человека или группы людей. Если люди дают негативную оценку, то эта обратная связь должна приводить к блокировке неэтичной операции, совершенной ИИ. 

Визуальное отражение в информационных средах и дискурсивных площадках результатов массовых этических оценок практического применения ИИ выполняет функцию этического регулятора ИИ, придает ему нравственное координирующее начало.   

ИИ в целях обеспечения национальной безопасности может использоваться для слома сговоров и репутаций членов международных административных преступных групп (МАПГ – сговор международных финансовых аферистов с должностными лицами государств по ограблению населения страны, назначенной «мировым злом», «врагом человечества»), а также внутренних АПГ (административных преступных групп – сговоров должностных лиц по ограблению своего населения). Это слом ИИ может сделать путем визуализации деятельности  МАПГ, АПГ. ИИ может быть использован для осуществления изобличения в доступной для общества форме вредительской  деятельности МАПГ, АПГ.

ИИ может быть инструментов распознания социальных паразитов, криминальных личностей и преступных групп, анализируя дискурсивно-оценочные практики граждан в социально-оценочных сетях. Распознав признаки конкретного преступника, система ИИ может сигнализировать и помечать для правоохранительных органов такого субъекта.

ИИ, обрабатывая динамические данные дискурсивно-оценочных практик, сможет распознать связи преступников и нарушить их социальную маскировку. Используя ИИ на службе народа, власть приобретает доверие, опору, силу.  Так и только так население убеждается в нужности ИИ.

Без этики ИИ – инструмент манипулирования, способ создания угрозы и причинения вреда гражданам. Поэтому общество настороженно относится к ИИ, так как не решен вопрос об этике ИИ.

Наш научный коллектив (Институт военно-гуманитарных технологий) эту задачу решил и мы предлагаем собственникам и пользователям систем ИИ дискурсивно-оценочную этику, без которой ИИ будет просто неэтичным инструментом государства и бизнеса. 

Ясная этическая позиция (не вредить человеку) ИИ восстанавливает к нему доверие и оправдывает затраты на создание и эксплуатацию таких систем.  Затем осуществляется защита народа от деструктивной идеологии – идеологии денег во всем её многообразном проявлении с помощью ИИ.  

Эта деструктивная идеология выполняет функцию оружия массового поражения. Эффективное средство ведения когнитивной войны – переформатирует любое мышление, осуществит морально-психологическое разложение человеческого потенциала страны. Раб денег не способен воевать, защищать Отечество. Он способен воровать, паразитировать, вступать в сговоры, хитрить и маскироваться под «слугу народа».

Примат материального над духовным – источник разрушительной энергии социального паразитизма, ведущего человечество к катастрофе. Только в конце XX века военная наука СССР (В.А. Чигирев, П.И. Юнацкевич) разработала новую этику как решение проблем летальности, невозвратных потерь войн. Летальная война происходит бесконечно, и держится на старой этике. Противоборствующие стороны раскрашивают друг другу под «зло», себя под «добро» и идут убивать друг друга, вредят друг другу.

Только всечеловеческий запрет на вред человеку позволяет остановить эту повторяющуюся вновь и вновь трагедию очередной летальной войны.

Основа этого запрета – новая этика, которая принимается добровольно каждым человеком на планете Земля и образует этику ИИ.

Научные основы этики ИИ базируются на глобальном экологическом принципе, глобальном этическом нравственном принципе, правиле III-C и дискурсивно-оценочном методе. Технологии, обеспечивающие принятие и использование новой этики – экосоциальные технологии. Они делятся на два вида технологий:

технологии дисциплинирования, которые принуждают без всяческого объяснения к воздержанию от причинения вреда человеку;

экопедагогика как целенаправленный процесс непрерывного нравственного воспитания и обучения по разработанным для всех категорий населения учебно-методическим комплексам защиты и укрепления духовно-нравственных ценностей.

Как прекратить любую летальную войну – взять за основу переговоров новую этику. Убрать из переговоров лиц, придерживающихся старой этики и любых разделителей по имущественному, социальному, национальному, религиозному, расовому признаках. 

Советские ученые разработали новую военную доктрину: не как уничтожить максимум людей в ходе военного противоборства, а как этот максимум сохранить. Эти разработки актуальны, от их внедрения зависят жизни миллиардов людей.  Если войны XX века уносили миллионы жизней, то войны XXI века могут унести жизни миллиардов людей. Поэтому без новой этики путь в будущее будет туманным, кровавым и трагичным для миллиардов к удовольствую международных социопатов и всяческих извращенцев, финансовых аферистов и жуликов, сокращение населения для которых – уже официальная задача, известная всем.

Не будем медлить, меняем старую этику на новую и идем по нравственному пути, не вредим и созидаем.

Эта этика становится этическим регулятором ИИ и включает в себя следующие элементы:

1. Распознание, сохранение, воспроизводство образов, текстов, звуков, виртуального поведения субъектов, управляющих сигналов для технических систем ценности осуществляется в соответствии с глобальным экологическим принципом (ГЭП: человек не должен вредить человеку). Соответственно ИИ не должен создавать угрозы и причинять вред человеку.

2. Генерация образов, звуков, текстов, сигналов осуществляется на нравственной основе.

Нравственность – это общее выражение свойств человека, которые выполняют функцию этического регулирования отношений между членами общества. Особый настрой мышления и поведения, позволяющий не причинять вред себе, окружающим, среде обитания. Формируется с помощью других граждан и организаций, постоянно корректирующих поведение и самооценку человека.

 

Основные понятия этики ИИ

 

Безнравственный ИИ  – это процесс моделирования когнитивных функций человека, лишенного нравственности. Такой ИИ наносит вред, разрушает социальные и биологические основы жизни человека, поддерживает неравенство и приводит государство и общество к социальной катастрофе.

Безнравственность ИИ – синтезирование образов, звуков, текстов, сигналов, в результате которых человеку причинен вред.

Вред – ощущаемое и переживаемое человеком нарушение условий его нормальной жизнедеятельности. 

Глобальный экологический принцип (ГЭП): человек не должен вредить себе, другим людям и среде обитания.

Глобальный этический нравственный принцип (ГЭНП): человек должен соблюдать Глобальный экологический принцип (ГЭП) осознанно.

Гражданское согласие (позитивное или негативное) – это мнение граждан, выраженное в оценочной форме по поводу социальных действий социальных субъектов.

Деструктивная идеология – это культивирование приоритета материального над духовным: безнравственности, вседозволенности, эгоизма, веры в деньги как в Бога. 

Дискурсивно-оценочный метод (ДОМ) – способ регулирования социальных отношений, основанный на групповой экспертной и массовой оценке при обсуждении социально-значимых решений.

Дискурсивно-оценочная этика - это область исследований, в рамках которой изучается нравственность, технологии и способы её воспитания, сохранения и укрепления. 

Индекс нравственности – численный показатель вреда от социальных действий или бездействий субъекта. Формируется в процессе этического оценивания.

Когнитивные функции — это процессы восприятия, мышления, запоминания и решения проблем, которые позволяют человеку взаимодействовать с окружающим миром. Они являются основой  способности к обучению, принятию решений и адаптации к новым ситуациям.

Коллектив – социальная группа, в которой сформирована нравственная атмосфера, характеризующаяся следующими признаками: внутренним единством идей, целей, задач; совместным способом деятельности; взаимовыручкой и поддержкой друг друга по принципу «один за всех и все за одного»; самоуправлением, где каждый член коллектива играет роль исполнителя при решении одной задачи, и руководителя при решении другой задачи; возможностью каждому члену коллектива завоевать авторитет в форме общего признания социального и профессионального соответствия занимаемой должности или роли; дружбой, спокойствием и уверенностью в будущем каждого члена коллектива; конструктивным поведением членов коллектива, обеспечивающим им сохранность психического и соматического здоровья; чувством гордости за принадлежность к коллективу; совместным обсуждением и принятием управленческих решений.

Негативное гражданское согласие – это консолидированное осуждающее мнение множества социальных субъектов по поводу социальных действий или бездействий других социальных субъектов. Является инструментом граждан, общества и государства по обеспечению приоритета духовного над материальным – по защите и укреплению духовно-нравственных ценностей.

Нравственная педагогика (НП) или экопедагогика (ЭП) – практическая педагогическая наука о способах обучения и воспитания, дополненная дискурсивно-оценочным методом.

Нравственный ИИ – это такой процесс синтезирования и генерации образов, звуков, текстов, сигналов, при котором соблюдается нравственное правило человека III-C: не вредить себе (С1), соседям (С2), среде обитания (С3) ни мыслью, ни словом, ни делом; созидать для себя, соседей, среды мыслью, словом, делом.  

Нравственное правило III-C: не вреди себе (С1), соседям (С2), среде обитания (С3) ни мыслью, ни словом, ни делом; созидай для себя, соседей, среды мыслью, словом, делом.

Нравственность – безвредное и созидательное поведение человека по отношению к самому себе и другим людям.

Нравственный принцип – не вредить себе, окружающим, среде обитания. Реализуется в нравственном правиле «Три С» (III-C): не вреди себе, соседям, среде ни мыслью, ни словом, ни делом; созидай для себя, соседей, среды мыслью, словом и делом.

Обратная социальная связь – это отношения граждан к друг другу,  субъектам профессиональной деятельности, обществу и государству, возникающие в ответ на взаимодействие. Учет обратных связей является основной безопасности человека, общества и государства.

Политика – это система социальных отношений по поводу распределения общественных благ. 

Приоритет духовного над материальным – преобладание созидательных действий над деструктивными.

Проблема моделирования когнитивных функций — это проблема умственной скромности граждан, процессы восприятия, мышления, запоминания которых не способствуют решению их проблем (неравенство, эксплуатация человека человеком, социальный паразитизм, социопатия) и не позволяют человеку адекватно взаимодействовать с окружающим миром. Моделирование когнитивных функций людей, не способных к обучению, принятию нравственных решений, испытывающих затруднения в адаптации и имеющих массу девиаций в поведении, психических заболеваний и пограничных состояний, - будет всегда носить некорректный и неадекватный характер.

Смена мировоззренческой парадигмы – процесс перехода от приоритета материального над духовным к приоритету духовного над материальным, когда человек созидает для других людей.

Совесть – этический регулятор поведения человека и гражданина, его внутренний настрой. Формируется в атмосфере смены мировоззренческой парадигмы – в процессе нравственного воспитания с помощью других граждан и организаций, корректирующих поведение и самооценку личности.

Созидание – общественно-полезная деятельность, основанная на бескорыстной самоотдаче.

Социальная фильтрация – процедура групповой, коллективной и массовой оценки нравственности и профессионального соответствия кадров, служащая обоснованием адекватных кадровых решений. Направлена на обеспечение устойчивости и надежности системы государственного управления и местного самоуправления. 

Социальное действие – результат активности социального субъекта: намерения, заявления, решения и поступки, затрагивающие интересы нескольких (двух и более) граждан.

Социально-паразитическая структура – организация, все усилия которой направлены на получение средств для поддержания собственного существования. Характерным свойством такой структуры является имитация её основной деятельности по решению актуальных социальных задач. 

Социальный паразитизм – способ существования социального субъекта, руководствующегося идеей личной наживы любой ценой.  Следствие культа денег, двойных стандартов, расхождения слова и дела. Социальный паразит живет за счет других социальных субъектов, не участвуя в их созидательной деятельности или имитируя такое участие.

Социальный процесс – это способ существования социального субъекта, его жизнедеятельность, осуществляемая во взаимодействии с другими социальными субъектами.

Социальный субъект – это и отдельный человек, и группы людей в их объединениях, организациях, предприятиях; это также администрация, правительство и гражданское общество в целом.

Социопатия – общественно-опасное заболевание, сопровождаемое утратой совести и чувства сопереживания другим людям.

Технология смены мировоззренческой парадигмы основана на дискурсивно-оценочном методе (ДОМ), который заключается в организации широкого участия граждан в обсуждении и оценке социально-значимых решений с позиций ГЭП, ГЭНП, III-C. 

Технологии дисциплинирования – экосоциальные технологии, которые принуждают без всяческого объяснения к воздержанию от причинения вреда человеку.

Угроза – потенциальный вред жизнедеятельности человека.

Шкала этической оценки (бинарная, многобалльная) – это способ оцифровки и наглядного представления оценки уровня нравственности социального субъекта. Шкалы этической оценки могут использоваться гражданами, организациями и органами государственной и муниципальной власти для организации этического оценивания социальных субъектов.

Экосоциальная технология профилактики летальных войн заключается в создании дискурсивно-оценочной практики выявления универсальных врагов человечества (социопатов, социальных паразитов), которые для сохранения своего произвола, безнравственности и безответственности, а также для удержания захваченной власти и богатств разжигают локальные и глобальные летальные войны, сталкивают людей, народы и государства в кровавые бойни под различного рода демагогическими и провокационными лозунгами. 

Экосоциальные технологии (ЭСТ) – совокупность приемов применения дискурсивно-оценочного метода при формировании новой мировоззренческой парадигмы.

Экопедагогика -  целенаправленный процесс непрерывного нравственного воспитания и обучения по разработанным для всех категорий населения учебно-методическим комплексам защиты и укрепления духовно-нравственных ценностей.

Этическая оценка – это оценка гражданами нравственности или безнравственности действий других граждан и организаций в целях блокирования последствий безнравственного поведения.

Этика ИИ – процедура учета оценки гражданами нравственности или безнравственности действий других граждан и организаций, образов, текстов, звуков сигналов, сгенерированных ИИ, в целях блокирования последствий безнравственного поведения людей и применения ИИ.

 

 

Российская Арктика как объект применения ИИ

 

 

Российская Арктика является положительным примером внедрения информационных технологий (технологический уклад 4.0.), а также технологий искусственного интеллекта (технологический уклад 5.0.). В XXI в. IT-технологии в российской Арктике смогли существенно повысить качество жизни северян, примерами чего является создание IT стойбищ, доступ к Интернету из тундры.

Проекты в Арктике, связанные с внедрением ИИ-технологий, также становятся всё более популярными: в статье приводится таблица арктических ИИ-проектов. Анализ вакансий в области IT и ИИ во всех субъектах АЗРФ на сайте рекрутингового агентства headhunter показал, что наибольшее количество вакансий в сфере IT размещено непосредственно в Мурманской области (74 вакансии). В исследовании были проанализированы также резюме соискателей Мурманской области, размещённые в разделе Artificial Intelligence. Исследование показывает, что знание языка программирования Python, баз данных SQL и английского языка является обязательным условием для всех ИИ-специалистов.

Было также определено, что зарплата у ИИ-специалистов существенно выше, чем у специалистов ИТсферы. Мурманская область выходит на лидирующие позиции в области развития и внедрения как технологий IT, так и технологий искусственного интеллекта; в первую очередь это связано с развитием логистики и Северного морского пути как альтернативы существующим морским маршрутам.

В настоящее время смена технологического уклада осуществляется с огромной скоростью. В своей рождественской лекции «Итоги 22 года и перспективы на будущее» Дмитрий Песков подчёркивает, что «на горизонте 2030 года появится уже принципиально другая модель интернета — многие серверы, поисковые связи и email’ы в ближайшие годы будут умирать, «Яндекс» и «Google» это понимают».

Цифровизация является основным двигателем развития производства XXI в., происходят изменения продуктов, производственных процессов и бизнес-моделей Цифровизации «Индустрия 4.0» стала устоявшейся концепцией среди политиков, бизнес-лидеров и учёных. При этом китайские исследователи уже пишут о развитии «Индустрии 5.0», которая заключается в использовании уникального творчества специалистов-людей в сотрудничестве с мощными, интеллектуальными и точными машинами.

В июле 2021 г. Всероссийский центр изучения общественного мнения (ВЦИОМ) и АНО «Национальные приоритеты» представили данные опроса россиян на тему отношения к искусственному интеллекту, проведённого в рамках реализации федерального проекта «Искусственный интеллект» нацпроекта «Цифровая экономика».

Подавляющее большинство россиян (81%) знакомы с термином «искусственный интеллект» (ИИ), при этом 32% декларируют, что могут объяснить его значение, не знакомы с этим термином 18% наших сограждан.

Не вызывает сомнений, что новые технологии искусственного интеллекта (машинное обучение, компьютерное зрение, распознавание речи, бизнес-аналитика, автоматизация процессов, беспилотники, машинный перевод, интеллектуальный анализ данных и т. п.) стремительно меняют жизнь человечества во всем мире, в России и, конечно, в российской Арктике. 

Ожидается, что использование технологий искусственного интеллекта в Арктике позволит нарастить объёмы морских перевозок по СМП, а жители удалённых от больших городов арктических посёлков получат качественную мобильную связь, постоянный доступ в Интернет предоставит возможность дистанционного обучения.

Российская Арктика является положительным примером внедрения технологий IT и ИИ. Цель внедрения таких технологий — повышение качества жизни северян. Так, ИТстойбища хантов и манси известны на весь мир — отсюда коренные народы Севера подключаются к конференциям ООН.

В 2022 г. «Ростелеком» сообщил, что завершил строительство подводной волоконно-оптической линии связи на Чукотке — этот регион оставался последним не подключённым наземными волоконно-оптическими линиями к общей сети связи РФ.

В 2022 году г. Норильск организовал проведение первого регулярного арктического ITфестиваля с участием экспертов из российских и зарубежных компаний.

Проекты в Арктике, связанные с внедрением ИИ-технологий, также становятся всё более популярными, при этом лидером по внедрению такого рода проектов стала Мурманская область. Импульс такому прорывному инновационному развитию региона в том числе дал Губернатор Мурманской области А. Чибис, возглавивший в ноябре 2022 г. рабочую группу Госсовета по обеспечению транспортно-логистического и социально-экономического развития российской Арктики. 

В феврале 2023 г. состоялось заседание президиума Государственной комиссии по развитию Арктики, на котором было принято решение о признании проекта строительства современного комплекса перегрузки угля «Лавна» в морском порту Мурманск приоритетным для финансирования. 

Также в феврале 2023 г. стало известно, что «ТОР «Столица Арктики» будет расширена для реализации проекта «Строительство Западного транспортно-логистического узла». В Кольском районе планируется возведение контейнерного терминала для международных транзитных морских грузоперевозок. Там будет осуществляться перевалка грузов на суда ледового класса, которые работают на трассах Северного морского пути.

Концепция умного устойчивого города (концепция смарт-сити) является достаточно популярной и применяется для развития городов в Арктической зоне, она базируется на применении технологий искусственного интеллекта. Такой подход получил распространение в странах Северной Европы в контексте решения социально-экономических проблем (города Дании, Швеции, Норвегии, Исландии и Финляндии). В статье «Умные города на крайнем севере: сравнительный анализ Архангельска, Будё, Мурманска и Тромсё» авторы И. Ходачек, К. Дельва, К. Галустов отмечают перспективные городские практики с применением ИИ-технологий — «городские лаборатории» (citizen lab), совмещающие в себе возможности онлайн- и офлайн-вовлечения, а также практики геймификации (игрового вовлечения) в транспортном приложении (практики г. Будё). 

Универсального определения умного города, как отмечают авторы, не существует, однако его часто описывают как город, где инвестиции в человеческий и социальный капитал, а также традиционную (транспортную) и современную ИКТ-инфраструктуру способствуют устойчивому экономическому росту и высокому качеству жизни при разумном управлении природными ресурсами через вовлечение горожан.

Аналитический обзор «Применение систем искусственного интеллекта в условиях нового этапа освоения Арктики» под редакцией Союза промышленников и предпринимателей Заполярья приводит результаты опроса экспертов в сфере ИИ. Две трети экспертов полагают, что технологии искусственного интеллекта являются универсальными и не зависят от территорий применения. Так, один из экспертов ответил, что не существует арктических особенностей применения методов математического анализа или технологий баз данных, но при этом отмечается ряд задач, специфичных для условий Арктики. Искусственный интеллект в Арктике может взять на себя решение вопросов во всех сферах, связанных с рутинными технологическими процессами: в добыче или использовании природных ресурсов, логистике, системах жизнеобеспечения, телекоммуникациях и управлении информацией, наблюдении и анализе обстановки. Также в обзоре речь идёт о дистанционной оценке состояния и коррекции здоровья северян в режиме телемедицины с применением технологий ИИ.

Авторы А. Пилясов и В. Цукерман определили хронологию развёртывания нового технологического уклада в российской Арктике в последние три десятилетия в своей статье «Становление нового технологического уклада в Арктике за период 1990–2021 гг.: региональный разрез». Авторы подчёркивают, что Ненецкий автономный округ стал пилотной площадкой развёртывания нового технологического уклада в российской Арктике, они объясняют причины выдвижения Ненецкого автономного округа на роль пилотной площадки технологических, организационных, институциональных экспериментов и инноваций для Арктической зоны. НАО стал районом пионерного хозяйственного освоения в российской Арктике и местом внедрения технологических, организационных, институциональных инноваций, методов социально ответственного и экологически сбалансированного природопользования, с которыми было связано формирование новой технико-экономической парадигмы в Арктике.

О. Пичков, А. Уланов и К. Патрунина в работе «Цифровизация Арктики» отмечают, что цифровая трансформация Арктики в России является стратегическим приоритетом государства, она должна способствовать развитию Крайнего Севера, который остаётся частично отрезанным от широкополосного подключения и базовых Интернет-услуг. Другая роль цифровизации заключается в развитии логистики и СМП как альтернативы существующим морским маршрутам. За последние годы был внедрён ряд инициатив, например, система «Капитан», которая использует различные источники данных, такие как объёмы добычи и запасы нефти, местоположение судов, ледовые и погодные условия. Возможности ИИ-системы «Капитан» позволяют в режиме реального времени анализировать эффективность работы, скорость, объёмы загрузки и расход топлива.

А. Федотовских пишет о создании условий, разработке и внедрении готовых систем искусственного интеллекта для их практического использования в хозяйственной деятельности экономических субъектов АЗРФ. В условиях продолжающегося оттока населения из регионов Крайнего Севера и Арктики искусственный интеллект и внедрение робототехники способны частично заменить (в ряде случаев — полностью исключить) человека в процессах хозяйственной деятельности. Автор полагает, что в Арктике необходимо создавать автоматизированные промышленные комплексы, которые устранят потребность в значительной части человеческого труда.

Выбор Мурманской области для анализа обусловлен целым рядом причин. 

Во-первых, этот регион является самым населённым северным городом в Арктической зоне РФ, в связи с чем количество вакансий в области IT и ИИ там существенно выше, чем в другом регионе АЗРФ, как показал анализ вакансий ведущего российского рекрутингового агентства «headhunter». Мурманск является центром социально-экономической, культурной и интеллектуальной жизни Мурманской области, неслучайно в РФ зарегистрировано всего 2 ТОР - «Столица Арктики» в Мурманской области и ТОР «Чукотка». В Мурманске находится несколько региональных университетов, учреждения здравоохранения и культуры. Город Мурманск являются важным логистическим центром Крайнего Севера. В Мурманске начинается Северный морской путь России, точнее, его Поморский сектор. В Мурманске располагается администрация морских портов Западной Арктики.

В Апатитах и Мурманске также находятся крупнейшие международные аэропорты Крайнего Севера. Особенности Мурманской области заключаются также и в выгодном территориальном положении в АЗРФ, составлен перечень наиболее популярных проектов в российской Арктике, где на современном этапе активно внедряются ИИ-технологии. Причём спектр этих ИИ-технологий достаточно обширен и включает автоматизацию процессов, беспилотники, машинный перевод, интеллектуальный анализ данных. Некоторые из проектов включают сразу несколько направлений технологий ИИ, например, Botkin.AI — платформа на базе технологий искусственного интеллекта, таких как компьютерное зрение, автоматизация процессов, интеллектуальный анализ данных и процессов, осмысление закономерностей.

Стоит отметить, что в настоящее время преимущественно главной арктической территорией реализации ИИ-проектов становится Мурманская область. Анализ IT и ИИ-вакансий во всех субъектах АЗРФ, которые размещены на сайте рекрутингового агентства headhunter показал, что наибольшее количество вакансий в сфере IT размещаются в наиболее населённых территориях АЗРФ: Мурманской области (74 вакансии), Архангельской области (60 вакансий), ЯНАО (53 вакансии), на арктических территориях Красноярского края (38 вакансий). Размещённых вакансий в области искусственного интеллекта в АЗРФ практически нет, они сконцентрированы преимущественно в крупных городах РФ — Москве и Санкт-Петербурге.

В настоящее время в АЗРФ смещаются тренды экономического развития. 21 февраля 2023 г. Президент РФ внёс долгожданные изменения в «Основы государственной политики Российской Федерации в Арктике на период до 2035 года» 31, в новой редакции которой появилось понятие «инновационное развитие». Становятся востребованными необходимые навыки в области искусственного интеллекта и интеллектуальных информационных систем для решения технологических задач именно на арктических территориях Российской Федерации, в связи с чем государственная политика Арктики переориентируется на инновационное развитие.

В разработанном в 2021 г. НИУ-ВШЭ «Атласе профессий будущего» представлены перспективных профессий с использованием ИИ, выявленных на основе анализа глобальных трендов технологического развития, прогнозов, оценок работодателей и экспертов. Исследователями прогнозируется, что ключевым фактором в скором времени станет повсеместное внедрение Интернета вещей (интеллектуальные контейнеры, беспилотные транспортные средства и др.). 

На практике получается, что перечень различных ИИ-проектов в российской Арктике постоянно совершенствуется, расширяется и уже включает в себя не только новые разработки в сфере добычи полезных ископаемых и оптимизацию затрат на производство, но также автоматизацию процессов, беспилотники, машинный перевод, интеллектуальный анализ данных, машинное обучение, компьютерное зрение и т. п. В общей сложности в АЗРФ уже стартовало около 50 проектов в сфере технологий искусственного интеллекта. На этапе создания и проектирования новые проекты: создание цифровых двойников территорий и предприятий, внедрение нейросетей на борту беспилотников, создание смарт-городов (Мурманск и Норильск), перевозки по СМП при помощи блокчейн и т. д.

Анализ вакансий в IT и ИИ-областях во всех субъектах АЗРФ на сайте рекрутингового агентства headhunter показал, что наибольшее количество вакансий в сфере IT размещено непосредственно в Мурманской области (74 вакансии). Были проанализированы не только вакансии, но и резюме соискателей Мурманской области, размещённые в разделе Artificial Intelligence (подраздел «Интеллектуальный анализ данных и процессов, осмысление закономерностей / Data mining, Process Mining»). Было определено, что зарплата у ИИ-специалистов существенно выше, чем у специалистов ИТ-сферы. Опыт Мурманской области как позитивного примера развития искусственного интеллекта в Арктике чрезвычайно важен в контексте понимания текущих трендов российского высокотехнологичного сегмента на рынке труда, а также перспектив социально-экономического развития всего арктического макрорегиона и Мурманской области как его локомотива.

Примечательно, что в 2023 г. в СПбГУ была запущена магистерская программа «Искусственный интеллект и наука о данных». Отличительной особенностью программы является блок дисциплин «Искусственный интеллект для Арктического региона». 

Выпускники программы могут выбрать широкий спектр направлений, например:

-  аналитику, архитектуру и разработку специальных систем для глобальной транспортной отрасли и мобильной телемедицины в труднодоступных поселениях в Арктике;

- внедрение цифровых решений в металлургии, нефтяной, газовой и химической промышленности; создание систем управления электросетевой и генерирующей инфраструктуры; 

- формирование базиса для «умных домов» и «умных городов» в сфере строительства и ЖКХ; 

- автоматизированную обработку информации, поступающей от средств спутникового зондирования и технологического видеонаблюдения. 

Запуск такой образовательной программы ещё раз доказывает тот факт, что

навыки в области искусственного интеллекта становятся крайне востребованными для решения технологических задач именно на арктических территориях Российской Федерации.

На основе проведённого анализа вакансий в IT и ИИ-областях, а также перечня ИИ-проектов АЗРФ можно подчеркнуть, что ИИ-технологии Мурманской области будут развиваться в следующих ключевых направлениях: 

- в сфере интеллектуального компьютерного зрения, 

- анализа и обработки текстов на естественном языке и изображений, 

- управления транспортной инфраструктурой, обработки данных крупных промышленных предприятий,

- технологий здоровьесбережения на основе данных в условиях Крайнего Севера,

- технологий разработки программного обеспечения в прикладных задачах. 

 

Выводы

 

 

ИИ без встроенной этики может использоваться для причинения вреда гражданам, отъема и перераспределения ресурса к личной выгоде собственников и бенефициаров  ИИ. Так реализуется  корыстный мотив, прикрываемый полной безответственностью. Лица, мировоззрение которых составила старая этика, стали использовать ИИ для криминальных задач, например для моделирования голоса граждан в целях мошенничества, завладения их деньгами путем просьб об одолжении денежных сумм со стороны родственников, голоса и видеообразы которых синтезируются с помощью ИИ.  Криминализация ИИ направлена на личное  материальное обогащение за счет ограбления граждан. ИИ без этики стал угрозой для государств  и граждан.

Обучение ИИ новой этике для обеспечения приоритета духовного над материальным при синтезировании новых образов, текстов, речи, видеоматериала задает нравственное координирующее начало любому делу, разрешаемому с помощью ИИ. Системы ИИ не должны наносить ущерба гражданам, государствам. Социально-экономические проблемы должны обсуждаться в дискурсивно-оценочных практиках и отражаться в системах ИИ как актуальные знания, информация для синтезирования новых образов, звуков, текстов.  Функционирование ИИ должно быть построено на  принципе непричинения вреда конкретному человеку, группе и коллективу  граждан, массе людей. Как только конкретный человек, группа или коллектив, массы граждан оценят деяние (распознание и создание образов, текстов, звуков, сигналов управления или воздействия на человека и его отношения), - эта оценка должна незамедлительно стать регуляторным сигналом для коррекции применения ИИ.

Нравственность, как идея непричинения вреда, естественным образом принимается каждым собственником и пользователем ИИ, используется в обеспечении национальной безопасности Российской Федерации, выступает основой всей жизнедеятельности граждан, в том числе и в освоении Арктики.

Указ Президента Российской Федерации № 809 от 09.11.2022 года направлен на преодоление последствий нравственного кризиса, в ходе которого произошла девальвация традиционных ценностей, сформировался культ денег и обогащения любой ценой. Нравственный кризис привел к кризисам во всех сферах жизнедеятельности человека. Возникли новые угрозы общественной безопасности, усилились традиционные вызовы, такие как коррупция, организованная преступность, терроризм, экстремизм, бедность и нищета.  Стала очевидна необходимость защиты и укрепления нравственности человека, общества и государства, создание правового механизма её обязательного учета во всех сферах жизнедеятельности граждан.

Указ Президента Российской Федерации № 809 от 09.11.2022 года определяет   механизм обеспечения национальной безопасности Российской Федерации на основе учета нравственности в регулировании общественных отношений и социальных процессов и использовании ИИ.

На основе данного Указа Президента Российской Федерации вводится этическая, профессиональная и правовая ответственности за безнравственность, не этичное поведение и бессовестность, злоупотребление ИИ.

Исполнение Указа Президента Российской Федерации должно обеспечить реализацию нравственного подхода во всех процессах жизнедеятельности граждан Российской Федерации, в том числе и в вопросе моделирования и применения систем ИИ.

С.И. Кренц

исполнительный директор, начальник Департамента 

Национальной Безопасности 

Института Военно-Гуманитарных Технологий

 

директор Центра Арктических исследований и проектов

Президентской Академии (РАНХиГС)

 

старший преподаватель кафедры Безопасности 

факультета Безопасности и Таможни РАНХиГС Санкт-Петербург

 

 

 

Данные для цитирования:

 

Кренц С.И. Этика искусственного интеллекта на примере Арктики: Аналитический доклад. – Санкт-Петербург: Департамент национальной безопасности Института военно-гуманитарных технологий, 2024. – 19 с.