Нейросеть для ловли стрелков

Последняя трагедия с участием «пермского стрелка» в очередной раз поставила вопрос о том, как сделать, чтобы в стенах учебных заведений можно было чувствовать себя в безопасности. Одним из методов профилактики, возможно, станет программное обеспечение, способное по текстам учащихся выявлять их склонность к насилию и деструктивному поведению. Разработка будет осуществлена в рамках федерального проекта «Социальная активность», который в свою очередь входит в состав национального проекта «Образование».

Как известно, существует официально признанная наука графология, способная по почерку человека определить черты его личности. Но сегодня люди все чаще набирают тексты на компьютере или других гаджетах, а не пишут вручную. Зато анализ электронных текстов позволяет получить широкий спектр данных, исследовав их стиль и содержание. Кроме того, о человеке можно многое сказать, просто исследуя его поведение в соцсетях.

Так, Дэвид Стиллвэлл и Михал Косински из Кембриджского университета (Великобритания) разработали компьютерную программу, способную просчитать черты личности и характера пользователя, ориентируясь на лайки, оставленные им в социальных сетях.

Программа позволяет идентифицировать пользователей по пяти критериям, используемым западными психологами для исследований модели личности человека: это доброжелательность, открытость, добросовестность, эмоциональная стабильность и экстраверсия.

Для того чтобы проверить точность работы алгоритма, исследователи создали специальное игровое приложение к Facebook – myPersonality. В ходе работы с ним пользователям предлагалось ответить на ряд вопросов, касавшихся их мировоззрения, а также оценить черты характера одного или нескольких своих «френдов» в соцсети.

Выяснилось, что виртуальная программа справлялась с задачей идентификации личности куда лучше, чем это делали виртуальные и реальные друзья и знакомые человека. Ей было достаточно всего 10 лайков, чтобы дать более точную оценку личности человека, чем это делали его коллеги по работе, 70 лайков – чтобы превысить показатели друзей, и 150 – родственников.

Несколько лет назад специалисты из бизнес-школы Технологического университета Сиднея создали специальный алгоритм, позволяющий выявлять ложь в постах, которые размещают пользователи. Ученые подвергли анализу тысячи общедоступных постов, размещенных в Facebook, Twitter, TripAdvisor и Instagram. По мнению экспертов, пользователи, которые лгут, реже используют местоимения, которые относятся к ним самим, например «я» или «мне», так как неосознанно люди пытаются дистанцироваться от лжи…

Ложь помогает людям в первую очередь повысить свою значимость, создавая более привлекательный образ собственной персоны. Некоторые размещают неправдивые отзывы о товарах и услугах за определенные бонусы и подарки от компаний.

Разработкой программы по выявлению школьных стрелков в России будет заниматься автономная некоммерческая организация под названием «Центр изучения и сетевого мониторинга молодежной среды (ЦИСМ)», созданная в 2018 году по поручению Президента РФ Владимира Путина. На сайте организации говорится: «Центр создан с целью выработки системы по защите молодого поколения, детей и подростков от воздействия негативной информации. Центр выявляет контент, связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями в молодежной среде».

На сегодняшний день основная задача сотрудников центра – мониторить порталы и аккаунты в Сети на предмет контента, который может оказаться опасным для подростков, например, содержит призывы к насилию, суициду, вовлечению в секты, преступные организации и т. п. Если таковой находится, информация передается в правоохранительные организации, а соответствующие страницы подлежат полной блокировке.

Что же касается нового софта, то на его создание планируется выделить из бюджета более 1,6 миллиарда рублей. Предполагается, что работа будет вестись с 2022 по 2024 год.

Какие алгоритмы лягут в основу работы нового ПО, пока неясно. По мнению экспертов, это может быть нейросеть, которая станет проводить сравнительный анализ письменных работ учащихся с текстами, авторами которых являются люди с выявленными психическими или социальными отклонениями. Если обнаружится высокий процент совпадения с паттернами, это станет основанием для того, чтобы бить тревогу.

«Определенные паттерны мышления действительно проявляются в устной и письменной речи, и алгоритмы могут позволить выявить те из них, что настораживают», – прокомментировал детский психиатр Европейского медицинского центра Павел Зайцев.

Однако, с другой стороны, разработка подобного ПО вызывает немало вопросов, которые предстоит еще проработать. Прежде всего это вопрос защиты персональных данных. Сегодня по закону сбор и обработка информации о несовершеннолетних возможны лишь с согласия их законных представителей – родителей или опекунов. Потом неясно, пойдет ли речь только о работах, которые выполнены в рамках учебной программы, или и о других текстах, скажем, постах или записях в аккаунтах. Ведь при желании можно прочитать и проанализировать и приватную переписку в мессенджерах.

Допустим, благодаря новому софту среди подростков и молодежи будут выявлены индивиды с деструктивными склонностями. Что делать с ними дальше? Если человек еще не совершил ничего криминального, то уголовного дела на него не заведешь и не изолируешь, это противозаконно. По-видимому, будет разработана какая-то система профилактики, то есть с учащимся будут работать психологи и другие специалисты, целью которых станет стабилизировать его психику и предотвратить социально опасные поступки. Но насколько эффективной окажется такая тактика? Не приведет ли она к дискриминации, когда школьников, которые пишут «что-то не то», будут исключать из учебных заведений и помещать в какие-то специальные школы или даже интернаты для малолетних преступников, а то и в психиатрические клиники? Конечно, это уже из области паранойи, но сбрасывать такую тенденцию со счетов нельзя…

Впрочем, программы все равно пока нет. Когда она появится, тогда нам с вами и придется задуматься на эту тему.