28 января 2020

SomeBuddy — друг, который поможет при онлайн-домогательствах

Девочка подросток с телефоном в руках грустно смотрящая в окно.
Где проходит грань между злобой и ненавистью? SomeBuddy помогает людям определить это.
SomeBuddy

Эта финская компания напоминает, что нам не стоит игнорировать онлайн-домогательства: это может оказаться преступлением и иметь серьезные последствия.

Неприятные анонимные комментарии в интернете о газетной статье или направленные на незнакомца, который оценивает чью-то манеру одеваться, могут быть обидными. Но есть и более серьезные аспекты онлайн-издевательств, которые иногда даже могут представлять интерес для полиции. Тем не менее, зачастую нелегко сказать, где проходит грань между раздражающим и преступным.

И именно в этом хочет помочь финская компания SomeBuddy. Будь то клевета, распространение неверной информации, шантаж с использованием личных фотографий или попытки ухаживать за несовершеннолетними девочками и мальчиками, — платформа компании призвана помочь людям взять дело в свои руки.

«Конечно, мы все знаем, что издевательства в интернете — это неправильно, но не все осознают, что это может быть преступлением, — говорит Эйа-Леена Копонен (Eija-Leena Koponen), руководитель отдела искусственного интеллекта в SomeBuddy. — Многих пугает обращение в полицию, поэтому наша задача — предложить легкодоступную помощь и руководство к действию».

Анонимные ответы раскрывают преступления

Темноволосая женщина в тёмном платье.

У SomeBuddy три сооснователя. Эйа-Леена Копонен присоединилась к команде около года назад.

SomeBuddy

Принцип работы SomeBuddy заключается в следующем: у платформы есть набор вопросов, на которые легко ответить даже восьмилетнему ребенку. Вопросы используются для формирования оценки ситуации респондента, а ответ генерируется автоматически с использованием машинного обучения совместно с человеком в конце сессии общения. Например, если ребенок хочет знать, нормально ли, что группа учеников в его классе распространяет личную фотографию, из ответа станет понятно, так ли это, и какие есть возможности отреагировать — в соответствии с возрастом.

Иногда информация, передаваемая SomeBuddy, может указывать на серьезные преступления, например, на сексуальное домогательство. Копонен подчеркивает, что, хотя их служба анонимная, в очень серьезных случаях есть способы, с помощью которых SomeBuddy может дать совет и побудить человека сообщить о произошедшем в полицию.

SomeBuddy также отправляет респонденту письмо, которое он может показать надежному взрослому, например, кому-то из родителей или учителю, или доставить непосредственно в полицию.

«Для полиции подобное письмо — материал для предварительного расследования», — говорит Копонен.

Однако не все пользователи молоды или как-то особенно уязвимы. SomeBuddy также протягивает руку помощи взрослым, которые задаются вопросом, можно ли расценить направленную на них ярость при общении в интернете, например, реплики в Твиттере, как преступление или разжигание ненависти. Это, по словам Копонен, избавляет их от необходимости тратить деньги на консультации у юристов. У полиции часто не хватает ресурсов, чтобы начать расследование подобных «пограничных» дел, поэтому SomeBuddy помогает определить, стоит ли с сразу же обращаться в полицию или нет.

В гостях у шведской королевской семьи

Работа компании в настоящее время охватывает Финляндию и Швецию. Финская компания по кибербезопасности F-Secure предлагает SomeBuddy в одном из своих пакетов услуг. В то же время фирма SomeBuddy ищет учреждения и структуры, такие как школы, общественные и благотворительные организации, с которыми можно сотрудничать. Например, финский город Турку предоставляет своим ученикам, студентам и школьным работникам бесплатный доступ к платформе SomeBuddy.

«В некотором смысле предложить использование SomeBuddy целой группе молодежи — это способ повысить иммунитет и чувство защищенности для группы, — объясняет Копонен. — Даже если это не препятствует запугиванию или приставанию, по крайней мере, оно повышает осведомленность о последствиях своих действий».

Копонен отмечает, что, поскольку в мире существуют миллиарды пользователей социальных сетей, впереди у компании огромный рынок для завоевания. В дальнейших планах — сосредоточиться на Германии и Великобритании, а это означает, что контент необходимо будет скорректировать в соответствии с правовой базой каждой страны.

Компания уже вызвала интерес за пределами Финляндии. Одна из основателей SomeBuddy, Суви Уски (Suvi Uski), даже посетила королевскую семью в Швеции и объяснила принципы работы платформы некоторым весьма влиятельным слушателям в рамках закрытого мероприятия, посвященного способам защиты детей в социальных сетях.

«Было здорово получить поддержку и увидеть интерес к нашей деятельности, но еще предстоит проделать большую работу, — заключает Копонен.  — Быть запуганным в интернете может быть так же плохо, как в ситуации “лицом к лицу”, если не хуже».

Примеры интерфейса программы SomeBuddy.

SomeBuddy использует искусственный интеллект и машинное обучение для автоматизации работы, которую обычно выполняют юристы, социальные психологи и полиция.

SomeBuddy

Текст: Анне Саломяки

Хотите узнать больше хороших новостей? Подпишитесь на нашу новостную рассылку здесь

Поделиться: